所有 AI 问题，拆到底都是算力问题
算力是一棵大树的根——智能的两条路径都从这里生长
去年做 AI 陪伴产品的时候，卡在一个很小的功能上。
想让角色记住用户说过的话，根据之前的对话调语气。技术上没什么难的，把历史对话往上下文窗口里一塞就行。但每次对话几万 token 的历史，乘上用户数，乘上对话频率，账单直接就炸了。
这个功能硬生生压了两个月。后来两件事撞到一起——模型变聪明了，同样质量的回复 prompt 能写得更短；推理成本又砍了一个零——终于上线了。
其实挺普通的。一个功能被成本卡住，后来成本降了，上线了。做产品的人都经历过。
但这件事在我脑子里留了很久。
不是因为多重要。是我后来意识到，那两个月等的根本不是技术突破。是价格在降。降到某个点上，这个功能突然就能做了。
过了好几个月，我才注意到，AI 圈每一次"爆发"，其实都是同一件事。
Agent 今年炸了，因为 2023 年根本用不起。GPT-4 当时输入一百万 token 三十美元，输出六十。Agent 跑一次任务几十次推理，哪个公司烧得起。十七个月之后，GPT-4 的综合 token 价从 $36/百万跌到 $4。Andrew Ng 算过，一年降了 79%。a16z 管这玩意叫 LLMflation，同等性能推理成本每年降十倍左右。成本过了线，Agent 到处都是了。
SaaS 的地基在晃，是因为定制方案的成本塌下来了。不会写代码的人拿 Claude Code 给自己搓个工具，中间要烧几百次推理调用——两年前是天文数字，现在是日常开销。
超级个体这概念能成立，说白了就是并行执行不贵了。你一个人跑十个 Agent 线程，推理量就是十倍。token 没有便宜到今天这个程度，这笔账怎么算都算不过来。
我慢慢觉得，不是 AI 圈隔三差五冒出新趋势——是同一根成本曲线在往下走，走到哪，哪就炸了。
后来我就用这个逻辑去看手头所有产品。推理太贵？成本没降到那个点。模型不够聪明？训练算力还没堆够。卡在哪都一样，往底下一捅，答案清清楚楚。
说句不严谨的话：AI 陪伴、日抛软件、人人都是开发者、龙虾热、印刷术时刻——快两百篇文章聊过的所有话题，全捅到底，全是算力。
更好的算力让模型更强、推理更便宜。更多事变可能，需求就爆。需求爆了，更多钱砸进算力。飞轮。
但这个飞轮有一个地方，大家不怎么聊。
上周 Jensen Huang 在 GTC 上说，他看到的 GPU 订单需求已经一万亿美元了。一年前还是五千亿。翻了个倍。一万亿，差不多四个台积电加起来。
数字这种东西，单独看没什么感觉，放在一起才吓人。Meta 手上三十五万颗 H100，年底要干到一百三十万。微软大概五十万颗。Nvidia 两年卖了大概三百万颗 H100 级别芯片，新一代 Blackwell 卖空到 2026 年中，积压订单还有三百六十万颗。一张数据中心 GPU 从下单到到货，最短的三十六个星期，往五十二走。小公司和 neocloud 更不用说了，几个月等货名单，配额压到最低。
但真正让我停下来想了很久的，倒不是缺货这件事。
GPU 在大集群总成本里，其实只占大概四成。剩下六成是网络、电力、冷却、设施。拉一个五年 TCO 模型出来就清楚了——一百颗 H100 采购价三百万美元，实际五年下来要花八百六十万。GPU 才三分之一。底下那层东西比芯片值钱，也比芯片持久。
你再想想另一件事。
2023 年 3 月，GPT-4 是神。所有人都在聊它，所有产品都在接它。到 2024 年 7 月，开源的 Llama 3-405B 在 MMLU 上就超了它——价格只有百分之一。2026 年，已经没人提这个名字了。前沿模型的同等性能成本每年降五到十倍，完全商品化的层级跌得更离谱，四十到九百倍。半衰期越来越短。
但数据中心不会这样。当年训 GPT-4 的那批 A100 集群，现在分给一百个小模型跑推理，还在老老实实赚钱。
硬件是平台。模型是应用。赌某一个模型跟 1998 年赌某一个网站差不多——押对了赚一笔，押错了就没了。赌算力基建，赌的是整个互联网的骨干网。
我们公司做 GPU 融资就是这套逻辑。GPU 本身有多酷，不太重要。AI 不管往哪个方向变，总得跑在硬件上。淘金热的时候，卖铲子的不用猜哪条河里有金子。
说到这，还有个更大的变化一直在发生，只是不那么显眼。
过去几十年，价值堆在应用层。Office、Salesforce、Oracle——软件吃掉世界。AI 时代钱开始往两头跑了。一头是底层的算力基建，另一头是顶层的认知积累——AI 跟你处得越久就越懂你，这种理解没法复制。中间层慢慢挤扁了。代码、SaaS、大部分中低端模型，日子会越来越难过。
开源模型日常任务已经不输两年前的前沿了，顶级模型像 Opus 4.6 在复杂推理上还有明显领先，也还有定价权。但"前沿"一直在重划——今天的前沿，十八个月以后就是白菜。
模型在贬值。关系在升值。而算力，在这两头都是刚需。
上面聊的，说到底还是钱和产业。但这事还有一个更深的东西，跟钱关系不大。
芯片打架，表面上是 GPU、TPU、ASIC 三条路线抢市场，Nvidia 对 Google 对一帮新玩家。但你仔细看，每条路线选了什么，背后赌的东西其实不一样——它们赌的是"智能到底是什么"。
GPU 这条路，说白了就是觉得智能还在变。不知道下一个突破在哪，硬件得够灵活，什么架构来了都能跑。CUDA 生态一锁死，就算后面有了更好的芯片，切换成本也高到没人敢动。背后的判断很简单：智能在发散，未来不确定，灵活才是安全牌。
另一个方向是 TPU。赌矩阵运算就是机器学习最重要的事。Google 2016 年发 TPU v1 的时候，Attention Is All You Need 还没影——那篇论文 2017 年 6 月才出来。赌的压根不是 Transformer，是矩阵运算本身。后来 Transformer 统治了，刚好踩中。方向对了就往死里优化——定制互联、超大规模、系统级协同。这条路反过来：智能已经在收敛了，核心计算形态基本定了，后面全是效率问题。
ASIC 不在这个二元对立里。它赌的是推理是主战场，模式已知，值得专门造。假设计算模式不会再大变——真变了，专用芯片直接废掉。三条路里胆子最大的。
我自己判断，短期 GPU 赢面还是最大。生态锁得太深，灵活性在当下最值钱。不过 Transformer 从 2017 年到现在统治快十年了，在一个迭代这么快的领域里，这已经算异数。再续上三五年，TPU 的路线只会越来越实。ASIC 风险最高——当前范式比大多数人以为的稳，真来一次范式转移，全没。
最后谁赢，我觉得关键不在技术，在生态。
有人问过我一个挺直接的问题：你做算力基建的 CTO，下了班又自己搓一堆小产品，不会精神分裂吗。
恰恰反过来。两头都摸，算力这件事在我脑子里才对得上。
做 Compute Labs，我能看到成本曲线在往哪个方向走——谁家的芯片在迭代，谁在打价格战，推理需求以什么速度在涨。自己造东西，我知道那条曲线落到地上到底是什么——一个功能做不做得起，一个想法太早了还是刚好到了该出的时候。
创业给的是宏观。爱好让我知道这些数字落到现实里到底长什么样。
接下来三五年，模型还会变强，训练算力还在指数级地涨。推理还会变便宜，芯片在迭代、蒸馏在进步、价格战在加剧。Deloitte 预测 2026 年推理会吃掉总算力的三分之二，推理芯片市场从两百亿美元跳到五百亿以上，全球 AI 数据中心资本开支大概四千到四千五百亿。GPU 短期还是缺。谁能拿到、谁能高效地用，就是最硬的竞争优势。
一个 AI 陪伴产品，想记住用户说过的话。几万 token 的历史，乘上用户数，账单炸了。等了两个月，成本降了，上线了。
就这么一件小到不能再小的事。
Agent 的爆发、SaaS 的松动、超级个体、日抛软件、快两百篇文章聊过的每一个话题——全是这件事，只是尺度不一样。
大的小的，其实一回事。