有个类比我觉得挺有意思。知识一旦学杂了,会突然发现:OpenAI、Anthropic 越来越像 AI 时代的 Fabless 芯片设计公司;大模型则越来越像一颗从单功能芯片,演化成复杂 SoC 的产品。
这个观察最早是 Karpathy 提出来的。有意思的地方在于:模型架构和模拟芯片的内部构造,居然能对上。芯片主流还在往集成走,BMS、AFE、SoC,包括 DSP,并且把很多模拟功能数字化。从另外一个角度看,两边是在殊途同归。
为什么说它像?可以分几层看。
第一层:AI 公司确实很像 Fabless
| 模拟芯片 Fabless | 大模型公司 |
|---|---|
| 定义产品规格 | 定义模型能力、延迟、上下文和成本 |
| 设计电路架构 | 设计模型架构、训练方案和推理策略 |
| Foundry 负责制造 | GPU、Cerebras 及云计算基础设施负责计算 |
| Tape-out | 大规模预训练 |
| Characterization | Benchmark、能力评测、安全评测 |
| 后硅验证 | Post-training、真实用户测试 |
| 新 Revision / Stepping | 模型版本迭代、Checkpoint、Retune |
| 产品矩阵 | Sol、Terra、Luna、Spark 等模型分型 |
| FAE 和参考设计 | Agent SDK、最佳实践、行业解决方案 |
| 客户 Design-in | 模型进入企业真实工作流 |
大模型公司掌握的是:
- 模型架构
- 数据与训练配方
- Post-training
- Eval
- 推理系统
- Agent Harness
- 产品定义
但大量底层算力由 NVIDIA、AMD、Cerebras 及云计算平台提供。这和 Fabless 设计芯片、晶圆厂负责制造非常相似。
甚至可以把一次大规模训练理解成「软件世界的 Tape-out」:成本非常高,训练完成后再通过后训练、蒸馏和推理优化,做成不同产品版本。
第二层:模型正在经历「从单功能芯片到 SoC」的过程
这有点像 MoE。MoE 模型内部包含大量 Expert 子网络,通过 Router 对每个 Token 进行动态路由,只稀疏激活其中少数 Expert 参与计算。
早期 LLM 更像一颗单功能模拟芯片:
输入文本 → Transformer → 输出文本
现在的模型系统则越来越像 SoC:
语言理解
+ Reasoning
+ Vision / Audio
+ Tool Calling
+ Computer Use
+ Memory
+ Retrieval
+ Code Execution
+ Verifier
+ Safety Policy
+ Multi-Agent Routing
这很像模拟芯片的发展:
运放
→ 仪表放大器
→ PGA / ADC / DAC
→ AFE
→ 集成诊断、校准与数字接口
→ 面向 BMS、数字电源、汽车传感器的系统级芯片
以前客户需要运放、ADC、基准源、Mux、保护电路、MCU 分别搭建;后来原厂把高频组合封装成 AFE 或专用 SoC。
AI 模型也会发生这种能力内收。很多能力一开始依赖外部脚手架,比如单独的 Planner、Router、Reflection 模块以及 Sub-agent 调度器。但随着模型能力增强,尤其是通过 agentic post-training 和 reinforcement learning,越来越多原本在外围的能力开始成为模型的原生能力。模型可以自己做任务分解和规划,自主决定何时调用工具,甚至生成和调度 Sub-agents,再通过并行执行完成复杂任务。
现在 OpenAI 和 Anthropic 逐渐把这些能力集成进模型及其 Runtime,形成越来越完整的「Agent SoC」。
第三层:MoE 很像内部异构模块,但不能简单等同于多个芯片
MoE 可以类比成一颗芯片内部存在多个专用模块,由 Router 根据输入选择性激活:
输入任务
↓
Router
├─ 代码 Expert
├─ 数学 Expert
├─ 语言 Expert
├─ 视觉 Expert
└─ 工具使用 Expert
它更接近:
- 异构 SoC
- 条件激活的功能模块
- Power Gating
- 共享平台上的多个专用计算单元
不是每次都让全部参数参与计算,就像芯片不会让所有外设和处理单元同时满功率运行。
但是,模型里的 Expert 不一定能明确解释成「代码模块」「数学模块」。它通常是训练过程中自动形成的参数分工,边界没有模拟芯片模块那么确定。
更深的一层:Agent Harness 特别像「数字辅助模拟」
现在大家都在推数字电源一类的方向:把很多模拟功能,内化成数字校准、补偿和控制。
模拟芯片的趋势并不是模拟部分消失,而是:
用数字校准、补偿、控制、诊断和通信,把一个存在偏差、噪声和工艺波动的模拟核心,变成更稳定、更可量产的系统。
LLM 也是概率系统。它存在:
- 幻觉
- 输出不确定
- 长任务漂移
- 工具调用失败
- 上下文丢失
- 结果难以验证
因此,Agent 系统开始在模型外围加入确定性的工程结构:
概率模型
+ 权限控制
+ 状态机
+ Tool Schema
+ Sandbox
+ Checkpoint
+ Memory
+ Build / Test
+ Verifier
+ Eval
+ Human-in-the-loop
这非常像:
模拟核心
+ 数字校准
+ 状态机
+ 保护电路
+ 故障诊断
+ 数字接口
+ Production Test
Agent Harness 之于大模型,类似数字辅助电路、校准和保护系统之于模拟芯片。模型提供概率性的智能核心,Harness 负责把它约束成可验证、可恢复、可量产的工程系统。
模型也会像芯片一样形成产品矩阵
未来不会只有一个「最强模型」覆盖所有任务,就像模拟芯片公司不会只生产一颗万能芯片。
| 芯片产品策略 | 模型产品策略 |
|---|---|
| 高精度运放 | 高推理精度模型 |
| 低功耗运放 | 低成本、小参数模型 |
| 高速运放 | Spark 这类低延迟模型 |
| 仪表运放 | 面向特定专业任务的模型 |
| AFE | 多模态、工具、Memory 集成模型 |
| MCU / SoC | 通用工作型 Agent |
| ASIC | 行业专用模型或垂直 Agent |
| 不同封装和温度等级 | 不同上下文、速度、价格与安全等级 |
就像 OpenAI 的 Codex Spark:它之所以在更强的模型之后仍然存在,就和一家公司推出高性能 SoC 以后,仍然保留高速运放或低功耗产品一样。
它不是能力最强,但它在延迟、成本和具体负载上具有更好的 PPA。
模型也开始出现自己的「PPA」:
- Performance:任务完成质量
- Price:训练与推理成本
- Agility:响应速度和交互延迟
但是又不能完全等同
毕竟一边是软件,一边是硬件。主要有三个区别:
- 芯片 Tape-out 后物理结构基本固定;模型还能通过后训练、上下文、工具和 Harness 持续改变行为。
- 芯片有明确的电气指标和 Sign-off;模型输出具有概率性,Eval 很难做到绝对完备。
- 很多 Agent 能力并没有集成在模型权重里,而是部署在模型外围的 Runtime、工具和产品层。
所以简单来讲:
大模型不是一颗芯片,而是「模型核心 + 推理芯片 + Agent Harness + 工具生态」共同组成的系统。
这也是为什么我们更关心 芯片行业 Agent 如何从“能回答”走向“能完成工作”,以及一家模拟芯片公司要不要因此重建自己的工程学习系统。