← 返回 Blog

观点

大模型公司为什么越来越像 Fabless,模型又为什么越来越像 SoC

OpenAI 和 Anthropic 越来越像 AI 时代的 Fabless;大模型则像一颗从单功能芯片,演化成复杂 SoC 的产品。

X LinkedIn 微信二维码

有个类比我觉得挺有意思。知识一旦学杂了,会突然发现:OpenAI、Anthropic 越来越像 AI 时代的 Fabless 芯片设计公司;大模型则越来越像一颗从单功能芯片,演化成复杂 SoC 的产品。

这个观察最早是 Karpathy 提出来的。有意思的地方在于:模型架构和模拟芯片的内部构造,居然能对上。芯片主流还在往集成走,BMS、AFE、SoC,包括 DSP,并且把很多模拟功能数字化。从另外一个角度看,两边是在殊途同归。

为什么说它像?可以分几层看。

第一层:AI 公司确实很像 Fabless

模拟芯片 Fabless 大模型公司
定义产品规格 定义模型能力、延迟、上下文和成本
设计电路架构 设计模型架构、训练方案和推理策略
Foundry 负责制造 GPU、Cerebras 及云计算基础设施负责计算
Tape-out 大规模预训练
Characterization Benchmark、能力评测、安全评测
后硅验证 Post-training、真实用户测试
新 Revision / Stepping 模型版本迭代、Checkpoint、Retune
产品矩阵 Sol、Terra、Luna、Spark 等模型分型
FAE 和参考设计 Agent SDK、最佳实践、行业解决方案
客户 Design-in 模型进入企业真实工作流

大模型公司掌握的是:

  • 模型架构
  • 数据与训练配方
  • Post-training
  • Eval
  • 推理系统
  • Agent Harness
  • 产品定义

但大量底层算力由 NVIDIA、AMD、Cerebras 及云计算平台提供。这和 Fabless 设计芯片、晶圆厂负责制造非常相似。

甚至可以把一次大规模训练理解成「软件世界的 Tape-out」:成本非常高,训练完成后再通过后训练、蒸馏和推理优化,做成不同产品版本。

第二层:模型正在经历「从单功能芯片到 SoC」的过程

这有点像 MoE。MoE 模型内部包含大量 Expert 子网络,通过 Router 对每个 Token 进行动态路由,只稀疏激活其中少数 Expert 参与计算。

早期 LLM 更像一颗单功能模拟芯片:

输入文本 → Transformer → 输出文本

现在的模型系统则越来越像 SoC:

语言理解
+ Reasoning
+ Vision / Audio
+ Tool Calling
+ Computer Use
+ Memory
+ Retrieval
+ Code Execution
+ Verifier
+ Safety Policy
+ Multi-Agent Routing

这很像模拟芯片的发展:

运放
→ 仪表放大器
→ PGA / ADC / DAC
→ AFE
→ 集成诊断、校准与数字接口
→ 面向 BMS、数字电源、汽车传感器的系统级芯片

以前客户需要运放、ADC、基准源、Mux、保护电路、MCU 分别搭建;后来原厂把高频组合封装成 AFE 或专用 SoC。

AI 模型也会发生这种能力内收。很多能力一开始依赖外部脚手架,比如单独的 Planner、Router、Reflection 模块以及 Sub-agent 调度器。但随着模型能力增强,尤其是通过 agentic post-training 和 reinforcement learning,越来越多原本在外围的能力开始成为模型的原生能力。模型可以自己做任务分解和规划,自主决定何时调用工具,甚至生成和调度 Sub-agents,再通过并行执行完成复杂任务。

现在 OpenAI 和 Anthropic 逐渐把这些能力集成进模型及其 Runtime,形成越来越完整的「Agent SoC」。

第三层:MoE 很像内部异构模块,但不能简单等同于多个芯片

MoE 可以类比成一颗芯片内部存在多个专用模块,由 Router 根据输入选择性激活:

输入任务
  ↓
Router
  ├─ 代码 Expert
  ├─ 数学 Expert
  ├─ 语言 Expert
  ├─ 视觉 Expert
  └─ 工具使用 Expert

它更接近:

  • 异构 SoC
  • 条件激活的功能模块
  • Power Gating
  • 共享平台上的多个专用计算单元

不是每次都让全部参数参与计算,就像芯片不会让所有外设和处理单元同时满功率运行。

但是,模型里的 Expert 不一定能明确解释成「代码模块」「数学模块」。它通常是训练过程中自动形成的参数分工,边界没有模拟芯片模块那么确定。

更深的一层:Agent Harness 特别像「数字辅助模拟」

现在大家都在推数字电源一类的方向:把很多模拟功能,内化成数字校准、补偿和控制。

模拟芯片的趋势并不是模拟部分消失,而是:

用数字校准、补偿、控制、诊断和通信,把一个存在偏差、噪声和工艺波动的模拟核心,变成更稳定、更可量产的系统。

LLM 也是概率系统。它存在:

  • 幻觉
  • 输出不确定
  • 长任务漂移
  • 工具调用失败
  • 上下文丢失
  • 结果难以验证

因此,Agent 系统开始在模型外围加入确定性的工程结构:

概率模型
+ 权限控制
+ 状态机
+ Tool Schema
+ Sandbox
+ Checkpoint
+ Memory
+ Build / Test
+ Verifier
+ Eval
+ Human-in-the-loop

这非常像:

模拟核心
+ 数字校准
+ 状态机
+ 保护电路
+ 故障诊断
+ 数字接口
+ Production Test

Agent Harness 之于大模型,类似数字辅助电路、校准和保护系统之于模拟芯片。模型提供概率性的智能核心,Harness 负责把它约束成可验证、可恢复、可量产的工程系统。

模型也会像芯片一样形成产品矩阵

未来不会只有一个「最强模型」覆盖所有任务,就像模拟芯片公司不会只生产一颗万能芯片。

芯片产品策略 模型产品策略
高精度运放 高推理精度模型
低功耗运放 低成本、小参数模型
高速运放 Spark 这类低延迟模型
仪表运放 面向特定专业任务的模型
AFE 多模态、工具、Memory 集成模型
MCU / SoC 通用工作型 Agent
ASIC 行业专用模型或垂直 Agent
不同封装和温度等级 不同上下文、速度、价格与安全等级

就像 OpenAI 的 Codex Spark:它之所以在更强的模型之后仍然存在,就和一家公司推出高性能 SoC 以后,仍然保留高速运放或低功耗产品一样。

它不是能力最强,但它在延迟、成本和具体负载上具有更好的 PPA。

模型也开始出现自己的「PPA」:

  • Performance:任务完成质量
  • Price:训练与推理成本
  • Agility:响应速度和交互延迟

但是又不能完全等同

毕竟一边是软件,一边是硬件。主要有三个区别:

  1. 芯片 Tape-out 后物理结构基本固定;模型还能通过后训练、上下文、工具和 Harness 持续改变行为。
  2. 芯片有明确的电气指标和 Sign-off;模型输出具有概率性,Eval 很难做到绝对完备。
  3. 很多 Agent 能力并没有集成在模型权重里,而是部署在模型外围的 Runtime、工具和产品层。

所以简单来讲:

大模型不是一颗芯片,而是「模型核心 + 推理芯片 + Agent Harness + 工具生态」共同组成的系统。

这也是为什么我们更关心 芯片行业 Agent 如何从“能回答”走向“能完成工作”,以及一家模拟芯片公司要不要因此重建自己的工程学习系统。

上一篇

代码不再是瓶颈之后:我们怎么读 Anthropic 的 AI-native SDLC

下一篇

从 SDK 到 AI-native Development Agent:我们在一家 MCU/DSP 原厂跑通了这条路

代码不再是瓶颈之后:我们怎么读 Anthropic 的 AI-native SDLC
观点

代码不再是瓶颈之后:我们怎么读 Anthropic 的 AI-native SDLC

Neal 8 分钟阅读
一家模拟芯片公司,在 AI 时代,是不是也应该成为一家 AI 公司?
观点

一家模拟芯片公司,在 AI 时代,是不是也应该成为一家 AI 公司?

Neal 13 分钟阅读

订阅 Barbot Blog

芯片替代、VAVE 与 Agentic AI 实践,同步发布于 Substack。

去 Substack 订阅

让 Agent 真正进入芯片工作流

预约一次沟通,看看 P2P Agent、AI FAE 或 Coding Agent 如何接到你的真实资料上。

预约会议