← 返回 Blog BARBOT / BLOG 大模型公司为什么越来越像 Fabless,模型又为什么越来越像 SoC OpenAI 和 Anthropic 越来越像 AI 时代的 Fabless;大模型则像一颗从单功能芯片,演化成复杂 SoC 的产品。 Neal 2026-08-26 09:23:35 观点 有个类比我觉得挺有意思。知识一旦学杂了,会突然发现:OpenAI、Anthropic 越来越像 AI 时代的 Fabless 芯片设计公司;大模型则越来越像一颗从单功能芯片,演化成复杂 SoC 的产品。 这个观察最早是 Karpathy 提出来的。有意思的地方在于:模型架构和模拟芯片的内部构造,居然能对上。芯片主流还在往集成走,BMS、AFE、SoC,包括 DSP,并且把很多模拟功能数字化。从另外一个角度看,两边是在殊途同归。 为什么说它像?可以分几层看。 ### 第一层:AI 公司确实很像 Fabless | 模拟芯片 Fabless | 大模型公司 | | --- | --- | | 定义产品规格 | 定义模型能力、延迟、上下文和成本 | | 设计电路架构 | 设计模型架构、训练方案和推理策略 | | Foundry 负责制造 | GPU、Cerebras 及云计算基础设施负责计算 | | Tape-out | 大规模预训练 | | Characterization | Benchmark、能力评测、安全评测 | | 后硅验证 | Post-training、真实用户测试 | | 新 Revision / Stepping | 模型版本迭代、Checkpoint、Retune | | 产品矩阵 | Sol、Terra、Luna、Spark 等模型分型 | | FAE 和参考设计 | Agent SDK、最佳实践、行业解决方案 | | 客户 Design-in | 模型进入企业真实工作流 | 大模型公司掌握的是: - 模型架构 - 数据与训练配方 - Post-training - Eval - 推理系统 - Agent Harness - 产品定义 但大量底层算力由 NVIDIA、AMD、Cerebras 及云计算平台提供。这和 Fabless 设计芯片、晶圆厂负责制造非常相似。 甚至可以把一次大规模训练理解成「软件世界的 Tape-out」:成本非常高,训练完成后再通过后训练、蒸馏和推理优化,做成不同产品版本。 ### 第二层:模型正在经历「从单功能芯片到 SoC」的过程 这有点像 MoE。MoE 模型内部包含大量 Expert 子网络,通过 Router 对每个 Token 进行动态路由,只稀疏激活其中少数 Expert 参与计算。 早期 LLM 更像一颗单功能模拟芯片: ```text 输入文本 → Transformer → 输出文本 ``` 现在的模型系统则越来越像 SoC: ```text 语言理解 + Reasoning + Vision / Audio + Tool Calling + Computer Use + Memory + Retrieval + Code Execution + Verifier + Safety Policy + Multi-Agent Routing ``` 这很像模拟芯片的发展: ```text 运放 → 仪表放大器 → PGA / ADC / DAC → AFE → 集成诊断、校准与数字接口 → 面向 BMS、数字电源、汽车传感器的系统级芯片 ``` 以前客户需要运放、ADC、基准源、Mux、保护电路、MCU 分别搭建;后来原厂把高频组合封装成 AFE 或专用 SoC。 AI 模型也会发生这种能力内收。很多能力一开始依赖外部脚手架,比如单独的 Planner、Router、Reflection 模块以及 Sub-agent 调度器。但随着模型能力增强,尤其是通过 agentic post-training 和 reinforcement learning,越来越多原本在外围的能力开始成为模型的原生能力。模型可以自己做任务分解和规划,自主决定何时调用工具,甚至生成和调度 Sub-agents,再通过并行执行完成复杂任务。 现在 OpenAI 和 Anthropic 逐渐把这些能力集成进模型及其 Runtime,形成越来越完整的「Agent SoC」。 ### 第三层:MoE 很像内部异构模块,但不能简单等同于多个芯片 MoE 可以类比成一颗芯片内部存在多个专用模块,由 Router 根据输入选择性激活: ```text 输入任务 ↓ Router ├─ 代码 Expert ├─ 数学 Expert ├─ 语言 Expert ├─ 视觉 Expert └─ 工具使用 Expert ``` 它更接近: - 异构 SoC - 条件激活的功能模块 - Power Gating - 共享平台上的多个专用计算单元 不是每次都让全部参数参与计算,就像芯片不会让所有外设和处理单元同时满功率运行。 但是,模型里的 Expert 不一定能明确解释成「代码模块」「数学模块」。它通常是训练过程中自动形成的参数分工,边界没有模拟芯片模块那么确定。 ### 更深的一层:Agent Harness 特别像「数字辅助模拟」 现在大家都在推数字电源一类的方向:把很多模拟功能,内化成数字校准、补偿和控制。 模拟芯片的趋势并不是模拟部分消失,而是: > 用数字校准、补偿、控制、诊断和通信,把一个存在偏差、噪声和工艺波动的模拟核心,变成更稳定、更可量产的系统。 LLM 也是概率系统。它存在: - 幻觉 - 输出不确定 - 长任务漂移 - 工具调用失败 - 上下文丢失 - 结果难以验证 因此,Agent 系统开始在模型外围加入确定性的工程结构: ```text 概率模型 + 权限控制 + 状态机 + Tool Schema + Sandbox + Checkpoint + Memory + Build / Test + Verifier + Eval + Human-in-the-loop ``` 这非常像: ```text 模拟核心 + 数字校准 + 状态机 + 保护电路 + 故障诊断 + 数字接口 + Production Test ``` > Agent Harness 之于大模型,类似数字辅助电路、校准和保护系统之于模拟芯片。模型提供概率性的智能核心,Harness 负责把它约束成可验证、可恢复、可量产的工程系统。 ### 模型也会像芯片一样形成产品矩阵 未来不会只有一个「最强模型」覆盖所有任务,就像模拟芯片公司不会只生产一颗万能芯片。 | 芯片产品策略 | 模型产品策略 | | --- | --- | | 高精度运放 | 高推理精度模型 | | 低功耗运放 | 低成本、小参数模型 | | 高速运放 | Spark 这类低延迟模型 | | 仪表运放 | 面向特定专业任务的模型 | | AFE | 多模态、工具、Memory 集成模型 | | MCU / SoC | 通用工作型 Agent | | ASIC | 行业专用模型或垂直 Agent | | 不同封装和温度等级 | 不同上下文、速度、价格与安全等级 | 就像 OpenAI 的 Codex Spark:它之所以在更强的模型之后仍然存在,就和一家公司推出高性能 SoC 以后,仍然保留高速运放或低功耗产品一样。 > 它不是能力最强,但它在延迟、成本和具体负载上具有更好的 PPA。 模型也开始出现自己的「PPA」: - Performance:任务完成质量 - Price:训练与推理成本 - Agility:响应速度和交互延迟 ### 但是又不能完全等同 毕竟一边是软件,一边是硬件。主要有三个区别: 1. 芯片 Tape-out 后物理结构基本固定;模型还能通过后训练、上下文、工具和 Harness 持续改变行为。 2. 芯片有明确的电气指标和 Sign-off;模型输出具有概率性,Eval 很难做到绝对完备。 3. 很多 Agent 能力并没有集成在模型权重里,而是部署在模型外围的 Runtime、工具和产品层。 所以简单来讲: > 大模型不是一颗芯片,而是「模型核心 + 推理芯片 + Agent Harness + 工具生态」共同组成的系统。 这也是为什么我们更关心 [芯片行业 Agent 如何从“能回答”走向“能完成工作”](/article/chip-agent-from-answer-to-completion),以及一家模拟芯片公司要不要因此重建自己的工程学习系统。