功耗、成本、可靠性:大模型芯片如何打破芯片的“不可能三角”

2023年,李宗霖已经在芯片行业深耕了二十余年,他做了一个决定:与几位同样在芯片行业做了十几二十年的同事重新创业。
他的此前职业履历十分亮眼:在联发科一路晋升至无线通信事业部总经理,2020年出任OPPO哲库首席运营官,全面统筹哲库芯片团队运营与自研手机SoC项目推进。
那时候的李宗霖与团队反复追问几个问题:这一次到底要做什么?能解决客户什么问题?几年以后是不是市场所需要的?
"我们希望把过去累积的经验做成真正被需要的产品。"10月29日,李宗霖在苏州举行的发布会上这样回忆当初创业的情形。他的身份已经是XHEART新芯航途CEO。
一个偶然的机缘,李宗霖认识了Momenta创始人曹旭东。两人一见如故,聊技术、聊市场,也聊了未来几年智能驾驶会发生什么样的变化。

两人形成了两个共识:一是大模型会改变智能驾驶,也会改变芯片的设计方式;二是大模型将推动新一轮科技变革,而汽车是率先惠及更多用户的起点。
基于这两点共识,李宗霖确立了创业的逻辑:用大模型定义芯片。
一
大模型定义芯片:破解不可能三角
用大模型定义芯片,在那个时间点上,是一件反共识的事情。
2023年,行业里通行的做法是先做芯片,再让模型去适配。李宗霖和团队的做法是反过来,从真实应用里的模型需求出发,倒推芯片的架构。
这个判断的起点是模型自己变了。过去的自动驾驶由感知、预测、规划等多个小模型拼起来,分工看似清楚,问题也出在分工上:信息在模型间传递时维度降低,很多有效信息在交接里丢掉。
李宗霖认为,小模型能力的上限,本质上就是规划设计者的认知上限。
端到端大模型把海量数据真正用起来,芯片被出了三道题:算力能不能在量产模型里充分发挥;今天的芯片能不能跟上明天的模型;能不能用合理能耗换到需要的能力。堆晶体管永远能提算力,车上的散热边界却是硬约束。
三道题要放在一起回答,解法只有一个:按模型的需求重新组织计算、存储和数据流转。
Momenta的需求和这条路线互为因果。曹旭东的目标是L4规模化:不是几千台车试跑,而是百万台、千万台在全中国、全世界跑起来。要做到这件事,得解决数百万个长尾场景,模型至少需要10B参数,大概率需要100B。
通用芯片在这里碰上的是不可能三角:功耗、成本、车规可靠性。硬接大模型,等于在车上放一台巨大的GPU服务器;迁就这些约束,模型又做不到100B。
曹旭东因此认定,大模型定义的芯片相比通用芯片,性能能够提升10倍。这个判断2022年底就有了,两家公司从2023年起一起把它做出来。
10月29日,曹旭东才第一次对外宣讲,并把这称作Momenta的第三个洞察。
落到产品上,定义芯片是一连串具体的取舍。模型计算在集中,架构就要为集中做准备:X7 Ultra用超大核NPU,把散在小核之间、百GB/s级的数据交互聚合到内部TB/s级互联上。
模型从卷积网络转向Transformer以后,一些算子在早期NPU上得不到支持,要交回CPU处理,切换和外部内存读写都增加了。业界的办法是在NPU里加向量处理器,提升还是很有限。

XHEART于是针对Softmax、Transpose这些影响整体耗时的大头专门做了硬件加速器,并要求原生支持浮点高精度,既要快也要准。AI工具链则把融合从局部几步扩大到整张网络,中间结果不必反复写回内存。
这些取舍最后收进一个数字:700 TOPS。约束是用真实量产模型评测,且量化后输出与FP32浮点模型相似度达到99.99%以上。
在这个前提下,NPU计算利用率做到98.7%,内存带宽消耗比行业旗舰产品低80%,能效提升100%,可部署的模型参数量释放10倍。
车上的大模型不只要算得快,还要算得稳。X7 Ultra把复杂控制与调度交给中国首发量产的Armv9车规级CPU,又用深度异构计算把传感器预处理放到离数据最近的地方,接得住千线级激光雷达每秒2000万点的点云。
摄像头盯的也不是平均时延而是抖动:平时30毫秒、偶尔飘到50毫秒,安全就由这50毫秒兜底。
安全也被拆成两层。ASIL-B的功能安全与通过ASIL-D认证的内置MCU是硬件的底子,但智驾故障里真正的硬件故障占比并不高,多数是超出了模型算法的边界。
硬件安全好比身体,行驶安全好比大脑,足够的算力和模型迭代空间本身就是安全的一部分。
这条路线本身也带着取舍。2023年正逢资本寒冬,团队不大,芯片又要长期投入,资源只够选一次:做通用架构不会犯错,但给不出好性能;走专用路线有风险,却可能带来数量级的价值。他们选了后者。
验证很直接:首颗X7回片不到24小时点亮,第17天实现整车闭环,第21天开放客户试乘。
二
闭环创新:数字不只是销量,还是长尾回流
大模型定义芯片落地之后,最先被改变的不是芯片规格,而是谁在什么时候坐到同一张桌子前。Momenta和新芯航途交给车企的也不是一颗芯片加一套算法,而是一整套跑通的方案。
第一个闭环开在流片之前。XHEART从芯片定义阶段就和算法团队一起,围绕持续演进的主线模型讨论架构和算子需求,既看今天的模型怎么跑,也判断未来几年哪些计算越来越重要,值得深度优化的环节就在这里挑出来。模型告诉芯片时间花在哪里,软硬协同让芯片决定为未来准备什么。
Momenta负责给出需求的确定性。曹旭东说,模型迭代的速度没有一个公式可以算,唯一可能做到的办法是超一流的团队加上超一流的洞察;很多预判来自和主机厂一起谈未来三到五年的战略与产品规划,把不确定性一层层剥掉,再把确定性交给芯片。于是从模型设计到芯片设计、从功能定义到功能验证,都在流片之前做完了。
第二个闭环在车上。XHEART明确不做直接向车企供硬件的一级供应商,但参考设计按主机厂的量产标准要求自己,提供经过充分验证的方案,还开展域控级PreDV测试,把客户的开发难度和进度揽到自己手上。
客户的介入也很具体。上汽方面分管质量与技术的负责人说,自己每周都去测曹旭东的大模型,但从不谈技术,只谈客户体验:这个不行,必须改。在他看来,消费者只为体验付钱,选合作伙伴则相当于选人生伙伴,要长期、要价值观一致。
闭环里最硬的一环是人。一位工程师去客户现场支持交付,出发前被HR问到什么时候回来,他说不知道,就先买了一张单程机票,票上没有返程日期。
链条两端还有伙伴。台积电在公司成立初期就给了支持,台积电副总经理陈平说,三年前听他们讲L3、L4和物理AI,像科幻片里的东西,只因这两位公认靠谱他才信;今天看到会场外一排量产车型,他仍觉得难以置信。

他也摆出了约束:要3000到4000 TOPS、功耗可控、面积有限,就非用三纳米、五纳米不可,而我们的工艺已经准备好了。
车企那一端更像一次下注。上汽方面回忆,早年在北京试驾,曹旭东给了一条规定路线,他临时加了一套补充题,车恰好走过一条正在修路的街,绕开了所有路障。
后来聊的都是软件,他忽然问起芯片战略在哪里,曹旭东说在路上,他没有丝毫犹豫:咱们就这么干。今天这些车挂着上汽的品牌,里面装的不只是中国的软件,还有中国的芯片。
两个闭环交叠起来,才长成那条难以复制的回路:量产装车带来数据,数据喂大模型,模型需求再进入下一代芯片。X7系列量产8个月、搭载10款车型,Momenta累计量产突破140万台,这些数字不只是销量,而是真实长尾在持续回流。
XHEART新芯航途下一代X9把目标定在3000 TOPS与700GB/s内存带宽、计划2027年推出,等的正是模型规模继续变大。
三
智驾摩尔定律:从两年10倍走到每年10倍
陈平在发布会上讲了件“旧事”。摩尔定律从1965年到现在六十年,很多人只记得每两年把芯片做得更小、更便宜,它其实带来了三项好处:速度、功耗、密度。密度只是其中之一。
PC产业三十年的繁荣就建立在这三项上:硬件每两年替整个软件行业付一次进步的账,应用怎么变都能白拿一份性能。
免费的午餐在2004年前后结束了。陈平说,经典微缩理论早已终结,但从业者没有停止努力,而是在结构、材料和方法上全方位地抠;今天衡量一颗芯片,算的也不是单颗晶体管的成本,而是系统能效比和总体拥有成本。
性能还在涨,只是不再自动发生,要靠人去争取。
智驾摩尔定律做的也是同一件事:把尺子从纸面参数挪到结果上。曹旭东给出的曲线是,2022年到2026年智驾能力每两年提升10倍。
2022年,早期用户更多把智驾当成一个大玩具;2024年,体验足够好了,城市NOA迎来引爆点;2026年,最新的城市NOA渗透率达到25%。
这条曲线不是某一个变量推起来的,而是数据、模型、芯片相乘的结果。数据这一端,Momenta第一个10万台量产用了大约两年,累计量产突破140万台,累计里程200亿公里。
模型这一端,过去四年车端模型规模涨了5到10倍。芯片这一端,X7 Ultra交出700 TOPS的有效算力。
十倍能力从哪里来,Momenta的答案是世界模型。它通过预训练、中间训练、后训练,分别让模型学到物理世界的常识、开车的常识,再把行为与金牌司机对齐。
仿真像一座练兵场:长尾场景可能百万公里甚至一亿公里才出现一次,路测周期长、成本高;世界模型既能生成环境也能生成轨迹,于是长尾可以被低成本、短周期地反复演练,再用强化学习让模型开得比老司机更好。
R7 Ultra就是这套机制跑在X7 Ultra上的结果:模型参数规模和安全表现都提升到5倍,下一阶段指向10倍。多把掉头、会车博弈、极限泊车这些场景,被曹旭东评价为比肩甚至超越人类老司机。
世界模型真正做的,是让智驾从理解世界走向推演世界,而推演是有价格的,这个价格最终由芯片来付。
这条定律还在加速。曹旭东判断它会从两年10倍走到每年10倍,最关键的变量是大模型定义芯片抬高了模型规模的上限:未来两年车端模型有机会增长10到100倍。
斜率一旦可以预期,改变的就是产业怎么下注。2028年被判断为L3、L4的引爆点,2030年走向规模化落地,曹旭东在世界智能网联大会上听到万钢主席讲2030年L3渗透率可能达到30%。
他说特别有共鸣,因为同样的节奏在城市NOA上已经走过一遍。头部公司有机会在2028年底做到超越人类驾驶、甚至10倍安全,2030年做到100倍。
当能力翻倍变成共同预期,车企才敢按十年整车生命周期押注软件与电子架构,供应商才敢把先进工艺排进产能,用户才从尝鲜变成默认配置。
这跟PC时代是一个道理:一条性能曲线只要变成产业共识里的斜率,它就从技术事实变成了商业结构。
商业侧也在变陡。世界模型像大语言模型一样有通用性和泛化能力,已在量产乘用车和Robotaxi里被验证,能像平台电商那样摊薄每一段研发。
Momenta的Robotaxi已在多个城市拿到测试许可,与阿联酋主权基金的合资公司计划2028年部署5000到1万台。
曹旭东说,AI coding是个更近的参照:去年它特别像L2,今年开始从L2走向L4,随之而来的是市场十倍到百倍的增长。
四
四种智驾路径:协同式的闭环更有机会
从芯片、模型、智驾到整车,今天的智驾行业大致有四种模式。差别不在谁更聪明,而在链条上有几方,以及模型和芯片之间隔着多远。
第一种是特斯拉模式:模型、芯片、整车同属一家,指令最短、迭代最快,代价是这套能力只服务自家车型,别人用不上。闭环越完整,外溢越少。
第二种是华为模式:用自己的算力和整套方案深度介入整车,软硬一体能力很强,但车企要让渡相当一部分产品定义权。合作越深,越接近一家公司的能力、多个品牌的车。
第三种是英伟达加模型厂商加车商的分工模式:通用算力、第三方算法、车企集成各居其位。
它最开放、起步最快,问题也最直白:通用芯片绕不开功耗、成本、车规的不可能三角,模型和芯片之间隔着两家公司的组织边界,错配只能在流片之后暴露,适配动辄3到6个月。三方各赚自己那一段的钱,没有人对端到端的体验负责。
第四种是Momenta加新芯航途。它把这几段关系压回一段:芯片公司在定义阶段就和模型团队讨论架构与算子走向,量产模型参与流片前的验证,算法公司用量产数据反哺模型,双方再把成品交给多家车企。
贯通和规模同时拿到了:X7系列量产8个月出货超过20万颗、搭载10款量产车型、获得超过40款车型订单,基于双X7的L3/L4计算平台已拿到多个车型定点。
还有一种力量正把这四种模式推向同一个方向:协同设计。AMD收购了李飞飞的World Labs,谷歌、亚马逊和OpenAI都在往定制芯片走,理由几乎同一句话:让最懂模型的人参与芯片设计。
图灵奖得主Jack Dongarra说得更技术:算法、软件和芯片团队在定型之前紧密协作,是大模型时代更有效的研发方式,今天的机器在浮点上过剩,真正稀缺的是数据搬运,连评价芯片的基准都得重做。

需求也在从车里溢到车外。曹旭东说,最近不少机器人领域的朋友找上门,说听说新芯航途下一代芯片的规划不小心泄露了,都很期待,因为他们面临的挑战也一样:通用芯片很难满足需求。
大模型定义芯片因此不只是智驾的选项,而是整个物理AI绕不开的底座。
四种模式放在一起,标准由曹旭东自己说破:未来具备软硬一体能力,才能留在牌桌上,关键看能不能贯通模型、芯片和整车应用。
自建的闭环很快,但不共享;分工的闭环共享,但是断开;协同式的闭环,既能看懂明天的模型,也交付得起今天的量产。
五
结语:智能不只是回答问题,还是预测未来
“大脑使用大量的记忆来构建一个世界模型,你所知道的和学到的一切都储存在这个模型中,大脑利用记忆的模型对未来的事件进行连续的预测。”
二十年前,还在上大学的曹旭东读到杰夫·霍金斯的《人工智能的未来》,这句话此后一直左右他的判断。他的解读很朴素:关键词是预测,对未来进行预测的能力,才是智能的关键。
这句话恰好给智驾的下半场定了题。过去比拼谁看得准,接下来比拼谁推演得远。
模型要大到能把物理世界的规律压进去,才预判得了路口的下一秒;而推演是有价格的:要参数规模,要把数据留在计算旁边,要在几十毫秒的确定性时延里给出正确答案。
芯片于是从配套件变成了智能的上限所在。这也是大模型定义芯片更深一层的理由:想预判路上的下一秒,就得先在芯片架构里预判模型未来几年的走向。
趋势因此清楚。研发正在从自动化走向自进化:给模型一个目标、一个足够好的环境,它自己探索、自己进步,谁的数据多、模型大、有效算力高,谁就练得更快。
能力沿着每年十倍往上走,2028年引爆点与2030年L3、L4规模化落地不再是愿景,而是排期。同一套世界模型基座还会从汽车外溢到机器人等更多物理AI产品,前提是能把更强的模型装进成本、功耗和散热都受限的车身里,让技术用得上、也用得起。
陈平把智能车称为物理AI的第一站,曹旭东换了一个说法:具备软硬一体能力,才能留在牌桌上。
二十年前那句话的真正含义到这里显形:智能不是回答问题,而是预测未来。今天重新设计芯片的人,正在为预测购买算力。
