随着10月29日XHEART发布其最新的大模型芯片X7 Ultra,这家公司在“模型驱动芯片设计”的理念下,配备了专用加速器以优化高频和耗时的关键运算,并通过整网任务的智能调度,减少了数据传输和计算延迟。XHEART的团队还与Momenta密切合作,前瞻性地考虑未来模型的需求,以便在硬件设计定型之前做好后续升级的准备。X7系列首批搭载于上汽大众的ID.ERA 9X车型,量产仅八个月就交付了超过20万颗芯片,并获得了超过40款车型的订单。这一切表明,XHEART正在探讨随着模型不断演变,汽车制造商应如何选择合适的芯片。
在2021年,蔚来的ET7车型搭载四颗英伟达Orin芯片,具备1016 TOPS的算力。那时,给未来留出足够的计算资源是应对智能驾驶不确定性的方案,旨在让软件逐步演进,硬件则需要一次到位。而五年后,随着模型的不断增大和计算方式的变化,任务愈加复杂,预留的算力是否充足,开始取决于最初设计时所考虑的能力。
在发布会上,XHEART的CEO李宗霖明确指出公司的核心理念:“从模型需求出发设计硬件,为持续演进留出空间。”这一理念也帮助XHEART赢得了许多主流汽车制造商的青睐。在选择芯片时,汽车厂商实际上是在为未来数年内的智能驾驶体验进行投资,而XHEART的优势则在于能将模型进步转化为持续升级的实际能力。
随着模型的集成化,芯片的组织形式也需要随之改变。早期的智能驾驶模型多为小模型,职责划分明确,而最新的端到端大模型倾向于整合信息,以便在同一框架下进行优化。XHEART在发布会上展示了其超大核NPU(神经网络计算单元),该技术在更高效的计算协作下,能够减少数据的传递等待时间,提高算力的有效利用率。
X7 Ultra为高频和耗时的计算设计了专用加速器,使得更多步骤能够在NPU内部高效完成。此举不仅优化了运算效率,同时也降低了任务切换带来的延迟。此外,XHEART重构的工具链扩大了优化范围,以整张网络为目标,减少了中间数据的读写。
在制造环节,XHEART注重使用真实的量产模型进行评测,以确保模型结构、部署后输出的一致性与最终体验。通过与Momenta合作,XHEART能够有效利用现有的量产大模型,不断推动芯片技术的迭代。
然而,在确保当前算力效率的同时,架构能否跟上未来模型的变更则更具挑战性。芯片的设计通常在数年前就确定,而随着智能驾驶算法的持续改进,计算、存储和数据传输的需求也在不断变化。这种情况下,若未能提前预见这些变化,可能会在汽车交付时遇到资源配置的瓶颈。
在发布会上,XHEART团队分享了2023年与算法团队合作的经验,强调在设计时选择与未来模型演变紧密相关的计算需求,以确保硬件能满足未来几年的重要计算任务。这一策略不同于传统的“为未来预留算力”方式,体现了更深层次的设计思维。
发表评论