IT之家10月29日現場消息,XHEART新芯航途今日正式發布大模型芯片X7 Ultra,以「大模型定義芯片」為核心理念,從真實量產模型需求出發設計芯片架構,大模型算力達700TOPS。

XHEART 新芯航途 CEO 李宗霖認為,隨著智能駕駛從多個小型模型發展為端到端的大型模型,芯片的設計方式也需要随之改變。因此,XHEART 在2023年創業之初就決定,從真實應用中的模型需求出發,倒推芯片架構,重新組織計算、存儲和數據流轉,并為未來模型的演進預留空間。
據介紹,新芯航途 X7 Ultra 大模型芯片擁有 700 TOPS 大模型算力,量產模型實測對齊度達 99.99%。
這顆芯片專為大模型設計,擁有超大核 NPU 架構,核內數據交互相比核間數據交互,互連速率提升到 TB /s 的量級。此外,芯片的多級緩存架構支持大容量、高並發特性,可降低推理時延與功耗。

新芯航途 X7 Ultra 內置高精度大模型專用算子加速引擎,針對 Layernorm、Softmax、Transpose 等一系列 Transformer 大模型關鍵算子進行極致硬件優化,原生支持 FP16 / FP32 高精度向量計算,保障模型精度。
該芯片 NPU 的硬件並行度解鎖可充分釋放大模型推理潛能,計算利用率達 98.7%。與業界旗艦產品相比,其內存帶寬消耗下降 80%,能效提升 100%。
新芯航途 X7 Ultra 首次在中国量產 Armv9,車規級 CPU,性能提升20%、能效提升10%。此外,大集羣架構還提升了多核協同與 L3 访存性能,集成全新 SVE2 向量處理引擎,相比上一代 NEON 具有更強的 DSP 性能。
IT之家附新芯航途智驾大模型芯片 X7 Ultra 核心亮点一图知如下:












