【leyu.com官網科技消息】8月14日，據《晚點Auto》報道，其從多個信源處獲悉，理想汽車正在探索自研云端推理芯片，將采用與智駕芯片相同的數據流架構，項目還在早期階段。
理想汽車
AI數據中心普遍使用GPU完成模型訓練和推理，也有數據中心部署云端推理芯片。一位芯片行業人士說，云端推理芯片可以承接部分原本在GPU上運行的推理任務，例如智駕模型的數據處理、測試、仿真，以及大語言模型的請求處理。模型訓練中涉及參數更新的部分仍需訓練芯片。
《晚點Auto》表示，數據流架構從車端走向云端在技術上可行。一種路徑是復用車端NPU（AI處理器）的計算設計，將多個AI計算晶粒封裝在一起，配套高帶寬內存和高速互聯，組成規模更大的推理芯片。車端和云端由此可以復用部分設計和軟件工具，分攤研發成本。
但云端芯片不是車端芯片的簡單放大。車端模型、傳感器輸入和運行節奏相對固定，主要追求低功耗、低延遲和穩定執行；云端需要同時處理更多模型，模型更新更快，輸入長度和并發請求波動更大，還涉及高帶寬內存、多芯片互聯、動態批處理和集群調度。
值得一提的是，在理想推進云端推理芯片的同時，《晚點Auto》也從多渠道確認，理想芯片的軟件研發負責人金一華和芯片前端設計一組負責人戴頡已經離職。兩人此前均向算力單元負責人羅旻匯報，最終向集團CTO謝炎匯報羅旻則向集團CTO謝炎匯報。
版權所有，未經許可不得轉載
-leyu.com官網
北京公司(總部)：北京市海淀區永泰莊北路1號中關村東升國際科學園1號樓B座
香港公司：數碼港三座C區6層Smart Space Room48
售后/服務咨詢：400-608-0917
商務/渠道/品牌合作：400-168-1151
誠信合規：yangguang@jinnianhui.com
業務拓展/商務合作：bd@jinnianhui.com
市場品牌合作：Marketing@jinnianhui.com
公眾號
視頻號
抖音
小紅書