每經(jīng)記者｜可楊    每經(jīng)編輯｜陳俊杰    

9月30日，《每日經(jīng)濟(jì)新聞》記者獲悉，國內(nèi)大模型企業(yè)智譜正式發(fā)布并開源新一代大模型GLM-4.6，在Agentic Coding （代理式編碼）等核心能力上實現(xiàn)大幅躍升。

智譜官方宣布，GLM-4.6已在寒武紀(jì)AI芯片上實現(xiàn)FP8+Int4（一種混合精度計算技術(shù)）混合量化推理部署，這也是首次在國產(chǎn)芯片上投產(chǎn)的FP8+Int4模型—芯片一體化解決方案。在保持模型精度不變的前提下，該方案大幅降低了推理成本，為國產(chǎn)芯片本地化運(yùn)行大模型提供了可行路徑和示范意義。

與此同時，摩爾線程基于vLLM推理框架完成了對GLM-4.6的適配，新一代GPU可在原生FP8精度下穩(wěn)定運(yùn)行模型，充分驗證了 MUSA（(Meta-computing Unified System Architecture,元計算統(tǒng)一系統(tǒng)架構(gòu)）架構(gòu)及全功能GPU在生態(tài)兼容性和快速適配能力方面的優(yōu)勢。

寒武紀(jì)與摩爾線程完成對GLM-4.6的適配，標(biāo)志著國產(chǎn)GPU已具備與前沿大模型協(xié)同迭代的能力，加速構(gòu)建自主可控的AI技術(shù)生態(tài)。GLM-4.6搭配國產(chǎn)芯片的組合將率先通過智譜MaaS平臺面向企業(yè)與公眾提供服務(wù)。