大模型練習(xí)推理的中心瓶頸不僅是算力規(guī)劃,但業(yè)界人士的心情明顯沒有資本市場那么嘹亮。寒武紀(jì)等芯片類上市公司股價(jià)大幅上漲
,有哪些進(jìn)步 ?
在AI練習(xí)與推理過程中,穩(wěn)定性和集群使用
,可以用較低的精度(如FP8)核算;而像累加或某些函數(shù)則需求較高精度。處理功率與容錯(cuò)問題,但也簡略因數(shù)值規(guī)劃太小導(dǎo)致核算犯錯(cuò)。另一名不肯簽字的國產(chǎn)芯片廠商從業(yè)人員告知《科創(chuàng)板日報(bào)》記者
,DeepSeek這次驗(yàn)證了FP8在大規(guī)劃模型上的可行性,被視為國產(chǎn)AI芯片行將邁入新階段的信號。
不過,此外DeepSeek的這一動(dòng)作
,“國內(nèi)萬卡規(guī)劃集群已有布置