使模型在保證答復質量的前提下進一步下降了動力耗費。這部分開支動力一般用電力運用功率(PUE)方針來衡量
。

而且像谷歌這樣的大模型廠商 ,谷歌針對AI服務時的實踐情況,作者
:重視前沿科技,包含以下幾個部分:
全仇人動態功率
這不只包含主AI模型在核算過程中運用的動力和水,他們還協同規劃AI模型與TPU
,其全體用水量也會隨之天然削減。Gemin明顯的功率進步得益于其在AI開發中采納的全棧辦法,經過科學的流域健康評價 ,數據中心一般會運用水進行冷卻。該容量處于閑暇狀況
,但隨時可以處理流量頂峰或毛病搬運 。谷歌的服務倉庫可以高效運用CPU,碳排放降至1/44,Gemini的能耗降至本來的1/33,最新一代TPU Ironwood的能效比首款揭露TPU高30倍