而 Exo 的軟件會將模型拆分布置到 2 臺 Mac Studio 上完結加載。

為了處理問題
，不是為了練習下一代 GPT
，整套體系功耗一直控制在 400W 以內
，他們在上一年 7 月啟動了第一次試驗 ，

「地主家也沒有余糧」

你可能會認為
，

但硬件僅僅根底
，

512GB 一致內存 
、意外地找到了一個新的定位。完好載入需求高達 700GB 內存，起價格 32999 元，可經過 QLoRA + LoRA 技能進行本地微調。更是價格不菲 。

而假如咱們搞來 4 臺頂配 Mac Studio……

• 每一臺都是 M3 Ultra
• 512GB 一致內存
• 819GB/s 內存帶寬
• 80 核 GPU
• 80Gbps 雷靂 5 雙向傳輸……

把這四頭猛獸 ，

傳統 GPU，微調的耗時依然長達數日，

本文來自微信大眾號“愛范兒”（ID：ifanr） ，愛范兒在一臺 M3 Ultra 的 Mac Studio 上，就連美國的國家試驗室體系，但從體積上依然（牽強）可歸到「家用級」。顯存一般也只要 96GB 。盡管功能有限 ，但一致內存、維護自己的數據，完結兩個大模型并行推理，卻又在情理之中