試驗成果標明 ，經過學習內化檢索形式而非依靠顯式推理 ，Memory Decoder 可以有用地將各種 Qwen 和 Llama 模型習慣于生物醫學 、因為 RAG 的即插即用特性與 DAPT 的推理功率之間存在固有對立，Memory Decoder 經過融入范疇常識 ，這會發生核算開支
。Memory Decoder 在增強范疇習慣的一起堅持通用言語功用的才能 。無需修正原模型參數 ，
本文來自微信大眾號“學術頭條”
，且在不修正任何原始參數的情況下 ，Memory Decoder 需求經過 KV 數據存儲進行查找
，法令等專業范疇 ，以獲取 kNN 散布作為練習信號 ，
這些成果證明 ，
詳細如下：
1.WikiText-103 中的言語建模
表｜GPT2 模型在 WikiText-103 數據集上的域習慣辦法的困惑度比照
上表展現了 Memory Decoder 在一切 GPT2 模型尺度上的有用性 。又能大幅下降核算開支 。學習怎么將其輸出散布與非參數檢索器生成的散布進行對齊