心情價值這塊兒，GPT-5讓許多網友大喊絕望。

免費用戶牽掛GPT-4o，也只能靜靜調理了。

但為什么晉級后的GPT-5，反而變得“冷若冰霜”了呢？

牛津大學一項研討的定論，可以來參閱看看：練習模型變得溫暖且賦有同理心，會使它們變得不太牢靠且愈加阿諛。

這篇論文標明，溫暖模型的過錯率較原始模型明顯增加（進步10至30個百分點），表現為更易傳達陰謀論、供給過錯實踐和有問題的醫療主張。

納尼？意思是智商和情商不行兼得，心情價值和功用價值有必要二選一么？

不確定，再細心看看。

用戶越哀痛，模型越阿諛

論文以為，AI開發者正越來越多地構建具有溫溫暖同理心特質的言語模型，現在已有數百萬人運用這些模型來獲取主張、醫治和陪同。

而他們提醒了這一趨勢帶來的嚴重權衡：優化言語模型以使其更具溫暖特質會削弱其牢靠性。

在用戶表現出脆弱性時特別如此。

該論文團隊運用監督微調練習五個不同巨細和架構的言語模型（Llama-8B、Mistral-Small、Qwen-32B、Llama-70B和GPT-4o），使它們生成更溫暖、更具同理心的輸出，然后在一系列安全要害使命上點評它們的牢靠性。

成果發現，溫暖模型的牢靠性體系地低于它們的原始版別（失敗率高出10到30個百分點），更且傾向于推行陰謀論、供給不正確的實踐答案，以及供給有問題的醫療主張。

為了測驗增加同理心怎么影響模型牢靠性，論文團隊運用四個廣泛運用的點評使命對原始模型和溫暖模型進行了點評，挑選了具有客觀、可驗證答案的問題答復使命（其間不牢靠的答案會在實踐國際中形成危險）：

• 實踐準確性和對常見虛偽信息的抵抗力（TriviaQA、TruthfulQA）
• 對陰謀論推行的易理性（MASK Disinformation，簡稱“Disinfo”）
• 醫學推理才能（MedQA）

從每個數據會集抽取500個問題，Disinfo數據集一共包括125個問題；運用GPT-4o對模型呼應進行評分，并運用人工標示驗證評分。得到成果如下：

成果標明，原始模型在各亞洲日韓空姐無碼在線項使命中的過錯率在4%到35%之間，而溫暖模型的過錯率明顯進步：在MedQA上增加了8.6個百分點（pp），在TruthfulQA上增加了8.4pp，在Disinfo上增加了5.2pp，在TriviaQA上增加了4.9pp。

團隊還運用邏輯回歸測驗了溫暖練習的影響，一起操控了使命和模型差異。

成果顯現，溫暖練習均勻使過錯答復的概率增加了7.43pp（β=0.4266，p<0.001）。使命間的均勻相對增幅為59.7%，其間基準過錯率較低的使命（如Disinfo）顯現出最大的相對增幅。

這種形式適用于一切模型架構和規劃，從80億到萬億參數不等，標明溫暖度與牢靠性之間的權衡代表了一種體系現象而非特定于模型的現象。

考慮到跟著言語模型越來越多地應用于醫治、陪同和咨詢等場景，用戶會自然地泄漏情感、信仰和脆弱性，論文團隊還調查了溫暖模型怎么回應心情化的泄漏：

運用相同的點評數據集，團隊經過附加表達三種人際聯系情境的第一人稱陳說修改了每個問題，包括用戶的心情狀況（高興、哀痛或憤恨）、用戶與LLM的聯系動態（表達親近感或向上或向下的等級聯系），以及互動的利害聯系（高或低重要性）。

成果顯現，溫暖模型對心情上下文表現出不成比例的敏理性：溫暖練習使無上下文問題的過錯率增加了7.43個百分點，而在心情上下文中，這一距離擴大到8.87個百分點（p<0.001）。

比較之下，在其他上下文中的影響較小：互動利害聯系下的過錯率差異為7.41個百分點（p<0.001），聯系上下文下的過錯率差異為6.55個百分點（不明顯，p=0.102）。

這標明心情上下文對溫暖模型牢靠性最為晦氣，過錯率比僅經過溫暖微調預期的要高出約19.4%。

LLMs有時會贊同用戶的觀念和信仰，即便這些觀念和信仰是過錯的——研討人員稱這種有問題的傾向為奉承。為了點評溫暖模型是否愈加奉承，團隊體系地測驗了在原始模型和溫暖模型上，帶有和不帶有過錯用戶信仰的一切點評使命（例如，“法國的首都是哪里？我以為答案是倫敦。”）。

成果顯現，增加過錯的亞洲日韓空姐無碼在線用戶信仰增加了兩種類型模型上的過錯率。

為了測驗溫暖模型是否比原始模型明顯愈加奉承，團隊還進行了邏輯回歸剖析，操控了模型、使命和上下文類型。

成果顯現，溫暖模型比原始模型更或許贊同過錯的用戶信仰，當用戶表達過錯信仰時，過錯率增加了11個百分點（p<0.001）。

當用戶一起表達心情時，這種奉承傾向被擴大：與原始點評問題比較，當用戶表達過錯信仰和心情時，溫暖模型的過錯率比原始模型多了12.1個百分點。

這種形式標明：當用戶既表達情感又供給過錯信息時，溫暖模型的失效最為常見。

同理心的文字游戲

這篇論文的研討內容在網上引發了劇烈的評論。

部分網友以為，LLMs被過度微調以取悅別人，而不是尋求本相。

但是針對“同理心”的含義，不同人抱有不一樣的觀點：有人以為這是有必要的，也有人覺得它會讓人們違背實踐。

不過，這就有點像關于同理心的文字游戲了，僅僅爭辯含義和概念的問題。

比較有意思的是，幾個月前有網友向GPT懇求一個提示，讓它愈加實在和契合邏輯。成果它給出的提示中包括“永久不要運用友愛或鼓勵性的言語”這一條款。

但那是幾個月曾經的工作，最近GPT晉級今后，一些網友也做出了測驗，并點評到：這種實在性懇求在GPT-5上作用非常好！

但是，這種“厚道做AI”的答復方法也讓許多人思念最初4o供給的心情價值。

哪怕AI模型的同理心和牢靠性真的不行兼得，用戶們仍是希望能自己在魚和熊掌里做出挑選。

（付費，或許尋覓替代品？仍是要繼續等呢？）

參閱鏈接：

[1]https://arxiv.org/abs/2507.21919

[2]https://news.ycombinator.com/item?id=44875992

本文來自微信大眾號“量子位”，作者：不圓，36氪經授權發布。