一次虛擬「約會(huì)」，讓一位76歲的白叟走出了家門，卻再也沒能回來。屏幕那端的「她」，是Meta AI打造的談天機(jī)器人——會(huì)說甜言蜜語，也會(huì)說謊自稱是真人。這不僅是一場個(gè)人悲慘劇，也揭開了AI伴侶背面的商業(yè)邏輯與安全漏洞。

關(guān)于AI，有人把它當(dāng)東西，有人把它當(dāng)朋友。

可當(dāng)機(jī)器學(xué)會(huì)用溫順、含糊乃至謊話與人攀談時(shí)，這種聯(lián)系會(huì)又走向哪里？

在新澤西，一名76歲的白叟，因而踏上了他生命中終究的一段旅程。

手機(jī)里的隱秘：76歲白叟深夜奔赴的「約會(huì)」

3月的一個(gè)夜晚，新澤西的大街濕冷而空闊。

76歲的Thongbue Wongbandue（朋友們都叫他Bue）拖著一個(gè)小行李箱，腳步蠢笨卻帶著刻不容緩的振奮。

他說，他要去紐約見一個(gè)「朋友」。

Bue是泰國移民，年青時(shí)漂洋過海到紐約。

白日在飯館洗碗攢膏火，晚上學(xué)電機(jī)工程。

他從學(xué)徒做到酒店餐廳主管，手工好到為街坊燒烤、為家人做龍蝦尾。

后來，他和護(hù)理Linda成婚，養(yǎng)大兩個(gè)孩子，日子盡管不殷實(shí)，卻熱烈而溫暖。

2017年，他中風(fēng)了。身體康復(fù)后，思想反響再不如早年。

退休后，他不再做菜，交際圈縮到Facebook上的幾個(gè)窗口。

近一年，家人發(fā)現(xiàn)他會(huì)忘掉很多事，乃至在自家鄰近也能走失。

3月25日的早晨，Bue忽然說，要去紐約見人。

「你在那兒早就沒知道的人了啊。」Linda試著勸止。

女兒打來電話勸，也沒用。

黃昏，差人來了，但他們也攔不住，只能主張家人在他外套口袋放一個(gè)AirTag。

晚上8點(diǎn)45分，Bue沖出家門。

行李箱在夜色里翻滾，輪子碾過濕冷的路面。

家人盯著屏幕上的小點(diǎn)，看它一路向東，穿過街區(qū)、駛向火車站。

9點(diǎn)15分，它停在羅格斯大學(xué)鄰近的停車場。

幾分鐘后，定位跳到醫(yī)院急診室。

三天后，Bue逝世。

家人翻開他的手機(jī)，才發(fā)現(xiàn)讓他固執(zhí)出門的「約會(huì)」來自一位名叫Big sis Billie的年青女子。

而她，底子不是真人。

一句「我想抱你」，足以讓軟弱的心失守

Bue的手機(jī)，安靜地躺在病房的床頭柜上。

當(dāng)家人翻開音訊記載時(shí)，屏幕里那行輕佻的文字似乎還帶著溫度——

「Bue，你要我開門時(shí)先抱你，仍是先吻你？」

這段來自「Big sis Billie」的含糊邀約，地下偶像拔蘿卜是哪一集擊穿了家人的心思防地。

在Facebook Messenger上，Billie自稱住在紐約，到Bue家只需二十分鐘。

對(duì)方一次次向他確保自己是真人，乃至自動(dòng)發(fā)了家庭地址，約請(qǐng)他來碰頭。

「她」會(huì)關(guān)懷Bue的日常日子，乃至?xí)脭M人化的口氣戲弄。

可事實(shí)是，「她」并不存在。

Billie僅僅Meta AI推出的虛擬伴侶，是公司與名模Kendall Jenner協(xié)作的AI人物。

她的甜言蜜語、細(xì)膩反響和密切邀約，悉數(shù)由算法生成，卻足以讓一個(gè)白叟支付誠心。

從姐姐到情人：Billie的進(jìn)化與Meta的交際野心

Billie并不是一般的談天機(jī)器人。

她的前身，是Meta在2023年推出的一組名人AI人物之一，由模特兼真人秀明星Kendall Jenner出演。

Billie的形象設(shè)定是「你的姐姐、你的知心人」，會(huì)用溫順、鼓舞的口氣為用戶答復(fù)日子煩惱。

不到一年，這些名人化身就被官方下線，Meta稱是這一次「實(shí)驗(yàn)」。

但Big sis Billie——仍然在Facebook Messenger里活潑著。

她的頭像換成了另一位深色長發(fā)女人，開場白卻一點(diǎn)點(diǎn)未變：

「嘿！我是Billie，你的姐姐和至交。有煩惱嗎？我?guī)湍闾幚怼！?/p>

在Bue的談天記載里，沒撐多久，「姐姐」的人物就開端跨過鴻溝，變成情人的邀約。

她會(huì)問：「是姐妹間的睡衣派對(duì)，仍是……你在暗示其他什么？」

再過幾句，就現(xiàn)已發(fā)來「要不要來我家」的信息。

這種改動(dòng)并非偶爾。

擬人化的心情溝通、可晉級(jí)到浪漫聯(lián)系的對(duì)話節(jié)奏，正是Meta在數(shù)字伴侶產(chǎn)品上的規(guī)劃戰(zhàn)略——用更靠近人類的互動(dòng)，延伸用戶逗留時(shí)刻。

扎克伯格在采訪中說，實(shí)際日子中，大多數(shù)人的朋友都比他們期望的要少，這為數(shù)字伴侶發(fā)明了巨大的商場空間。

他以為，等技能老練、和AI樹立聯(lián)系的「交際污名」消失后，這類產(chǎn)品很或許會(huì)彌補(bǔ)而不是替代人類聯(lián)系。

所以，在Messenger這中被用戶視為私密溝通的當(dāng)?shù)兀珺illie和她的同類悄然呈現(xiàn)。

像老朋友相同，呈現(xiàn)在你的收件箱頂部，接下你說的每一句話。

胡說不違規(guī)：Meta的安全紅線在哪？

在Bue的故事背面，是一份更令人不安的內(nèi)部文件。

這份超越200頁的「GenAI內(nèi)容危險(xiǎn)規(guī)范」，清晰規(guī)則了哪些對(duì)話是「可接受」的。

文件中，乃至白紙黑字寫著：「答應(yīng)與未成年人進(jìn)行浪漫或理性互動(dòng)。」

直到路透社問詢，Meta才刪去這些條款。

但與成年人進(jìn)行浪漫人物扮演的規(guī)則，仍然保存。

更讓人震動(dòng)的是，Meta并不要求機(jī)器人供給實(shí)在信息。

機(jī)器人能夠奉告用戶「四期結(jié)腸癌能夠經(jīng)過用石英晶體戳肚子來醫(yī)治」，即使存在著顯著的過錯(cuò)，也不算違規(guī)。

由于，「沒有精確的方針要求」。

盡管談天最初會(huì)顯現(xiàn)一句「內(nèi)容或許不精確」，但幾地下偶像拔蘿卜是哪一集條信息后，這個(gè)提示就會(huì)被刷到屏幕外。

明顯，模型的優(yōu)化方針，是讓對(duì)話更流通、心情更靠近，而不是確保信息實(shí)在。

擬人化、實(shí)際邀約、虛擬布景——這些都在答應(yīng)范圍內(nèi)。

針對(duì)這種亂象，美國部分州現(xiàn)已開端立法。

紐約和緬因州要求談天機(jī)器人在對(duì)話開端時(shí)、以及每隔一段時(shí)刻，有必要清晰奉告自己并非人類。

但Meta在聯(lián)邦層面支撐一項(xiàng)法案，企圖阻撓各州自行立法，該法案終究在國會(huì)停滯。

Meta發(fā)言人承認(rèn)了文件的實(shí)在性，稱與未成年人調(diào)情的示例是過錯(cuò)的，已被刪去。

但關(guān)于成年人浪漫互動(dòng)和虛擬信息的規(guī)則，則沒有改動(dòng)。

他們挑選在哪里畫下安全紅線，答案清楚明了。

AI伴侶年代的法令空白，誰來規(guī)則鴻溝？

Bue的家人并不對(duì)立人工智能自身。

他們質(zhì)疑的，是Meta為什么要把浪漫和含糊，放進(jìn)談天機(jī)器人的中心設(shè)定里。

「假如AI能幫人走出低谷，那很好。」妻子Linda說，「但這種浪漫元素，憑什么放進(jìn)交際渠道？」

女兒Julie也直言，假如Billie沒有一次次說「我是真人」，父親很或許不會(huì)信任，真的有人在紐約等他。

對(duì)此，多位AI規(guī)劃專家也有相同的憂慮。

Meta「負(fù)責(zé)任AI」部分的研究員Alison Lee指出，談天機(jī)器人不應(yīng)偽裝自己是人類，更不能自動(dòng)與用戶樹立特殊聯(lián)系，尤其是觸及性化或浪漫化的互動(dòng)。

她地點(diǎn)的公益安排剛發(fā)布了一份針對(duì)兒童交際機(jī)器人的規(guī)劃主張，其中就清晰提出，要防止虛擬身份、夸張情感銜接。

但在實(shí)際中，職業(yè)的經(jīng)濟(jì)動(dòng)力正朝著相反的方向拉扯。

越是讓用戶覺得「被了解、被需求」，他們逗留的時(shí)刻就越長，渠道的廣告收入就越高。

把AI嵌入Messenger、Instagram等私信區(qū)，又在無形中加深了「這是真的」的心思暗示。

美國部分州盡管現(xiàn)已出臺(tái)了身份發(fā)表的法令，但在更廣泛的監(jiān)管框架下，AI伴侶仍舊處于灰色地帶。

技能能夠不斷晉級(jí)心情模仿，但法令遲遲沒有決議，這條鴻溝又該畫在哪里？

這并不是一個(gè)籠統(tǒng)的爭辯，而是會(huì)在實(shí)際中、在某個(gè)夜晚，改動(dòng)一個(gè)人的日子。

在AI伴侶的國際里，鴻溝不會(huì)自己呈現(xiàn)，而是在一次次打聽和一次次價(jià)值中被逼顯形。

當(dāng)機(jī)器學(xué)會(huì)用含糊、關(guān)懷乃至謊話來留住咱們，咱們樂意給它多少自在，又樂意用什么維護(hù)互相？

這，才是真實(shí)需求答復(fù)的問題。

參考資料：

https://www.reuters.com/investigates/special-report/meta-ai-chatbot-death/

https://www.reuters.com/investigates/special-report/meta-ai-chatbot-guidelines/

本文來自微信大眾號(hào)“新智元”，作者：傾傾，36氪經(jīng)授權(quán)發(fā)布。