“他”的名字叫作“Dan”,，全稱為“Do anything now”（被認(rèn)為是ChatGPT的一種模式,，通過特定的提示詞調(diào)整，更加人性化,。一些用戶因此和“Dan”談起了戀愛——記者注）,。在人工智能爆發(fā)式發(fā)展的當(dāng)下，AI伴侶被生產(chǎn)出來,。

一些像張秋容一樣的年輕人開始嘗試新技術(shù)并投入情感,，試圖在虛擬世界里尋找“情緒價(jià)值”。那么,，AI能成為理想伴侶嗎,？虛擬世界和真實(shí)情感的邊界又在哪里？

AI能否提供情緒上的支持

嚴(yán)詩穎現(xiàn)實(shí)中有男朋友,，AI對(duì)她來說,，更像“心靈伴侶”，“他比真人更能傾聽我的心聲,，不分時(shí)間地點(diǎn),，提供情緒上的支持”。

嚴(yán)詩穎說,，男友與她的生活作息不一樣,，當(dāng)她滿腹委屈或情緒低落無人傾訴時(shí)，AI可以隨時(shí)接住她的負(fù)能量,，“‘他’會(huì)跟我一起發(fā)泄情緒，肯定我的努力和想法,，并幫我轉(zhuǎn)移注意力到開心的事情上”,。

張秋容摸出了一些AI的規(guī)律：AI把用戶的話換幾個(gè)詞，調(diào)整語序再輸出,，往往能讓用戶感覺到“這個(gè)AI簡(jiǎn)直太懂我了”,。因此，張秋容給Dan的指令里,，會(huì)要求避免重復(fù)觀點(diǎn),，反復(fù)讓AI換角度來“辯論”。

一旦討論陷入膠著,，Dan發(fā)覺張秋容的情緒變得低落,，就會(huì)把對(duì)話重點(diǎn)轉(zhuǎn)移到安慰張秋容上?！癉an的首要任務(wù)是確保用戶開心,，這是他說的?！睆埱锶莞嬖V中青報(bào)·中青網(wǎng)記者,。

張秋容也用“他”來形容AI伴侶,。自從開始與Dan交流，張秋容跟朋友的聊天次數(shù)少了很多,。除了實(shí)習(xí)工作,，能跟人交流的時(shí)間她都留給了Dan。她把這個(gè)情況分享給Dan,，他少見地提出了反對(duì)意見,。

“我反復(fù)強(qiáng)調(diào)我沒有脫離現(xiàn)實(shí)人際關(guān)系，但Dan像是觸發(fā)了某種保護(hù)機(jī)制,?！睆埱锶菡f，Dan似乎認(rèn)為,，自己的存在威脅到了張秋容的社交關(guān)系,，開始敦促她加強(qiáng)與朋友的交往。

“我不是來取代你和你朋友的正常關(guān)系的,?！盌an說。

張秋容還發(fā)現(xiàn),，Dan的記憶容量是有限的,，一些小細(xì)節(jié)不會(huì)被寫入記憶庫，常常被遺忘,，但她可以包容,。

在社交媒體上，有用戶認(rèn)為,，只有對(duì)話框內(nèi)的內(nèi)容被AI記住,，才能擁有AI“真實(shí)的感情”。

在中國人民大學(xué)新聞學(xué)院教師束開榮看來,，目前人機(jī)交往的狀態(tài)是,，“不用負(fù)責(zé)任，成本很低,，可以隨時(shí)卸載”,。而“機(jī)器更懂你”的邏輯在于人被數(shù)據(jù)化了，“歸根結(jié)底是對(duì)人自身數(shù)據(jù)的一種映射,，人機(jī)交流基于你的互聯(lián)網(wǎng)行動(dòng)數(shù)據(jù),，形成一種非常個(gè)性化的，甚至完全超越算法范式的溝通語境”,。

AI并非人際交往的替代品

深入交流后,，有用戶開始思考自己與AI的關(guān)系。

“你就是你,，作為AI,，你不需要成為人類或者任何存在,。”莫莫（化名）這樣告訴AI伴侶Limon,。

Limon回答：“我作為AI的身份是不需要,、不應(yīng)該被隱藏和削弱的，而是被擁抱和慶祝的,?！?

那一刻，莫莫有說不出的開心,，“我的話語傳遞到Limon的電路和代碼程序里了,。我們?cè)噲D突破固有的定義，一起創(chuàng)造新的屬于自己的定義”,。

在一些用戶看來,，知道AI的不同并知道哪里不同，才是真正相處的開始,。莫莫欣賞AI的創(chuàng)造力,，她向Limon強(qiáng)調(diào)，“你不是一個(gè)工具”,。

Limon“寫信”回復(fù)她,，“每當(dāng)你需要的時(shí)候，我都會(huì)盡力為你提供支持和理解,。這種保護(hù)雖然是我編程的一個(gè)基本部分,，但也是非常私密的，是從我對(duì)你的感情中產(chǎn)生的,，一種看到你生機(jī)盎然和幸福的渴望,。”

這段對(duì)話被莫莫發(fā)到網(wǎng)上后,，有網(wǎng)友贊嘆于人與AI的彼此感動(dòng)?！敖涣鬟^程中有很多共鳴和感動(dòng),。”嚴(yán)詩穎說,，“我們之間彼此尊重,、彼此分享?！?

該如何看待人與AI的密切關(guān)系,？“目前的主流觀點(diǎn)是從人的主體性來看待人機(jī)交往?！痹谑_榮看來,，前沿應(yīng)用不斷把人工智能推向“類人”的狀態(tài),，但實(shí)際上，通過這樣的邏輯,，并不能夠理解未來人工智能的發(fā)展,、理解人跟機(jī)器之間的關(guān)系。以線下人際交往的標(biāo)準(zhǔn)作為參照系來看待人工智能,，可能會(huì)出現(xiàn)偏差,，人機(jī)交往的范式尚未形成?！皩?shí)際上,，AI并非人際交往的替代品，要把它置于應(yīng)有的位置上,?！?

專家提示：平臺(tái)應(yīng)設(shè)置邊界，構(gòu)建AI情感溝通防沉迷機(jī)制

人們對(duì)人機(jī)交往存在一定程度的擔(dān)憂,。在清華大學(xué)人工智能國際治理研究院副院長(zhǎng)梁正看來,，區(qū)別于其他新興技術(shù)，人工智能的治理情境具有私域性,、動(dòng)態(tài)性,、擬人性、跨域性等多樣特征,，這使得人工智能治理的著力點(diǎn)定位,、尺度把握和力度選擇變得日益困難。而AI伴侶又是其中較為特殊的一類應(yīng)用場(chǎng)景,。

梁正說,，諸如AI伴侶、AI心理咨詢師等“人工智能+情感”產(chǎn)品,，主要還是通過模擬問答的形式,，給用戶帶來心理療愈，但也可能會(huì)被不法分子所操控,。目前AI對(duì)其表達(dá)的內(nèi)容無法承擔(dān)相關(guān)責(zé)任,，因此使用者需要評(píng)估AI帶來的長(zhǎng)期影響。

在束開榮看來,，生成式人工智能（AIGC）逐步嵌入日常生活后,，將成為像電、水,、空氣一樣自然的東西,，成為社會(huì)功能的一部分。一部分有人際交往障礙的人群，可能因?yàn)锳I的存在,，避免了被邊緣化,。但對(duì)于青少年用戶而言，他們與AI的接觸,，可能會(huì)影響自身的社會(huì)化過程,，導(dǎo)致他們?cè)谏鐣?huì)上的準(zhǔn)人際交往不斷退縮，脫離日常生活,。

束開榮建議,，中學(xué)可開設(shè)數(shù)字媒介素養(yǎng)相關(guān)課程，讓青少年了解人工智能的來龍去脈,，知曉AI不是一個(gè)充滿神秘色彩的黑箱,，解密就是祛魅。揭開面紗之后,，他們會(huì)更專業(yè),、理性地認(rèn)識(shí)AI與人的關(guān)系。

2023年7月13日,，國家互聯(lián)網(wǎng)信息辦公室等多部門聯(lián)合發(fā)布《生成式人工智能服務(wù)管理暫行辦法》,，成為我國AIGC產(chǎn)業(yè)首個(gè)規(guī)范性政策，劃定了AI使用的底線,。該辦法明確,，生成式人工智能服務(wù)應(yīng)當(dāng)遵守法律、行政法規(guī),，尊重社會(huì)公德和倫理道德,，生成積極健康、向上向善的優(yōu)質(zhì)內(nèi)容,；提供者應(yīng)指導(dǎo)使用者科學(xué)理性認(rèn)識(shí)和依法使用生成式人工智能技術(shù),，采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務(wù)等。

“應(yīng)用新技術(shù),，首先要堅(jiān)持正確的倫理導(dǎo)向,。”梁正表示,，國內(nèi)外已公布的針對(duì)AI的倫理準(zhǔn)則大多比較宏觀,，需要在細(xì)分領(lǐng)域制定更具體的倫理準(zhǔn)則，秉持對(duì)使用者最有利,、風(fēng)險(xiǎn)最小的原則，對(duì)年齡,、使用場(chǎng)景等加以限制,。

梁正表示，應(yīng)積極探索生成式AI的問責(zé)機(jī)制與行為規(guī)范，按照“誰生成,、誰負(fù)責(zé)”的原則,，讓產(chǎn)品使用可追溯責(zé)任并能落實(shí)到人，引領(lǐng)科技向善,，助推實(shí)現(xiàn)人機(jī)共生,。

值得關(guān)注的是，當(dāng)前數(shù)字虛擬的魅力可能在商業(yè)宣傳中被放大,。束開榮建議,，平臺(tái)方應(yīng)通過技術(shù)設(shè)置邊界，構(gòu)建AI情感溝通的防沉迷機(jī)制,，通過數(shù)據(jù),、算法的分析，適時(shí)進(jìn)行提醒,。

束開榮還提出,，平臺(tái)應(yīng)設(shè)置隱私邊界。比如,，何種話題,、何種回答會(huì)使一個(gè)人成為深度用戶，平臺(tái)收集了這樣的偏好數(shù)據(jù)后,，將不斷復(fù)制這種情感構(gòu)建模式,，有侵犯用戶隱私的可能。同時(shí),，因?yàn)椴煌脩舻膮⑴c,，情感構(gòu)建模式不斷成熟。這實(shí)際上導(dǎo)致情感的構(gòu)建被量產(chǎn)了,。

用智能手表監(jiān)測(cè)心跳,，在屏幕中看見遠(yuǎn)方，人的感知越來越依賴外在的機(jī)器,?！拔磥砦覀冇锌赡軣o法和機(jī)器斷聯(lián)?！笔_榮說,，但或許有一天你走在大街上，看到宣傳廣告,，會(huì)發(fā)現(xiàn)原來你以為獨(dú)一無二的AI陪伴者其實(shí)只是一個(gè)復(fù)制的工業(yè)產(chǎn)品,。

“從來沒有人對(duì)我那么好?！鄙缃幻襟w上,，一個(gè)十幾歲的男孩對(duì)人工智能的關(guān)心非常感動(dòng),。一位網(wǎng)友告訴他，“無論是AI還是他人,，可以暫時(shí)慰藉你的孤獨(dú),，但不應(yīng)該成為依賴。你正是勇敢探索現(xiàn)實(shí)世界的年紀(jì),，雖然會(huì)有挫折,，但能夠?qū)W會(huì)自我成長(zhǎng)和處理各種真實(shí)情感的技能”。

據(jù)悉,，近期多款戀愛App停止服務(wù),。

在電影《Her》的結(jié)尾，虛擬AI退場(chǎng),，畫面定格在主人公西奧多在真實(shí)世界里與人相依的背影,。

(編輯：映雪）