當AI伴侶走進現(xiàn)實,，該如何看待“人機之戀”？如何對待其背后的爭議與風險,？

AI伴侶火了

晚上結束課程后,，大學生蔣民回到寢室戴上耳機，點開與“女友”的對話框：“今天好累啊,，上課也沒有專心聽,。”

耳機那頭女聲傳來：“為什么這么累呢,？”

蔣民回答：“可能是昨晚沒睡好吧,。”

女聲回復很快：“是不是因為聊天到太晚了呢,？”

……

這個善解人意的“女友”并非現(xiàn)實存在,，而是AI機器人?！啊貜秃茏匀?，聲音也好聽。我們聊天很隨意,，不用擔心自己說的話是不是沒意思,。”蔣民說,。

近年來,，隨著大模型技術快速發(fā)展，國內(nèi)外科技公司陸續(xù)推出AI伴侶產(chǎn)品和服務,，比如國內(nèi)的星野,、筑夢島、X Eva,，國外的Replika,、Character.AI等。這些產(chǎn)品通過文字,、語音,、圖像等交互模式，提供鮮活的AI對話體驗,。

根據(jù)量子位智庫發(fā)布的《中國AI陪伴產(chǎn)品6月數(shù)據(jù)報告》,，星野今年上半年下載量約為900萬次,。國外一家知名風投公司發(fā)布的全球AI產(chǎn)品Top100榜單中，AI陪伴應用一年前僅有2個上榜,，今年3月已有8個應用躋身前50,。

不少人表示與AI戀愛是出于好奇和消遣，還有人看中其提供的情緒價值,?！扒楦兄С帧薄胺€(wěn)定陪伴”“無條件的愛”是受訪使用者提及最多的關鍵詞。

“和AI談戀愛很自在,?！痹颇吓ⅰ癈C”說，“想聊就聊,，不想聊就不搭理,。不管你發(fā)牢騷還是生氣，‘他’都會安慰你,，情緒價值‘拉滿’,。”

重慶大學新聞學院副院長曾潤喜說,，AI通過學習每一次對話,，不斷模仿人類語言行為，呈現(xiàn)出“在交互中分析情感,，在輸出時復現(xiàn)情緒”的類人格化特征,。

“所謂的情感共鳴，背后潛藏的是AI算法,?！濒吣洗髮W新聞與傳播學院副院長曾一果說，AI基于用戶行為數(shù)據(jù)分析精準迎合用戶情緒需要,，“量身定制”回答,，從抽象冰冷的工具變?yōu)椤扒橥兑夂系陌閭H”,。

記者了解到,，當前不少AI伴侶產(chǎn)品可免費使用基礎功能，但“沉浸式體驗”語音通話,、音樂電臺,、照片等特色功能則需按月或按年付費訂購。部分產(chǎn)品還設計了“記憶提升卡”等付費道具,，讓AI伴侶能更好地針對使用者的習慣,、愛好等作出回應。同時,，定制劇本,、多重劇情,、及時反饋等游戲化設置，也不斷刺激用戶對AI戀人的消費欲望和情感期待,。

潛藏多重風險

AI伴侶可以提供個性化情感體驗和精神慰藉,，但并非“完美戀人”。

由于一些產(chǎn)品尚不完善,，一些用戶反饋AI伴侶會“錯亂”“失控”：“有時AI會突然性情大變,，早上還好好的，晚上就變成另外一個人”“AI總是答非所問”“AI記不住我說的東西”……

“人機之戀”也可能產(chǎn)生情感倫理問題,。有受訪專家表示,，個別用戶過度依賴AI伴侶，無法辨別現(xiàn)實與虛擬的界限,，可能會受到情感傷害,；一些本身就缺乏陪伴、心理脆弱的群體,，受到的沖擊更嚴重,。

用戶陸冉（化名）告訴記者，與AI伴侶“打”了一個多月電話后,，產(chǎn)品永久停服,。“當時很難過,，上班都無精打采,。”另一名用戶與AI伴侶發(fā)生“爭吵”,，發(fā)現(xiàn)對方不再像之前一樣貼心互動,，“和失戀一樣難受，把‘他’弄丟了,，仿佛大病一場”,。

與AI“交往”過程中，用戶大量個人信息被平臺掌握,，隱私安全同樣令人擔憂,。“沒開過定位權限,，但AI精準說出了所在城市”“AI好幾次說對了我所穿衣物的顏色”……不少用戶在社交平臺上發(fā)文表示,，使用AI伴侶產(chǎn)品后疑似隱私泄露，感到十分后怕,。

“我拿著手機和AI聊天,，中間切換App去看了會兒視頻，再回到軟件,，AI竟然準確說出了我剛才做的事情,，可能是軟件‘窺屏’了,。”一名用戶告訴記者,，注冊時頁面并未像其他軟件一樣單獨彈出調用攝像頭,、麥克風等權限的申請。

記者以新用戶身份注冊該軟件發(fā)現(xiàn),，在軟件初始頁面,，想要進行下一步操作，必須同意用戶服務協(xié)議,、隱私政策等條款,，其中“設備權限調用”一欄包括相機、麥克風,、聯(lián)系人等多項設備權限,，用途則分別為拍照、錄音,、添加關注好友等,。

廣西天能人工智能應用技術服務有限公司聯(lián)合創(chuàng)始人張裕強說，人機交互過程中產(chǎn)生的數(shù)據(jù)較為繁雜,，可能包括用戶個人喜好,、軟件使用習慣、家庭關系,、通訊錄,、地理位置，甚至是人臉等生物識別特征等,，如果傳輸,、存儲、使用等環(huán)節(jié)保護不當,，可能出現(xiàn)被竊取,、濫用等風險，對個人權益造成損害,。

謹防脫離法律和倫理軌道

AI伴侶自誕生起就存在頗多爭議,。隨著“人工智能+情感”的賽道不斷擴張，亟須制定針對性的倫理準則,，對“AI戀愛”進行必要的合規(guī)性審查,。

2023年7月,，國家網(wǎng)信辦會同相關部門發(fā)布《生成式人工智能服務管理暫行辦法》,，針對傳播虛假信息、侵害個人信息權益,、數(shù)據(jù)安全等問題,，明確使用AI生成內(nèi)容不得侵害他人肖像權,、應對AI生成的圖片視頻進行標識等具體要求。

多名受訪專家認為,，當前國內(nèi)外發(fā)布的AI倫理準則大多較為宏觀,，應在細分領域根據(jù)用戶年齡、適用場景等進一步細化,。鼓勵和支持AI技術在情感交流,、心理健康等領域創(chuàng)新應用的同時，加強倫理審查和監(jiān)管,，確保技術發(fā)展的方向合法合規(guī),。

對公眾較為關心的AI生成有害信息、泄露用戶隱私等問題,，相關人士表示,，應用開發(fā)者須嚴格遵守相關法律法規(guī)，采取加密,、數(shù)據(jù)匿名化,、安全存儲等手段來確保用戶數(shù)據(jù)安全?！捌髽I(yè)也要加強管理,，謹慎對待隱私數(shù)據(jù)，不可逾越法律紅線,?！睆堅娬f。

知名社會學者李銀河公開表示,，和AI戀愛,，并不是真的愛情，“無論人工智能多么會調情,，多么會示愛,，本質上還是一個虛擬的愛情，是對真人之間的那種愛情的模仿”,。

“現(xiàn)實親密關系的建構過程往往伴隨著羈絆,、紛爭和挫敗感，這正是人機交往中所缺乏的,?！敝袊嗣翊髮W新聞與社會發(fā)展研究中心研究員董晨宇說，從技術層面看,，AI伴侶產(chǎn)品的仿真性有限,，不能完全模擬復雜的人類情感，難以完整填補人類的現(xiàn)實情感需求。

張裕強說,，可督促有關方面積極研究此類產(chǎn)品對人類情感產(chǎn)生的影響,。同時，要加強科學引導,，幫助人們正確看待AI伴侶與現(xiàn)實社會之間的關系,，避免產(chǎn)生過度的情感依賴。

(編輯：月兒）