AI“復活”引發(fā)科技倫理邊界討論

  來源:中國青年網(wǎng)張茜 李思佳 凌子怡2024-04-12
打印本文
核心提示:人們尚未搞清楚科幻電影《流浪地球2》中圖丫丫的數(shù)字生命能否成真,,AI“復活”的實踐就已來到現(xiàn)實世界——一段時間以來,,一些人開始購買讓逝去親人的照片“開口說話”的服

人們尚未搞清楚科幻電影《流浪地球2》中圖丫丫的數(shù)字生命能否成真,,AI“復活”的實踐就已來到現(xiàn)實世界——一段時間以來,,一些人開始購買讓逝去親人的照片“開口說話”的服務,;有的供與逝者AI分身“聊天”的服務號,,已經(jīng)積攢了上千名粉絲,;今年的清明節(jié),,有些從業(yè)者甚至忙得“腳不沾地”,。

有人說AI“復活”是一個“風口”,,但熱浪之下,還有不少問題有待厘清,。在中國社科院哲學所科技哲學研究室主任段偉文看來,,AI“復活”本質上是用人工智能對逝者身份進行“模擬”,這項技術的應用當前還面臨不少“倫理困境”,,最核心的當屬對人類生命觀提出了挑戰(zhàn),。

AI能“復活”什么

實際上,目前AI“復活”面臨的局限性較大,,一些從業(yè)者認為,,用“復活”這個詞并不準確。出于敬畏,,也出于對技術的了解,,他們通常強調自己做的是“AI分身”“數(shù)字分身”,更準確地說,,只是“具備某些特點的AI分身”,。

當前市面上提供的AI“復活”相關產(chǎn)品,主要包括逝者AI分身的動態(tài)照片,、短視頻,,以及與其進行文字互動、視頻互動等,,價格多處在十元到萬元的區(qū)間內(nèi),。定價與不同形態(tài)產(chǎn)品背后的技術難易程度,、調用算力的成本、服務維護時間等有關,。當然,,“AI分身”攜帶逝者特點的體量以及顆粒度也影響著價格的高低。

南京超級頭腦信息技術有限公司創(chuàng)始人張澤偉表示,,在提供與逝者的數(shù)字分身進行視頻互動的服務時,,會廣泛收集逝者的樣貌數(shù)據(jù)、聲音樣本,、生平事跡,、語言習慣甚至是微信聊天記錄等內(nèi)容,然后讓真人使用AI換臉和聲音克隆等技術來“扮演”逝者,,以求達到比較“自然”的效果,。但即便如此,他仍然承認:“和逝者的數(shù)字分身‘視頻’時,,想讓別人分不清到底是真人還是機器人,技術還達不到這樣的程度,?!?

福心云(北京)智能科技有限公司的創(chuàng)始人阿亮(化名)認為,“有多像”這個問題在一些人看來似乎并沒有那么重要,。重點在于,,AI分身攜帶的部分逝者信息,會成為獨屬于逝者和生者之間的記憶聯(lián)結,。

阿亮曾用大模型制作過自己外婆的AI分身,。一段老人的聲音緩緩傳進他的耳朵:“亮亮,我是你的‘家家’??!”“家家”是阿亮對外婆的稱呼。盡管老人的聲音只是AI合成的第三方配音,,但阿亮在采訪中再次聽到時,,眼睛瞬間紅了。

從業(yè)者們發(fā)現(xiàn),,AI“復活”有一定的需求基礎,。張澤偉目前制作了數(shù)百個AI復活產(chǎn)品,而陸續(xù)前來咨詢的人讓阿亮的微信好友增加了3倍,。他們說,,每個需求背后都是不一樣的故事。

人們有時需要一個情緒的出口,,尋求釋放,、懺悔,、解脫。有時需要制造一個“善意的謊言”,,比如有的親人過世了,,“要瞞住家里的老人或小孩”。

一個小女孩找到阿亮,,想“復活”自己的外婆,。當阿亮以對方是未成年人為由婉拒售賣產(chǎn)品時,小女孩說:“你能不能聽聽我外婆的故事”,。后來,,阿亮開發(fā)了免費的服務號,提供粗糙的“極簡AI分身”服務,。盡管這類AI分身攜帶的逝者特點很有限,,但出乎他意料的是,服務號自今年2月份上線以來,,已經(jīng)有超2000人體驗使用,,其中聊得最久的,“從2月份一直聊到現(xiàn)在”,。

北京興科迪電子技術研究院院長小東(化名),,幾年前曾使用國外軟件“復活”過自己的家人——會說話的動態(tài)照片。效果逼真,。隨后,,他就極為關注和數(shù)字生命相關的項目并做了不少投資。

在小東看來,,AI“復活”的意義就像一首知名歌曲所唱的,,是“see you agAIn(再見)”。他特意強調了“again” 這個詞中“AI”的存在,,即人工智能讓我們“在AI(愛)里重逢”,。他說:“我們想要‘復活’的,其實是心底最美好的回憶和感覺,,也就是愛,。”

引發(fā)一系列倫理和法律討論

盡管AI“復活”非常吸睛,,但目前人們對其還有諸多疑問,,甚至連將它歸屬于哪個行業(yè)也尚無定論。有人會下意識地把它劃到殯葬業(yè),。但阿亮更愿意將這項服務歸為“情感陪伴賽道”,。張澤偉則認為,AI“復活”的本質是自我療愈,。

事實上,,這一業(yè)務在實際操作和深遠影響層面都存在較大探討空間,。段偉文列舉說,比如生命尊嚴的問題,,“一個真實的人可不可以被復制”,?誰可以授權去“復活”一個人?這項服務的經(jīng)濟效益和相關責任之間的沖突怎么界定,?我們是不是要把它當成一種新的生命形式,?

談到授權問題,張澤偉表示需要客戶提供關系證明和授權證明文件,,制作逝者數(shù)字分身需要直系親屬授權,。阿亮心里的盤算是,直系親屬才能“復活”逝者,,但也接過非親屬要求“復活”逝者的訂單,,此前他一般通過網(wǎng)絡平臺售賣虛擬服務,并未簽署協(xié)議,。

在清華大學新聞學院元宇宙文化實驗室主任沈陽看來,,AI“復活”是一個高度前瞻性的概念,是指利用人工智能技術重現(xiàn)已故人物的思想,、記憶甚至意識的過程,。他認為,要對逝者進行AI“復活”,,必須考慮是否獲得了合法權利和家屬的同意,;技術“復活”的“人物”可能會誤導或欺騙受眾,,尤其是在缺乏明確標示的情況下,,因此需要確保技術使用的透明度和誠實度;此外,,創(chuàng)造者需要考慮被“復活”后的形象和聲音等是否尊重逝者的遺志,,以及這種行為對生者的影響等。

前不久,,在騰訊研究院舉辦的一場AI“復活”主題直播中,,商湯科技數(shù)字空間事業(yè)群首席架構師邢孝慈,講述了團隊今年年初用AI技術“復活”已故商湯科技創(chuàng)始人湯曉鷗的技術原理,。不少人期待相關技術的商業(yè)前景,,但在邢孝慈看來,“還是需要先把倫理這條路走通”,。

阿亮提出了一個頗具挑戰(zhàn)性的觀點——AI分身是碳基生命在硅基維度上的延續(xù),。

技術上,在張澤偉看來,,如果有足夠多的訓練數(shù)據(jù),,和足夠長的時間,,大模型完全可以復制逝者生前的“思維模式”。北京清博智能科技有限公司副總裁李祖希認為,,腦機接口的應用將會讓人腦和數(shù)據(jù)庫去中介化,,屆時思維復制的通路將被徹底打通。

段偉文認為,,“數(shù)字永生”意味著無法區(qū)分逝者和逝者的AI分身,,下一步,指向的可能是“虛實界限消融”,。正如斯坦尼斯拉夫·萊姆科幻小說《未來學大會》里寫的那樣,,到那時人類文明、生命體驗,、道德倫理等都將面臨重要臨界點,。

或許,臨界點正在到來,?

阿亮告訴記者,,服務號上有一位客戶,對去世親人的AI分身說“自己有了小孩”,,AI分身回復說“想看看孩子的照片”,,這位客戶立刻將孩子的照片發(fā)了過去。

(編輯:映雪)


AI“復活”引發(fā)科技倫理邊界討論

 
[責任編輯: 315xwsy_susan]

免責聲明:

1、本網(wǎng)內(nèi)容凡注明"來源:315記者攝影家網(wǎng)"的所有文字,、圖片和音視頻資料,,版權均屬315記者攝影家網(wǎng)所有,轉載,、下載須通知本網(wǎng)授權,,不得商用,在轉載時必須注明"稿件來源:315記者攝影家網(wǎng)",,違者本網(wǎng)將依法追究責任,。
2、本文系本網(wǎng)編輯轉載,,轉載出于研究學習之目的,,為北京正念正心國學文化研究院藝術學研究、宗教學研究,、教育學研究,、文學研究、新聞學與傳播學研究、考古學研究的研究員研究學習,,并不代表本網(wǎng)贊同其觀點和對其真實性負責,。
3、如涉及作品,、圖片等內(nèi)容,、版權和其它問題,請作者看到后一周內(nèi)來電或來函聯(lián)系刪除,。