2023年上映的電影《流浪地球2》中,科學(xué)家圖恒宇為了陪已經(jīng)去世的女兒丫丫度過(guò)“完整的一生”,將她的意識(shí)存儲(chǔ)并上傳到“數(shù)字世界”之中。短短兩年時(shí)間過(guò)去,人工智能(AI)技術(shù)飛速發(fā)展,讓科幻電影中的天馬行空悄然走入百姓的日常生活。
僅需一張照片、一段音頻,就能讓逝去的人在數(shù)字世界中“永生”,甚至可以模擬逝者的語(yǔ)言風(fēng)格和思考方式與人交流?!癆I復(fù)活”這種新的祭奠方式,為人們提供了情感慰藉新途徑;但同樣有質(zhì)疑聲音認(rèn)為,“AI復(fù)活”挑戰(zhàn)傳統(tǒng)生死觀念,會(huì)帶來(lái)社會(huì)倫理方面的諸多問(wèn)題。
如何避免虛擬慰藉造成現(xiàn)實(shí)傷害,如何防止技術(shù)濫用導(dǎo)致作惡?新華每日電訊記者就此展開(kāi)調(diào)查,探究“AI復(fù)活”產(chǎn)業(yè)如何健康發(fā)展。
和“數(shù)字生命”跨時(shí)空對(duì)話
不久前的一檔綜藝節(jié)目中,一位明星用AI技術(shù)讓妻子的父母“復(fù)活”,虛擬形象說(shuō)出跨越時(shí)空的一句“我愛(ài)你”,讓妻子潸然淚下。有網(wǎng)友評(píng)價(jià),這是“最高級(jí)的浪漫”。
記者在電商平臺(tái)搜索“AI復(fù)活”等關(guān)鍵詞發(fā)現(xiàn),提供類似服務(wù)的商家并不少,不少產(chǎn)品價(jià)格低至個(gè)位數(shù)。據(jù)商家介紹,這些商品有的可以根據(jù)消費(fèi)者提供的圖片生成短視頻,有的可以根據(jù)不同需求定制語(yǔ)音回復(fù),還有的可以根據(jù)逝者的音頻模擬發(fā)聲。有部分消費(fèi)者在評(píng)論區(qū)留言,“很真實(shí),讓我很感動(dòng)”“AI復(fù)活技術(shù)神奇,讓逝去的記憶重現(xiàn)”。
“這只是‘AI復(fù)活’的初級(jí)版本,如今的科技水平已經(jīng)可以實(shí)現(xiàn)數(shù)字生命的實(shí)時(shí)對(duì)話功能?!睒I(yè)內(nèi)人士表示,借助生成式人工智能等數(shù)字技術(shù),“AI復(fù)活”不但能夠?qū)崿F(xiàn)聲音和畫(huà)面的還原,還能實(shí)現(xiàn)實(shí)時(shí)“視頻通話”,幫助逝者在數(shù)字世界中實(shí)現(xiàn)“重生”。
天津市民張先生用一款名為“靈遇”的App,實(shí)現(xiàn)了同逝去的爺爺“視頻聊天”。他介紹,只需將已逝親人的照片、聲音和背景資料錄入并進(jìn)行數(shù)字處理,即可生成數(shù)字人物,聲音和樣貌還原度都很高,甚至可以用方言進(jìn)行交流?!凹胰藗兌加X(jué)得爺爺仿佛還在身邊?!睆埾壬f(shuō)。
“靈遇”App負(fù)責(zé)人高瑋介紹,當(dāng)前,人工智能大模型在“文字層面”的理解和生成能力已經(jīng)很強(qiáng),“靈遇”App充分利用人工智能擬人化主動(dòng)性交流、模擬視覺(jué)與情緒識(shí)別和永久記憶等功能,拓展了用戶和生成式人工智能的溝通方式。盡管該App剛上線兩個(gè)多月,已有近萬(wàn)名用戶注冊(cè),數(shù)百人使用了“數(shù)字生命”付費(fèi)功能。
高瑋認(rèn)為,隨著AI技術(shù)的進(jìn)一步發(fā)展,“AI復(fù)活”的呈現(xiàn)方式將更加豐富?!翱梢灶A(yù)測(cè),人與多模態(tài)的生成式人工智能進(jìn)行情感交流,將成為未來(lái)智能社會(huì)的常態(tài)。”高瑋說(shuō)。
打破“生命界限”并非易事
“‘AI復(fù)活’挑戰(zhàn)的是人們對(duì)死亡的傳統(tǒng)認(rèn)知?!碧旖蛏缈圃荷鐣?huì)學(xué)研究所副研究員桂慕梅表示,盡管“AI復(fù)活”建構(gòu)起超越生死界限的對(duì)話模式,讓生者獲得了更大程度的情感慰藉,實(shí)現(xiàn)了傳統(tǒng)祭奠方式的革新,但新技術(shù)背后的社會(huì)倫理問(wèn)題不容忽視。
當(dāng)人們過(guò)度依賴數(shù)字技術(shù)時(shí),虛擬慰藉很可能帶來(lái)現(xiàn)實(shí)傷害,受到情感困擾甚至出現(xiàn)心理或生理疾病。桂慕梅表示,生者如果難以走出失去親人的陰影,沉溺于虛擬世界中,就會(huì)影響在現(xiàn)實(shí)世界里對(duì)真實(shí)情感和人際關(guān)系的認(rèn)知,嚴(yán)重的會(huì)影響正常生活。
“‘AI復(fù)活’技術(shù)正在改變?nèi)藗冃闹袀鹘y(tǒng)的生死界限。”上海師范大學(xué)人工智能教育研究院副院長(zhǎng)林曉同樣表示,長(zhǎng)期以來(lái),人們認(rèn)為死亡是生命體征的消失、意識(shí)的消亡,這個(gè)自然過(guò)程不可逆轉(zhuǎn)。新技術(shù)的出現(xiàn)模糊了生與死的界限,如果不正確引導(dǎo),可能影響基于傳統(tǒng)生死觀念建立的倫理道德體系。
“除此之外,還要警惕AI濫用帶來(lái)的法律風(fēng)險(xiǎn)。”南開(kāi)大學(xué)法學(xué)院教授王彬表示,AI“復(fù)活”技術(shù)的應(yīng)用包含對(duì)敏感個(gè)人信息的處理,其中包括且不限于肖像、聲音等生物識(shí)別信息以及生平經(jīng)歷等身份識(shí)別數(shù)據(jù),若出現(xiàn)泄露隱私或損害名譽(yù)的情況,逝者的近親屬有權(quán)提起訴訟。
我國(guó)個(gè)人信息保護(hù)法第49條明確,自然人死亡的,其近親屬為了自身的合法、正當(dāng)利益,可以對(duì)死者的相關(guān)個(gè)人信息行使法律規(guī)定的查閱、復(fù)制、更正、刪除等權(quán)利?!按饲霸胁糠稚碳一蚍劢z為求流量變現(xiàn),未經(jīng)授權(quán)利用‘AI復(fù)活’已逝明星,不僅讓生者反感,還涉嫌違法?!蓖醣蛘f(shuō)。
高瑋等業(yè)內(nèi)人士認(rèn)為,技術(shù)濫用的風(fēng)險(xiǎn)需引起足夠重視?!斑@項(xiàng)技術(shù)的本質(zhì)是利用AI技術(shù)對(duì)人的容貌、聲音和表達(dá)進(jìn)行復(fù)刻,要警惕不法分子借助‘?dāng)?shù)字生命’惡意侵權(quán)、深度偽造實(shí)施詐騙。”他說(shuō)。
如何更好擁抱“數(shù)字生命”
“‘AI復(fù)活’逝者要遵循近親屬‘知情同意’原則?!边@是許多業(yè)內(nèi)人士的共識(shí)。多位受訪者表示,AI技術(shù)迅猛發(fā)展帶來(lái)了諸多便利,但在使用時(shí)要避免對(duì)逝者近親屬造成二次傷害。
“必須捍衛(wèi)家屬希望和逝去的親人安靜告別的權(quán)利?!惫鹉矫氛f(shuō),“AI復(fù)活”技術(shù)應(yīng)用必須守住法律底線,相關(guān)行為必須符合公序良俗,確保逝者家屬權(quán)益不被侵害。高瑋也認(rèn)為,相關(guān)企業(yè)要嚴(yán)格遵守相關(guān)法律法規(guī)和倫理標(biāo)準(zhǔn),確保在用戶明確授權(quán)和充分告知的前提下提供服務(wù)。
近年來(lái)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等法規(guī)相繼施行,對(duì)深度合成內(nèi)容標(biāo)識(shí)等關(guān)鍵問(wèn)題進(jìn)行了規(guī)范,但“AI復(fù)活”產(chǎn)業(yè)的相關(guān)應(yīng)用仍處于探索階段,需要不斷改進(jìn)監(jiān)管理念和方式,多舉措防范技術(shù)風(fēng)險(xiǎn)和技術(shù)倫理問(wèn)題。
“和其他生成式人工智能產(chǎn)品一樣,‘AI復(fù)活’同樣要顯著標(biāo)識(shí)生成內(nèi)容,避免公眾混淆?!蓖醣虮硎?,平臺(tái)和企業(yè)要守好第一道關(guān),在信息采集和使用上要遵循“最小必要”原則,避免過(guò)度收集逝者信息構(gòu)成侵權(quán),監(jiān)管部門(mén)也要跟得上市場(chǎng)變化。各方齊抓共管,逐步構(gòu)建技術(shù)向善的治理生態(tài)。
盡管目前相關(guān)技術(shù)還無(wú)法實(shí)現(xiàn)更高維度的交互反饋,但該產(chǎn)業(yè)已經(jīng)在部分應(yīng)用場(chǎng)景中展現(xiàn)了巨大價(jià)值潛力?!叭斯ぶ悄茉谂c人的情感交互中將扮演越來(lái)越重要的角色,如何做好技術(shù)進(jìn)步和社會(huì)倫理的平衡考量,確保技術(shù)服務(wù)于人,是未來(lái)一段時(shí)間不得不面對(duì)的重要課題?!绷謺哉f(shuō)。(新華每日電訊記者尹思源)
北疆新聞 | 內(nèi)蒙古自治區(qū)重點(diǎn)新媒體平臺(tái),內(nèi)蒙古出版集團(tuán)?內(nèi)蒙古新華報(bào)業(yè)中心主管主辦的國(guó)家互聯(lián)網(wǎng)新聞信息采編發(fā)布服務(wù)一類資質(zhì)平臺(tái)。
北疆新聞版權(quán)與免責(zé)聲明:
一、凡本站中注明“來(lái)源:北疆新聞”的所有文字、圖片和音視頻,版權(quán)均屬北疆新聞所有,轉(zhuǎn)載時(shí)必須注明“來(lái)源:北疆新聞”,并附上原文鏈接。
二、凡來(lái)源非北疆新聞的新聞(作品)只代表本網(wǎng)傳播該消息,并不代表贊同其觀點(diǎn)。
如因作品內(nèi)容、版權(quán)和其它問(wèn)題需要同本網(wǎng)聯(lián)系的,請(qǐng)?jiān)谝?jiàn)網(wǎng)后30日內(nèi)進(jìn)行,聯(lián)系郵箱:bjwmaster@163.com。
版權(quán)聲明:北疆新聞版權(quán)所有,未經(jīng)書(shū)面授權(quán),不得轉(zhuǎn)載或建立鏡像,違者依法必究。 本站違法和不良信息舉報(bào)電話:15648148811蒙ICP備16001043號(hào)-1
Copyright © 2016- 北疆新聞 All Rights Reserved互聯(lián)網(wǎng)新聞信息服務(wù)許可證:15120200009-1蒙公網(wǎng)安備:15010502001245