近日,福建省福州市某科技公司法人代表郭先生10分鐘內(nèi)被詐騙分子利用AI換臉詐騙430萬元。主要原因是郭先生基于已有和對方偽裝的“好友”視頻聊天的信任,且對方表示只想公對公賬戶過賬,并已將銀行轉(zhuǎn)賬截圖發(fā)了過來,郭先生就直接轉(zhuǎn)賬了。隨后,郭先生撥通好友電話告知轉(zhuǎn)賬成功,結(jié)果對方說沒有這回事,他這才意識到遇上了騙局(據(jù)5月20日“平安包頭”微信公眾號消息)。
不寒而栗,是很多人看到這則案例的第一感受。這意味著,關(guān)乎借錢、轉(zhuǎn)賬等金錢交易安全的網(wǎng)絡(luò)視頻和語音的面孔、聲音確認(rèn),幾乎已不能支撐身份核驗(yàn),現(xiàn)代社會的信任體系在逐步被技術(shù)所侵蝕。
這個案件中,有很多細(xì)節(jié)讓人細(xì)思極恐。第一,詐騙分子盜取郭先生好友的微信,并與郭先生視頻提出高額資金轉(zhuǎn)賬,這首先需要明確郭先生的確有此經(jīng)濟(jì)實(shí)力。盜取一個人的微信,并知道他微信好友的資產(chǎn),這些隱私信息都是如何泄露的?第二,詐騙分子盜取郭先生好友的微信,并通過AI換臉與郭先生視頻。視頻結(jié)束,郭先生轉(zhuǎn)賬結(jié)束后,再發(fā)微信給好友時,微信的掌控者已切換回郭先生好友了。微信“了無痕跡”地失竊又“悄無聲息”地返還,這種新的微信盜取方式是如何實(shí)現(xiàn)的,值得公安機(jī)關(guān)重點(diǎn)關(guān)注。第三,該案中當(dāng)事人報警后,福建福州、內(nèi)蒙古包頭兩地警銀成功止付攔截了336.84萬元,但仍有93.16萬元被轉(zhuǎn)移。視頻對話尚可作假,如果連郭先生好友的電話也被犯罪分子利用技術(shù)所控制,例如通過騷擾電話錄音等來提取某人聲音,獲取素材后偽造聲音,那將真是做戲做全套的詐騙,恐怕這次資金的攔截將更無時間和可能性了。
那么,未來面對重要事務(wù),但遠(yuǎn)距離的人們打電話、打視頻都無法證明對方確實(shí)是其本人時,該如何防止和避免AI換臉詐騙?綜合近期出現(xiàn)的案例和有關(guān)專業(yè)人士的介紹,筆者幫大家總結(jié)了幾個防范AI換臉技術(shù)的識別方式:一是要求對方用一根手指在面前來回晃動。因?yàn)槟壳胺缸锓肿永肁I算法換臉時多使用正面照,而不少算法程序還不能處理好突然在面前出現(xiàn)的物體,當(dāng)有手指等在面前晃動時,AI假臉可能會出現(xiàn)不自然的跳動或變形。二是打視頻時看對方的眼睛。目前,部分AI假臉是利用睜眼照片,通過人體圖像合成技術(shù)生成的,有些假臉眨眼的頻次明顯少于正常人,而有些甚至不會眨眼。三是向其詢問只有你們雙方知道的事情。涉及借錢等要緊事,可拿出平常的生活細(xì)節(jié)、小秘密等只有兩個人或少數(shù)人知道的事來確定對方的身份。用“友誼和愛”打敗“魔法”,這是現(xiàn)實(shí)生活給技術(shù)負(fù)面影響最沉重的一擊。
除了我們個人的努力外,國家有關(guān)部門和AI技術(shù)服務(wù)平臺也應(yīng)不斷提升監(jiān)管技術(shù)水平。盡管去年12月《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》已出臺,近期也有平臺和企業(yè)發(fā)布了“關(guān)于人工智能生成內(nèi)容的平臺規(guī)范暨行業(yè)倡議”,但接下來AI技術(shù)服務(wù)平臺及時監(jiān)測并制止利用AI發(fā)布侵權(quán)內(nèi)容、創(chuàng)作詐騙內(nèi)容等情況,仍任重道遠(yuǎn)。各級網(wǎng)信部門和公安部門要依據(jù)各自職責(zé),提升監(jiān)督管理工作和技術(shù)水平。各級執(zhí)法司法部門在破獲案件后,應(yīng)及時總結(jié)新型犯罪途徑和防范方式,以發(fā)布典型案例等形式,方便社會大眾廣泛了解社會動態(tài),掌握相應(yīng)的知識,提高防范意識和自我保護(hù)水平。
被AI換臉詐騙侵蝕的信任,還得靠多方努力來找回,畢竟,單靠個人提高鑒別詐騙的能力,是永遠(yuǎn)趕不上技術(shù)發(fā)展速度的。
北疆新聞:內(nèi)蒙古自治區(qū)重點(diǎn)新聞網(wǎng)站(客戶端),內(nèi)蒙古出版集團(tuán)新華報業(yè)中心旗下國家互聯(lián)網(wǎng)新聞信息采編發(fā)布服務(wù)一類資質(zhì)網(wǎng)站(客戶端)。
北疆新聞版權(quán)與免責(zé)聲明:
一、凡本站中注明“來源:北疆新聞”的所有文字、圖片和音視頻,版權(quán)均屬北疆新聞所有,轉(zhuǎn)載時必須注明“來源:北疆新聞”,并附上原文鏈接。
二、凡來源非北疆新聞的新聞(作品)只代表本網(wǎng)傳播該消息,并不代表贊同其觀點(diǎn)。
如因作品內(nèi)容、版權(quán)和其它問題需要同本網(wǎng)聯(lián)系的,請?jiān)谝娋W(wǎng)后30日內(nèi)進(jìn)行,聯(lián)系郵箱:bjwmaster@163.com。
版權(quán)聲明:北疆新聞版權(quán)所有,未經(jīng)書面授權(quán),不得轉(zhuǎn)載或建立鏡像,違者依法必究。 本站違法和不良信息舉報電話:15648148811蒙ICP備16001043號-1
Copyright © 2016- 北疆新聞網(wǎng) All Rights Reserved互聯(lián)網(wǎng)新聞信息服務(wù)許可證:15120200009-1蒙公網(wǎng)安備:15010502001245