央視網(wǎng)消息:作為網(wǎng)絡(luò)安全宣傳周重要組成部分,2023年網(wǎng)絡(luò)安全博覽會眼下正在福州舉辦,記者注意到,人工智能產(chǎn)業(yè)如何更好發(fā)展引發(fā)與會人員的關(guān)注。不少專家認(rèn)為生成式人工智能雖然能夠極大地方便和改善人類的生活方式,但也對網(wǎng)絡(luò)安全構(gòu)成了新的挑戰(zhàn),需要從各方面強(qiáng)化監(jiān)管。
專家指出,任何技術(shù)都是有兩面性的,生成式人工智能背后隱藏著一系列安全風(fēng)險(xiǎn),對國家安全、社會安全、網(wǎng)絡(luò)安全及數(shù)據(jù)安全均提出了新的挑戰(zhàn)。
在安全方面,專家指出,排除人為干預(yù),人工智能自身的安全問題也是顯而易見的。
中國計(jì)算機(jī)學(xué)會(CCF)計(jì)算機(jī)安全專業(yè)委員會委員 程度:第一,在源頭上,數(shù)據(jù)有可能被投毒,會被污染,這樣原始訓(xùn)練的數(shù)據(jù)可能會有問題。第二,在訓(xùn)練的時(shí)候,有可能有大數(shù)據(jù)歧視算法在里面,有可能它不是一個(gè)公正的算法,會導(dǎo)致結(jié)果有問題。第三,在最后的輸出階段會有一個(gè)反饋的機(jī)制,反饋的機(jī)制有可能會注入一些惡意的數(shù)據(jù)或者樣本,也會導(dǎo)致這個(gè)模型得出的答案有偏差。
那么,如何應(yīng)對人工智能存在的隱患?專家表示,這需要從監(jiān)管和從業(yè)人員以及企業(yè)層面共同努力來應(yīng)對。
廣東省數(shù)字政府網(wǎng)絡(luò)和數(shù)據(jù)安全應(yīng)急響應(yīng)專家組專家 李新亮:針對AI可能帶來的安全風(fēng)險(xiǎn),我個(gè)人覺得,從國家層面要加快相關(guān)的立法,同時(shí)要盡快制定相關(guān)的行業(yè)標(biāo)準(zhǔn)。另外,對AI的從業(yè)人員來說 ,一定要加強(qiáng)相應(yīng)的培訓(xùn),讓他們在使用AI技術(shù)的時(shí)候能夠在國家法律法規(guī)的層面開展。從企業(yè)層面而言,在采集公民信息的合規(guī)性方面一定要充分考慮清楚,同時(shí)采集的這些數(shù)據(jù)在傳輸存儲方面一定要加強(qiáng)數(shù)據(jù)保護(hù)方面的相關(guān)動作。
北疆新聞:內(nèi)蒙古自治區(qū)重點(diǎn)新聞網(wǎng)站(客戶端),內(nèi)蒙古出版集團(tuán)新華報(bào)業(yè)中心旗下國家互聯(lián)網(wǎng)新聞信息采編發(fā)布服務(wù)一類資質(zhì)網(wǎng)站(客戶端)。
北疆新聞版權(quán)與免責(zé)聲明:
一、凡本站中注明“來源:北疆新聞”的所有文字、圖片和音視頻,版權(quán)均屬北疆新聞所有,轉(zhuǎn)載時(shí)必須注明“來源:北疆新聞”,并附上原文鏈接。
二、凡來源非北疆新聞的新聞(作品)只代表本網(wǎng)傳播該消息,并不代表贊同其觀點(diǎn)。
如因作品內(nèi)容、版權(quán)和其它問題需要同本網(wǎng)聯(lián)系的,請?jiān)谝娋W(wǎng)后30日內(nèi)進(jìn)行,聯(lián)系郵箱:bjwmaster@163.com。
版權(quán)聲明:北疆新聞版權(quán)所有,未經(jīng)書面授權(quán),不得轉(zhuǎn)載或建立鏡像,違者依法必究。 本站違法和不良信息舉報(bào)電話:15648148811蒙ICP備16001043號-1
Copyright © 2016- 北疆新聞網(wǎng) All Rights Reserved互聯(lián)網(wǎng)新聞信息服務(wù)許可證:15120200009-1蒙公網(wǎng)安備:15010502001245