爆火的生成式AI產(chǎn)業(yè)正式迎來首個監(jiān)管文件。
繼今年4月網(wǎng)信辦就《生成式人工智能服務(wù)管理辦法(征求意見稿)》公開征求意見后,7月13日,網(wǎng)信辦等七部門正式發(fā)布了《生成式人工智能服務(wù)管理暫行辦法》(下文簡稱“《辦法》”),該辦法自2023年8月15日起施行。
國家互聯(lián)網(wǎng)信息辦公室有關(guān)負責(zé)人表示,出臺《辦法》,旨在促進生成式人工智能健康發(fā)展和規(guī)范應(yīng)用,維護國家安全和社會公共利益,保護公民、法人和其他組織的合法權(quán)益。
生成式人工智能是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)。以O(shè)penAI發(fā)布的ChatGPT為代表的生成式人工智能,正在激發(fā)包括微軟、谷歌、Meta、百度、阿里巴巴等國內(nèi)外科技巨頭以及創(chuàng)業(yè)者的新一輪“AI軍備競賽”。
最新出臺的《辦法》共24條,從生成式人工智能服務(wù)提供者的算法設(shè)計與備案、訓(xùn)練數(shù)據(jù)、模型,到用戶隱私、商業(yè)秘密的保護,監(jiān)督檢查和法律責(zé)任等方面提出了相關(guān)要求。同時《辦法》中明確了對生成式AI產(chǎn)業(yè)的支持和鼓勵態(tài)度。
北京師范大學(xué)法學(xué)院博士生導(dǎo)師、中國互聯(lián)網(wǎng)協(xié)會研究中心副主任吳沈括對第一財經(jīng)記者表示,對于生成式人工智能相關(guān)監(jiān)管文件出臺速度快,體現(xiàn)了與技術(shù)發(fā)展和應(yīng)用態(tài)勢的同步推動,反映了中國網(wǎng)絡(luò)監(jiān)管、數(shù)字監(jiān)管日益成熟和敏捷高效的演進態(tài)勢。
多位從業(yè)者對第一財經(jīng)表示,《辦法》強調(diào)了落地的可執(zhí)行性,體現(xiàn)了風(fēng)險防范、風(fēng)險應(yīng)對和風(fēng)險管理的基本思路,它的實施對推動產(chǎn)業(yè)發(fā)展有重要的意義,為生成式人工智能的發(fā)展創(chuàng)造了良好的創(chuàng)新生態(tài)。
釋放哪些監(jiān)管信號?
吳沈括對第一財經(jīng)記者表示,今天出臺的《辦法》在三個方面尤為突出:一是強調(diào)了AIGC的分類分級管理機制,突出了針對不同風(fēng)險類型后續(xù)引入相關(guān)監(jiān)管機制的思路;二是注重AIGC產(chǎn)業(yè)生態(tài)的培育,特別是關(guān)于算力資源共享以及預(yù)訓(xùn)練公共數(shù)據(jù)平臺的建設(shè)問題;三是辦法強調(diào)了國內(nèi)外的交流合作,在適用范圍上,針對境外、境內(nèi)提供服務(wù)以及不向境內(nèi)提供服務(wù)的業(yè)務(wù)類型做了區(qū)分,明確了辦法的適用范圍。
第一財經(jīng)梳理對比發(fā)現(xiàn),與此前的《征求意見稿》相比,今日發(fā)布的《辦法》新增多處對于生成式人工智能服務(wù)的相關(guān)鼓勵。
例如,在第二章技術(shù)發(fā)展與治理的第五條與第六條,都提到了要鼓勵生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用,生成積極健康、向上向善的優(yōu)質(zhì)內(nèi)容,探索優(yōu)化應(yīng)用場景,構(gòu)建應(yīng)用生態(tài)體系。此外,還鼓勵生成式人工智能算法、框架、芯片及配套軟件平臺等基礎(chǔ)技術(shù)的自主創(chuàng)新,平等互利開展國際交流與合作,參與生成式人工智能相關(guān)國際規(guī)則制定。
《辦法》還提到,采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展,對生成式人工智能服務(wù)實行包容審慎和分類分級監(jiān)管。
在業(yè)界尤為關(guān)注的算力方面,《辦法》也提及,推動生成式人工智能基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺建設(shè)。促進算力資源協(xié)同共享,提升算力資源利用效能。推動公共數(shù)據(jù)分類分級有序開放,擴展高質(zhì)量的公共訓(xùn)練數(shù)據(jù)資源。鼓勵采用安全可信的芯片、軟件、工具、算力和數(shù)據(jù)資源。
在服務(wù)商準入方面,《辦法》還提到,對于外商投資生成式人工智能服務(wù)的,應(yīng)當符合外商投資相關(guān)法律、行政法規(guī)的規(guī)定。
對于生成內(nèi)容的真實可靠性問題,相比《征求意見稿》,《辦法》的說法有了一定調(diào)整。
“一本正經(jīng)胡說八道”是業(yè)界對于生成式人工智能詬病較多的問題?!墩髑笠庖姼濉分刑岬?,利用生成式人工智能生成的內(nèi)容應(yīng)當真實準確,采取措施防止生成虛假信息;此次《辦法》則更新為,為了基于服務(wù)類型特點,采取有效措施,提升生成式人工智能服務(wù)的透明度,提高生成內(nèi)容的準確性和可靠性。
此外,《辦法》還提到對于網(wǎng)信、發(fā)展改革、教育、科技、工業(yè)和信息化、公安、廣播電視、新聞出版等部門,要依據(jù)各自職責(zé)依法加強對生成式人工智能服務(wù)的管理。
業(yè)界人士對記者指出,《辦法》體現(xiàn)了一定的容錯機制,更符合實際,提升了執(zhí)行的可行性。
“很多應(yīng)用領(lǐng)域是可以容忍不完美的大模型,比如游戲里某個英雄胡子長一點、短一點,說錯一句話,偶爾犯錯可能無傷大雅;但有些領(lǐng)域非常關(guān)鍵,是不能容忍犯錯的,比如新聞搜索、政府網(wǎng)站或者是醫(yī)療教育相關(guān),這些領(lǐng)域未來需要解決大模型犯錯的問題?!庇写竽P蛷臉I(yè)者這樣表示。
對于未成年人的保護,《辦法》的內(nèi)容也進行了著重強調(diào)。
此前《征求意見稿》提到,采取適當措施防范用戶過分依賴或沉迷生成內(nèi)容;此次《辦法》則更新為,采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務(wù)。
在圍繞對于生成式人工智能的監(jiān)督方面,《辦法》還提到,有關(guān)主管部門依據(jù)職責(zé)對生成式人工智能服務(wù)開展監(jiān)督檢查,提供者應(yīng)當依法予以配合,按要求對訓(xùn)練數(shù)據(jù)來源、規(guī)模、類型、標注規(guī)則、算法機制機理等予以說明,并提供必要的技術(shù)、數(shù)據(jù)等支持和協(xié)助。
對于個人隱私、商業(yè)秘密等保護,《辦法》中有多條涉及相關(guān)內(nèi)容,例如參與生成式人工智能服務(wù)安全評估和監(jiān)督檢查的相關(guān)機構(gòu)和人員對在履行職責(zé)中知悉的國家秘密、商業(yè)秘密、個人隱私和個人信息應(yīng)當依法予以保密,不得泄露或者非法向他人提供等等。
產(chǎn)業(yè)影響幾何?
中國電子云副總裁李樹翀看到《辦法》的第一反應(yīng)是:“正當時!”。他對第六條中提到的“鼓勵生成式人工智能算法、框架、芯片及配套軟件平臺等基礎(chǔ)技術(shù)的自主創(chuàng)新”頗有感觸?!叭缃裼ミ_已經(jīng)一卡難求,再不能讓大模型卡住正被重塑的計算體系。” 他告訴第一財經(jīng)。
此外他還表示,《辦法》將規(guī)范“大模型”行業(yè)應(yīng)用與場景落地,讓AI技術(shù)更好的服務(wù)經(jīng)濟和產(chǎn)業(yè)高質(zhì)量發(fā)展。
商湯科技智能產(chǎn)業(yè)研究院院長田豐對第一財經(jīng)記者評價,《辦法》有著全球AI2.0治理引領(lǐng)性、落地可執(zhí)行性,并對推動產(chǎn)業(yè)發(fā)展有重要的意義。
達觀數(shù)據(jù)CEO陳運文對第一財經(jīng)記者表示:“行業(yè)發(fā)展接下來會逐步規(guī)范。這個《辦法》的出臺對生成式大模型服務(wù)起了引導(dǎo)作用,生成式AI技術(shù)很新也很熱,接下來落地發(fā)展要靠這個制度來引導(dǎo)?!?/p>
還有一位從業(yè)者表示,這一《辦法》重視防范風(fēng)險的同時,也體現(xiàn)了一定的容錯和糾錯機制,努力實現(xiàn)規(guī)范與發(fā)展的動態(tài)平衡。
對于《辦法》中提到的安全、可信、監(jiān)管等話題,此前也引起了不少大模型從業(yè)者的重視與討論。
百度董事長李彥宏不久前表示,只有建立健全保障人工智能健康發(fā)展的法律法規(guī)、制度體系、倫理道德,才能營造良好的創(chuàng)新生態(tài)。
360創(chuàng)始人周鴻祎則提到,要打造“安全可信、可控易用”的專有大模型。他提出,模型實現(xiàn)“安全可控”的關(guān)鍵在于要堅持“輔助模式”,將大模型定位為企業(yè)和員工的助手,作為“副駕駛”角色提供幫助,讓人的意志在整個決策回路中起到關(guān)鍵作用。
阿里云智能集團董事長兼首席執(zhí)行官張勇也表示,“構(gòu)建安全可信的人工智能”逐步成為行業(yè)共識,相關(guān)法律法規(guī)正在完善,為技術(shù)和產(chǎn)業(yè)的可持續(xù)發(fā)展培育了良好的土壤與環(huán)境?!皠?chuàng)新中有很多不確定性,有些可以預(yù)判在前,防患于未然;有的問題在發(fā)展中出現(xiàn),需要邊發(fā)展邊解決,用發(fā)展去解決。”
全球醞釀監(jiān)管措施
不只在中國,類ChatGPT的生成式人工智能(AIGC)大模型引發(fā)資本競逐,各國對于AIGC合規(guī)性的重視正在推動相應(yīng)的監(jiān)管措施出臺。
歐洲一直走在人工智能監(jiān)管的前沿。今年5月,歐盟議會已經(jīng)批準了首個全面的人工智能法案?!拔覀兿M斯ぶ悄芟到y(tǒng)準確、可靠、安全且無歧視,無論其來源如何。”歐盟委員會主席烏爾蘇拉·馮德萊恩5月19日表示。
同樣是在今年5月日本召開的七國集團(G7)領(lǐng)導(dǎo)人峰會上,成員國領(lǐng)導(dǎo)人承認需要對人工智能和沉浸式技術(shù)進行治理,并提出在今年年底之前創(chuàng)建一個專門討論人工智能進展的部長級論壇,討論圍繞生成式人工智能的問題,例如版權(quán)和打擊虛假信息。
英國競爭監(jiān)管機構(gòu)今年5月也表示,將開始審查人工智能對消費者、企業(yè)和經(jīng)濟的影響,以及是否需要新的監(jiān)管措施。
愛爾蘭數(shù)據(jù)保護負責(zé)機構(gòu)今年4月表示,生成式人工智能需要受到監(jiān)管,但管理機構(gòu)必須在倉促實施“確實站不住腳”的禁令之前弄清楚如何正確監(jiān)管。
美國商務(wù)部下屬的國家標準與技術(shù)研究院6月表示,將成立一個由生成式人工智能專家志愿者組成的公共工作組,以幫助抓住人工智能帶來的行業(yè)機遇并制定應(yīng)對其風(fēng)險的指導(dǎo)。美國聯(lián)邦貿(mào)易委員會5月表示,該機構(gòu)致力于利用現(xiàn)有法律來控制人工智能的風(fēng)險。
日本隱私監(jiān)管機構(gòu)6月表示,已警告OpenAI不得在未經(jīng)公眾許可的情況下收集敏感數(shù)據(jù)。日本預(yù)計將在2023年底之前出臺監(jiān)管措施,這些監(jiān)管措施可能更接近美國的態(tài)度,而不是歐盟計劃的嚴格監(jiān)管措施,因為日本希望這項技術(shù)能夠促進經(jīng)濟增長,并使其成為先進芯片的領(lǐng)導(dǎo)者。
聯(lián)合國秘書長安東尼奧·古特雷斯6月12日支持一些人工智能高管提出的建立像國際原子能機構(gòu)這樣的人工智能監(jiān)管機構(gòu)的提議。古特雷斯還宣布計劃在今年年底前啟動高級別人工智能咨詢機構(gòu)的工作,定期審查人工智能治理安排并提出建議。
面對生成式人工智能的全球監(jiān)管趨勢,吳沈括對第一財經(jīng)記者表示,面對新技術(shù)新應(yīng)用,需要持續(xù)地探索一套敏捷高效的監(jiān)管機制和監(jiān)管方式,最大限度地及時應(yīng)對和處置伴生的各種風(fēng)險類型。此外也需要持續(xù)地構(gòu)建和完善一套經(jīng)濟、便利、可行的合規(guī)指引,使各方主體有清晰的合規(guī)標準和指向。
“良好的生態(tài)治理也需要各方最大限度地凝聚共識,在更大范圍內(nèi)形成有關(guān)新技術(shù)、新應(yīng)用的治理的價值共同點以及共同認可的行為準則。”他說。
可以說,每一次技術(shù)革命都伴隨著帶來巨大的機遇和風(fēng)險。對于生成式人工智能而言,只有建立起真實的用戶調(diào)用和模型迭代之間的飛輪,AI模型才能變得越來越聰明,而如何在政策監(jiān)管和技術(shù)發(fā)展之間找到平衡也考驗著全球的監(jiān)管機構(gòu)。(記者樊雪寒對本文亦有貢獻)
北疆新聞:內(nèi)蒙古自治區(qū)重點新聞網(wǎng)站(客戶端),內(nèi)蒙古出版集團新華報業(yè)中心旗下國家互聯(lián)網(wǎng)新聞信息采編發(fā)布服務(wù)一類資質(zhì)網(wǎng)站(客戶端)。
北疆新聞版權(quán)與免責(zé)聲明:
一、凡本站中注明“來源:北疆新聞”的所有文字、圖片和音視頻,版權(quán)均屬北疆新聞所有,轉(zhuǎn)載時必須注明“來源:北疆新聞”,并附上原文鏈接。
二、凡來源非北疆新聞的新聞(作品)只代表本網(wǎng)傳播該消息,并不代表贊同其觀點。
如因作品內(nèi)容、版權(quán)和其它問題需要同本網(wǎng)聯(lián)系的,請在見網(wǎng)后30日內(nèi)進行,聯(lián)系郵箱:bjwmaster@163.com。
版權(quán)聲明:北疆新聞版權(quán)所有,未經(jīng)書面授權(quán),不得轉(zhuǎn)載或建立鏡像,違者依法必究。 本站違法和不良信息舉報電話:15648148811蒙ICP備16001043號-1
Copyright © 2016- 北疆新聞網(wǎng) All Rights Reserved互聯(lián)網(wǎng)新聞信息服務(wù)許可證:15120200009-1蒙公網(wǎng)安備:15010502001245