北疆新聞 立足北疆 傳播中國
人民網北京2月24日電 （記者趙竹青）2月23日，清華大學計算機系相關研究團隊宣布推出大語言模型RealSafe-R1。該模型基于DeepSeek R1進行深度優(yōu)化與后訓練，在確保性能穩(wěn)定的基礎上，顯著提升了安全性，為開源大模型的安全發(fā)展與風險治理提供了創(chuàng)新性解決方案。
近日來，國產開源大模型DeepSeek在自然語言處理和多任務推理方面展現了強大的技術實力，但在面對越獄攻擊等安全性挑戰(zhàn)時仍存在一定局限性。為此，清華團隊提出了基于模型自我提升的安全對齊方式，將安全對齊與內省推理相結合，使大語言模型能夠通過具有安全意識的思維鏈分析來檢查潛在風險，實現基礎模型自身能力的自主進化。
基于該方法，團隊對DeepSeek-R1系列模型進行后訓練，正式推出RealSafe-R1系列大模型。實驗數據表明，RealSafe-R1安全性提升顯著，在多個基準測試中有效增強了對各種越獄攻擊的抵抗力，并減輕了安全與性能之間的“蹺蹺板”現象。
據悉，RealSafe-R1各尺寸模型及數據集將于近期向全球開發(fā)者開源。
北疆新聞 | 內蒙古自治區(qū)重點新媒體平臺，內蒙古出版集團?內蒙古新華報業(yè)中心主管主辦的國家互聯(lián)網新聞信息采編發(fā)布服務一類資質平臺。
北疆新聞版權與免責聲明：
一、凡本站中注明“來源：北疆新聞”的所有文字、圖片和音視頻，版權均屬北疆新聞所有，轉載時必須注明“來源：北疆新聞”，并附上原文鏈接。
二、凡來源非北疆新聞的新聞（作品）只代表本網傳播該消息，并不代表贊同其觀點。
如因作品內容、版權和其它問題需要同本網聯(lián)系的，請在見網后30日內進行，聯(lián)系郵箱：bjwmaster@163.com。
版權聲明：北疆新聞版權所有，未經書面授權，不得轉載或建立鏡像，違者依法必究。 本站違法和不良信息舉報電話：15648148811蒙ICP備16001043號-1
Copyright © 2016- 北疆新聞 All Rights Reserved互聯(lián)網新聞信息服務許可證：15120200009-1蒙公網安備：15010502001245
