人民網(wǎng)北京6月16日電 （記者許維娜）“人工智能技術(shù)不僅是賦能數(shù)字中國建設(shè)的重要工具，也是推動網(wǎng)絡(luò)安全從‘被動防御’向‘主動免疫’躍升的關(guān)鍵引擎。依托機器學習、自然語言處理等技術(shù)，可以實現(xiàn)風險識別智能化、威脅檢測自動化、攻擊溯源精準化。”國家信息中心黨委書記、主任徐強日前在“2025網(wǎng)絡(luò)安全創(chuàng)新發(fā)展大會”上表示。
徐強還表示，需警惕人工智能自身的安全隱患正成為新的風險源，沒有安全的人工智能，其技術(shù)普及推廣便缺乏可持續(xù)性。因此，必須堅持“同步規(guī)劃、同步建設(shè)、同步運行”原則，構(gòu)建覆蓋算法、數(shù)據(jù)、應用、部署的全棧式安全防護體系，確保人工智能在安全、可靠、可控的軌道上健康發(fā)展。
公安部網(wǎng)絡(luò)安全等級保護評估中心主任助理王勇結(jié)合大模型安全檢測評估實踐經(jīng)驗，介紹了大模型安全風險防范思路。他表示，隨著大模型迅猛發(fā)展，賦能千行百業(yè)，也暴露出了大量的安全風險，包括：內(nèi)生安全風險，如模型算法安全、數(shù)據(jù)安全、系統(tǒng)安全；應用安全風險，如倫理道德、濫用誤用、版權(quán)侵犯等。因此，亟須建立完善的大模型安全檢測評估體系，需要開展兼具常態(tài)化安全評估（靜態(tài)）與動態(tài)安全檢測相結(jié)合的大模型安全檢測評估工作，面向大模型系統(tǒng)通用安全、大模型全生命周期開展大模型系統(tǒng)安全能力驗證，構(gòu)建一個安全可控、可持續(xù)發(fā)展的大模型安全生態(tài)。
中國社會科學院國際法學研究所副研究員何晶晶則認為，隨著AI時代的來臨，AI技術(shù)對各行各業(yè)都產(chǎn)生了深刻影響，特別是對數(shù)據(jù)安全、數(shù)據(jù)合規(guī)產(chǎn)生了新的挑戰(zhàn)。一系列的法律標準出臺，對數(shù)據(jù)合規(guī)提出了新的要求，AI時代的數(shù)據(jù)合規(guī)更加重要。為應對AI時代下數(shù)據(jù)合規(guī)帶來的新問題與新挑戰(zhàn)，各類企事業(yè)單位需要結(jié)合已有的合規(guī)實踐案例，利用新興技術(shù)以技治技，提高合規(guī)能力，確保組織發(fā)展行穩(wěn)致遠。