嚴防生成式人工智能安全風險

(資料圖片僅供參考)

不久前出臺的《生成式人工智能服務管理暫行辦法》，意在促進生成式人工智能健康發展和規范應用，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益。可見，當前如何更好地防范生成式人工智能安全風險，做到既鼓勵相關領域創新的“七十二變”，又要勒緊保護用戶隱私和消費者權益的“緊箍咒”，值得分析。

眼下，獲益于豐富多樣的數據資源、參數以及不錯的學習能力，大模型有效增強了人工智能的通用性。從與人類暢聊到撰寫文案、合同，從監測并檢驗程序安全漏洞到輔助創作影視劇……生成式人工智能正處于快速發展的過程中。而我國的人工智能大模型也已經達到了一定水平。前不久發布的《中國人工智能大模型地圖研究報告》顯示，中國人工智能大模型正呈現蓬勃發展態勢。據不完全統計，截至目前，全國10億級參數規模以上的大模型已發布79個。研究表明，我國在大模型方面已建立起涵蓋理論價值和軟硬件技術的體系化研發水平。不過也要看到，生成式人工智能技術是把“雙刃劍”，其在推動社會進步的同時，也有可能帶來技術、設計、算法以及數據等方面的安全風險。因此，必須做好前瞻研究，建立健全保障人工智能健康發展的法律法規、制度體系、倫理道德，在重視防范風險的同時，同步建立容錯、糾錯機制，努力實現規范與發展的動態平衡。

一方面，抓住生成式人工智能最根本的元素——數據和算法，以此為突破口，堅持問題導向，在創新思維上下功夫，把控大數據源頭治理，提前布局和構建系統性大數據防火墻，控制和防范數據泄密。應及時啟動并優化國家級自主研發數據庫系統和備份系統，抓緊布局和研發人工智能大數據控制系統、分級分層享用系統、網絡風險防范系統以及由此產生的AI智能管控監督架構系統。

另一方面，采取多種舉措推動生成式人工智能的技術發展與治理。鼓勵生成式人工智能技術在各行業、各領域的創新應用，生成積極健康、向上向善的優質內容，探索優化應用場景，構建應用生態體系。支持行業組織、企業、教育和科研機構、公共文化機構、有關專業機構等在生成式人工智能技術創新、數據資源建設、轉化應用、風險防范等方面開展協作。推動生成式人工智能基礎設施和公共訓練數據資源平臺建設。促進算力資源協同共享，提升算力資源利用效能。推動公共數據分類分級有序開放，擴展高質量的公共訓練數據資源。鼓勵采用安全可信的芯片、軟件、工具、算力和數據資源。此外，還要從速從嚴構建和推廣實施生成式人工智能相關知識的普及宣傳，尤其是條例、法規宣傳和監督機構的完善和構建。 （作者：袁國棟 來源：經濟日報）

責任編輯：Rex_11