速途網7月26日消息（報道：李楠）近日，中國人工智能產業發展聯盟（以下簡稱“AIIA”）安全治理委員會成果發布會在北京順利召開。AIIA秘書長、中國信息通信研究院（以下簡稱“中國信通院”）院長余曉暉、工業和信息化部網絡安全管理局數據安全處處長雷楠、公安部信息安全等級保護評估中心原副主任、研究員畢馬寧出席活動并致辭。AIIA總體組組長、中國信通院人工智能研究所所長魏凱主持本次會議。中國科學院自動化研究所、北京大學、北京郵電大學、對外經濟貿易大學、郵儲銀行、百度、華為、騰訊、360、vivo、螞蟻、阿里、中國法學會、金杜律師事務所、斗象科技等近200名行業專家、高校學者以及企業代表參加會議。

余曉暉秘書長在歡迎辭中表示，當前人工智能安全治理需要匯聚行業各方智慧和力量，共同完善人工智能安全風險識別方法論，建立更為敏捷、精確的安全風險識別機制，盡早、盡快發現風險，加強人工智能安全評測技術工具的研究，通過技術來治理技術。

AIIA秘書長、中國信通院院長余曉暉

AIIA安全治理委員會專家委主任、公安部信息安全等級保護評估中心原副主任、研究員畢馬寧在致辭中指出，為應對當前人工智能所帶來的安全挑戰，AIIA安全治理委員會重點圍繞人工智能的治理框架、風險管理、內生安全、安全應用開展了大量的理論和技術研究工作。

AIIA安全治理委員會專家委主任、公安部信息安全等級保護評估中心原副主任、研究員畢馬寧

AIIA安全治理委員會辦公室主任、中國信通院人工智能研究所安全與元宇宙部主任石霖向與會人員匯報了委員會近期的工作成果。在全體成員的共同努力下，委員會圍繞人工智能安全治理取得的了顯著成果，會上進行了一一發布。工業和信息化部網絡安全管理局數據安全處處長雷楠、中國信通院人工智能研究所所長魏凱、郵儲銀行軟件研發中心研發安全處負責人王齊峰、訊飛數碼科技有限公司副總裁楊娟、vivo軟件產業發展高級總監曹宇瓊、螞蟻集團股份有限公司安全標準總監林冠辰、第四范式政府事務總監趙永飛等企業代表以及產業界50余家合作伙伴共同見證啟動了“人工智能安全守護計劃”（簡稱“智安計劃”），打造AI Guard品牌，將共同建立AI系統情報共享機制、AIGC真實性和可信賴來源互認機制，推動設立人工智能相關保險產品，提升國內人工智能技術的服務提供方、使用方的安全防護能力。

會上進行了AIIA安全治理委員會專家聘任儀式，為專家委主任、副主任委員頒發聘書。

依托AIIA安全治理委員會，中國信通院在2024年上半年啟動了大模型安全、AIGC檢測、安全大模型、代碼大模型安全、生物特征識別安全等聯盟規范的制定和評估工作。會上，AIIA安全治理委員會評估結果正式公布，vivo、螞蟻、中數通、齊魯壹點、東方通、招商銀行、阿里云、海康威視、中移金科、百度網訊、馬上消費、科大訊飛、商湯等企業代表獲得證書。

北京大學法學院教授、北京大學人工智能研究院AI安全與治理中心主任張平，中國科學院自動化研究所研究員、國家新一代人工智能治理專家委員會委員、聯合國人工智能高層顧問機構專家曾毅，360集團副總裁張向征等專家圍繞人工智能安全治理的中國實踐及國際共識、大模型安全等內容進行了主旨演講，深入剖析人工智能關鍵技術、內容，探討國內外人工智能安全治理現狀以及實踐經驗。

在治理環節，與會專家重點圍繞人工智能治理規范與風險管理展開了討論。AIIA安全治理委員會治理組組長呼娜英對治理組近期工作進行了匯報。治理組圍繞人工智能治理宏觀研究、人工智能應用治理合規、人工智能賦能治理三個方面開展研究工作，旨在凝聚產業共識，形成服務我國人工智能產業發展的治理框架，促進人工智能典型應用安全合規，探索人工智能賦能治理的最佳范式，推動產業生態向善發展。

中國法學會法治研究所研究員、中國法學會網絡與信息法學研究會副秘書長劉金瑞、北京市金杜律師事務所合伙人寧宣鳳、阿里研究院 AI 治理中心副主任王錚等專家圍繞大模型帶來的新興風險及規制路徑、人工智能事前、事中、事后的風險管理，以及大模型訓練數據的安全治理等主題帶來了精彩專題演講。

在安全環節，重點圍繞人工智能原生安全、賦能安全展開討論。AIIA安全治理委員會安全組組長陳文弢對安全組近期工作進行了匯報。中國信通院人工智能所近半年來依托聯盟深度開展了大模型安全基準測試工作，重點推動大模型安全加固能力建設，開展了大語言模型安全、圖文大模型安全、代碼大模型和人工智能賦能網絡安全等方面的技術規范研究，并推動了相關評測工作。同時發布了具備強魯棒性的隱式數字水印服務，提升大模型平臺的合規能力。

中國信通院人工智能所黑一鳴博士發布了自研的大模型安全加固解決方案。該能力通過模型微調、外掛安全知識庫等模式對開源大模型自身進行安全防護加固，在保持模型原有通用能力和推理效率的前提下，明顯增強了其抵御多種誘導攻擊的能力。該能力及相關數據底座仍在持續迭代升級中，具有很強的泛化能力。

北京郵電大學教授、博士生導師、網絡空間安全學院副院長張熙、郵儲銀行軟件研發中心副主任工程師宋寧、上海斗象信息科技有限公司 AI 攻防負責人肖朕等專家圍繞人工智能內生安全、賦能安全方面進行了專題演講。

在圓桌討論環節，在AIIA安全治理委員會專家委副主任委員、中國信通院互聯網法律研究中心主任、國際電信聯盟人工智能學者何波主持下，對外經濟貿易大學數字經濟與法律創新研究中心主任許可、華為戰略研究院人工智能治理產業發展首席專家柳嘉琪、騰訊研究院首席數據法律專家王融、百度集團人工智能業務法務合規負責人徐全全，以“新技術新應用企業出海合規實踐”主題，圍繞企業合規治理等話題進行了深入地探討交流。

本次會議受到社會各界的廣泛關注和熱情參與，為新時代下我國新質生產力、人工智能安全治理的共同發展凝聚了共識和力量。未來，AIIA安全治理委員會愿與各方協作，共同推進人工智能產業安全、健康發展。