2025年7月26日下午，中國(guó)人工智能發(fā)展與安全研究網(wǎng)絡(luò)在上海世博中心金廳A成功舉辦“人工智能發(fā)展與安全”全體會(huì)議。上海市委常委、常務(wù)副市長(zhǎng)吳偉、國(guó)家發(fā)展和改革委員會(huì)創(chuàng)新驅(qū)動(dòng)發(fā)展中心主任霍福鵬出席并致辭。會(huì)議由清華大學(xué)文科資深教授、人工智能國(guó)際治理研究院院長(zhǎng)薛瀾主持，來自清華大學(xué)、上海交通大學(xué)、多倫多大學(xué)、加州大學(xué)伯克利分校、牛津大學(xué)、中國(guó)信通院、中國(guó)電子信息產(chǎn)業(yè)發(fā)展研究院、中國(guó)電信集團(tuán)、阿里巴巴集團(tuán)、微軟公司等國(guó)內(nèi)外科研院校、研究智庫(kù)和企業(yè)的近20位資深專家，圍繞人工智能發(fā)展與安全的前沿進(jìn)展與應(yīng)用實(shí)踐，深入探討如何安全地發(fā)展人工智能技術(shù)，如何促進(jìn)成果共享、縮小智能鴻溝，如何為確保人工智能技術(shù)造福于全人類而開展國(guó)際合作，構(gòu)建包容性的全球治理框架。

會(huì)議伊始，邀請(qǐng)諾貝爾和圖靈獎(jiǎng)得主、多倫多大學(xué)教授杰弗里·辛頓與圖靈獎(jiǎng)得主、清華大學(xué)交叉信息研究院、人工智能學(xué)院院長(zhǎng)姚期智進(jìn)行了一場(chǎng)高端對(duì)談。他們重點(diǎn)圍繞人工智能與神經(jīng)科學(xué)、人工智能的“自我意識(shí)”、量子計(jì)算對(duì)人工智能發(fā)展的影響等前沿話題展開深度討論。他們談到，人工智能與合成生物學(xué)一樣，都是在創(chuàng)造“新的生命”，當(dāng)前人工智能已經(jīng)初步展現(xiàn)出很強(qiáng)的理解能力甚至“自我意識(shí)”，人們應(yīng)該拋棄只有人類存在“意識(shí)”的固有思維。辛頓尤其強(qiáng)調(diào)，如何訓(xùn)練對(duì)人類保持善意的人工智能，確保“智能向善”是人類必須關(guān)注和解決的重要問題。

隨后，加拿大蒙特利爾大學(xué)教授約書亞·本吉奧和美國(guó)加州大學(xué)伯克利分校教授大衛(wèi)·帕特森分別線上發(fā)言，分享了他們的獨(dú)到見解。本吉奧強(qiáng)調(diào)，過去幾年人們所見證的人工智能對(duì)社會(huì)的影響只是冰山一角，隨著其能力的不斷提升，安全風(fēng)險(xiǎn)也在同步增加，國(guó)際社會(huì)亟須加強(qiáng)合作，共同應(yīng)對(duì)。帕特森分享了自己團(tuán)隊(duì)的最近研究成果，他們發(fā)現(xiàn)人機(jī)協(xié)同時(shí)的能力優(yōu)于人類與人工智能各自的單打獨(dú)斗，如果人類能把人工智能的應(yīng)用聚焦于提升生產(chǎn)力，將獲得更多收益。

在隨后進(jìn)行的專家討論環(huán)節(jié)，姚期智作為主持人邀請(qǐng)美國(guó)加州大學(xué)伯克利分校教授斯圖爾特·羅素、中國(guó)信息通信研究院院長(zhǎng)余曉暉、英國(guó)皇家工程院院士約翰·麥克德米、清華大學(xué)交叉信息研究院副院長(zhǎng)徐葳、奇安信集團(tuán)合伙人鄔怡等專家，圍繞“AI與人類的和諧未來”問題展開研討。嘉賓們聚焦人工智能風(fēng)險(xiǎn)研判、評(píng)估及其治理的技術(shù)路徑等話題，談到人工智能與網(wǎng)絡(luò)等多領(lǐng)域的安全相互影響，需要在傳統(tǒng)安全防護(hù)手段的基礎(chǔ)上提升能力，呼吁加強(qiáng)跨學(xué)科協(xié)作，充分借鑒生物倫理、傳統(tǒng)工程安全等領(lǐng)域的經(jīng)驗(yàn)，構(gòu)建“輔助博弈”框架，促使人工智能系統(tǒng)主動(dòng)學(xué)習(xí)人類偏好而非簡(jiǎn)單模仿行為，通過冗余驗(yàn)證等“軟硬件結(jié)合”的方式降低人工智能風(fēng)險(xiǎn)等。

英國(guó)牛津大學(xué)布拉瓦尼克政府學(xué)院的創(chuàng)始院長(zhǎng)林奈莉、上海交通大學(xué)文科資深教授季衛(wèi)東、美國(guó)微軟公司前首席研究與戰(zhàn)略官克雷格·蒙迪、中國(guó)電子信息產(chǎn)業(yè)發(fā)展研究院黨委副書記胡國(guó)棟、中國(guó)電信集團(tuán)網(wǎng)絡(luò)與信息安全首席專家劉紫千、阿里云智能集團(tuán)副總裁劉湘雯等專家參加了薛瀾主持的討論，圍繞“人工智能發(fā)展與安全的全球治理”問題展開，在探討人工智能全球治理框架的同時(shí)，分享了中國(guó)人工智能發(fā)展與治理的最佳實(shí)踐。大家談到，智能體（Agent）的快速發(fā)展使得原本“點(diǎn)對(duì)點(diǎn)”的安全問題逐漸轉(zhuǎn)變?yōu)橄到y(tǒng)性安全風(fēng)險(xiǎn)，僅依靠行業(yè)自我監(jiān)管很難有效應(yīng)對(duì)。呼吁世界各國(guó)加強(qiáng)合作，通過建立類似國(guó)際原子能機(jī)構(gòu)的專門機(jī)構(gòu)等方式，形成具有廣泛共識(shí)的人工智能治理框架和標(biāo)準(zhǔn)規(guī)范，共同應(yīng)對(duì)人工智能風(fēng)險(xiǎn)，?

最后，中國(guó)信息通信研究院、中國(guó)電子信息產(chǎn)業(yè)發(fā)展研究院、清華大學(xué)、上海人工智能實(shí)驗(yàn)室4家網(wǎng)絡(luò)成員單位代表網(wǎng)絡(luò)聯(lián)合發(fā)布《中國(guó)人工智能安全承諾框架》，邀請(qǐng)中國(guó)電信集團(tuán)、阿里巴巴、百度、MiniMax上海稀宇科技等相關(guān)企業(yè)代表發(fā)言，并開放邀請(qǐng)全球人工智能企業(yè)簽署。框架在相關(guān)企業(yè)安全承諾基礎(chǔ)上新增針對(duì)加強(qiáng)安全治理國(guó)際合作和關(guān)于防范前沿人工智能安全風(fēng)險(xiǎn)的重要內(nèi)容。

本場(chǎng)論壇論壇兼顧前沿議題與最佳實(shí)踐，旨在通過對(duì)風(fēng)險(xiǎn)治理技術(shù)路線、全球治理框架等現(xiàn)實(shí)問題的探討，結(jié)合中國(guó)有效實(shí)踐、安全承諾框架等實(shí)操內(nèi)容的發(fā)布，推動(dòng)全球人工智能治理從共識(shí)走向行動(dòng)。論壇由清華大學(xué)人工智能國(guó)際治理研究院、中國(guó)電子信息產(chǎn)業(yè)發(fā)展研究院(賽迪研究院)、上海期智研究院、清華大學(xué)交叉信息研究院、中國(guó)信息通信研究院、上海人工智能實(shí)驗(yàn)室等多家網(wǎng)絡(luò)成員單位共同承辦，現(xiàn)場(chǎng)注冊(cè)參會(huì)人數(shù)超過700人，CGTN等媒體全程直播，超過40萬(wàn)觀眾在線參會(huì)。論壇取得圓滿成功，受到國(guó)內(nèi)外專家和聽眾高度評(píng)價(jià)。