新聞1+1丨人工智能安全治理，再升級！

　　9月14日，《人工智能安全治理框架3.0》發(fā)布，梳理更新人工智能安全風(fēng)險分類，就優(yōu)化調(diào)整技術(shù)應(yīng)對和綜合治理措施提出了建議。

　　三年時間里，一年一更新，當《人工智能安全治理框架》來到了3.0版本，這一次又做了怎樣的調(diào)整升級？新挑戰(zhàn)又在哪里？

　　人工智能出現(xiàn)能力躍遷

　　關(guān)注智能體引發(fā)的安全風(fēng)險問題

　　過去三年，從1.0迭代到3.0，如何看待這樣的更新頻率和迭代節(jié)奏？3.0對比1.0、2.0，最突出的不同是什么？

　　中國政法大學(xué)人工智能法研究院副教授 文禹衡：三年推出三個版本，體現(xiàn)出我國人工智能治理 “小步快跑”的節(jié)奏。回看1.0版本，重點聚焦內(nèi)生安全風(fēng)險與應(yīng)用安全風(fēng)險；到了2.0版本，進一步關(guān)注安全應(yīng)用的衍生風(fēng)險，包括對就業(yè)、倫理層面的風(fēng)險，同時提出可信人工智能的基本原則。

　　發(fā)展到3.0版本，人工智能出現(xiàn)重大的能力躍遷。從去年年底，大模型不再局限于回答問題，演進到以智能體為代表、可以主動執(zhí)行任務(wù)的新階段。正因如此，3.0版本更加關(guān)注智能體所引發(fā)的安全風(fēng)險問題。

　　智能體風(fēng)險已傳導(dǎo)至現(xiàn)實世界

　　治理迎來結(jié)構(gòu)性轉(zhuǎn)變

　　框架有一處非常明顯變化，把智能體風(fēng)險、具身智能風(fēng)險單獨列出。為什么要做這樣的安排？

　　文禹衡：從中能夠看到治理層面的結(jié)構(gòu)性轉(zhuǎn)變。在大模型出現(xiàn)之前，甚至更早的信息時代、網(wǎng)絡(luò)時代，更多是把物理社會當中的行為、現(xiàn)實世界的信息內(nèi)容投射到網(wǎng)絡(luò)虛擬空間。

　　但隨著智能體執(zhí)行能力提升后，情況發(fā)生了改變。智能體在虛擬空間產(chǎn)生的行為，已經(jīng)可以向外溢出，傳導(dǎo)到物理社會。也就是說，智能體、具身智能帶來的風(fēng)險，已經(jīng)發(fā)生到我們的現(xiàn)實物理世界。從這個角度來說，我們才會特別關(guān)注它所引發(fā)的治理層面的結(jié)構(gòu)性改變。

　　企業(yè)對標指引 贏得用戶信任

　　這份治理框架不是一個強制性的法律，而是一個指引性的文件，怎么讓企業(yè)，包括行業(yè)，需要把它落實為切實行動的主體，怎么把它落實為合規(guī)行動？

　　文禹衡：對企業(yè)而言，在于通過指引能夠獲得一些積極的效果。雖然它不是強制性的，但它是一個標尺，監(jiān)管者在對企業(yè)進行相應(yīng)監(jiān)管治理的時候，可以把這個指引當作一個框架，當作一把尺子來衡量。從這個角度來說，企業(yè)首先自己要做到，這是一個方面。

　　另外一個方面，在市場信用上，企業(yè)主動做出指引3.0里面的規(guī)范性動作，對消費者和用戶來說，會產(chǎn)生更好的信用。

　　“動態(tài)平衡”

　　實現(xiàn)安全與創(chuàng)新雙向兼顧

　　3.0版本框架提到強化開源生態(tài)安全、供應(yīng)鏈安全管理，特別是開源模型下的下載使用，明確了禁止性行為，劃出了紅線。如何看待發(fā)展和安全？如何平衡這個問題？

　　文禹衡：安全與創(chuàng)新之間，主要是雙方站在兩端的狀態(tài)。但如果我們采取動態(tài)平衡的方案，在安全和創(chuàng)新之間，并不是找一個靜態(tài)固定的平衡點，而是采取動態(tài)思維去治理。比如在創(chuàng)新過程當中，發(fā)現(xiàn)風(fēng)險比較高，相應(yīng)的安全措施等級也會比較高；如果風(fēng)險低一點，我們就把安全措施的要求降低一點。通過動態(tài)平衡的方式，就能夠更好地促進創(chuàng)新發(fā)展和安全治理跟進。

　　另外，我們認為不會抑制創(chuàng)新。因為在創(chuàng)新過程當中，如果沒有做到安全，創(chuàng)新的破壞力就會更大。從這個意義上來說，從社會效應(yīng)來說，它并不一定是真正有效的創(chuàng)新。

　　中國人工智能發(fā)展

　　一直側(cè)重于安全與發(fā)展并重

　　最近有美國的科技公司負責人在呼吁人工智能企業(yè)要放緩訓(xùn)練大模型的速度、前沿技術(shù)發(fā)展的速度，甚至指出中國的人工智能領(lǐng)域保持著領(lǐng)先，會對美國國家安全造成風(fēng)險。

　　文禹衡：這種論調(diào)是片面的。中國人工智能技術(shù)的領(lǐng)先與美國的國家安全之間沒有必然的聯(lián)系。人工智能的技術(shù)發(fā)展在我們國家是以人為本，所以我們一直側(cè)重于安全與發(fā)展并重，從這個角度來說，我們不僅是對國內(nèi)講安全，我們對全球所有的主體都是一樣的，以人為本。作為一個負責任的大國，在發(fā)展人工智能安全的同時，我們是把這個標尺放在全球來說的，所以并不存在影響美國國家安全的說法。

　　互信互鑒

　　推動人工智能國際合作

　　要推動國際合作，共治共享，有什么好的建議？

　　文禹衡：在國際合作、共治共享方面，我們采取的策略是首先大國之間要互信，在技術(shù)的發(fā)展方面更為重要，要采取合作的姿態(tài)。另外要互鑒，這個是從我們的治理規(guī)則或者我們的治理制度方面來看，各個國家之間的治理規(guī)則可以更好地取長補短。互信和互鑒是我們在這個領(lǐng)域里面，進行國際合作的兩個重要抓手。

　　來源：央視新聞客戶端