人工智能發展急需“善治之道”

近年來，隨著人工智能技術不斷取得迭代式發展，國際社會與各國政府也在加速推進對人工智能技術加以有效監管的探索。在這一過程中，如何通過多方對話協調，最終實現具有包容性的全球人工智能技術治理框架，或將在很大程度上決定，這項技術會增進人類福祉與團結，還是不幸與之相反。

一

當地時間5月21日，“人工智能首爾峰會”在韓國首爾開幕。此次峰會作為去年11月在英國召開的全球人工智能安全峰會的后續會議，由韓國與英國共同主辦，以“安全、創新、包容”為主題。

聯合國秘書長古特雷斯在峰會開幕式上表示，自去年英國布萊切利峰會召開以來，“我們看到了改變生活的技術進步，也看到了威脅生命的新風險”。他認為，需要就人工智能問題制定普適的防護措施，并定期開展對話。

有媒體指出，在去年的英國會議召開期間，人工智能技術還主要以單模態生成式人工智能(如文本、視頻)為代表，風險與安全方面的關注點也聚焦在單模態內容方面。而此后短短數月間，多模態生成式人工智能已經成為行業發展的新重點，這令其生成內容的真偽更難以鑒別，人工智能技術的風險，也變得更加難以預測和難以控制。

在21日的線上峰會之后，與會各方發布人工智能《首爾宣言》，呼吁加強國際人工智能治理合作以及治理框架之間的互操作性，支持啟動首個國際人工智能安全研究所網絡，促使國家間形成對人工智能安全的共同理解，并在研究、標準和測試方面進行協調。

同日，包括微軟、亞馬遜、OpenAI等科技巨頭在內的16家全球領先的人工智能科技公司，在峰會期間作出“前沿人工智能安全承諾”，將努力確保其最先進的人工智能模型的安全性，并實施負責任的治理，實現公開透明。

根據這項協議，一旦發生利用人工智能技術實施自動網絡攻擊等極端情況，且無法保證降低其風險，這些企業將打開“緊急停止開關”，叫停人工智能模型的開發與部署進程。

二

就在首爾峰會召開的同日，歐洲理事會批準了歐盟《人工智能法案》，這是世界上首部對人工智能進行全面監管的法案。

該法案由歐盟委員會在2021年提出，經過多輪談判和協商后，歐洲議會于今年3月13日批準該法案。在獲得歐洲理事會批準后，該法案還需經歐洲議會和歐洲理事會主席簽署，于近日在歐盟官方公報上公布，并在公布20天后生效。

歐盟發布信息的顯示，《人工智能法案》采用基于風險的方法，對不同風險等級的人工智能系統實施分類監管。風險分為四類，風險等級越高，管控越嚴格。

此外，歐盟的《人工智能法案》規定“適用于區域外”，這意味著在歐洲開展業務的各國企業都必須遵守該法案。

歐盟的目標是，在2026年內全面施行《人工智能法案》。不過，風險級別最高的“禁止”條款預計率先于2024年底啟動適用。

除了本次通過的法案之外，此前歐盟在人工智能監管領域還推出了一系列相關或配套的法律措施。例如，歐盟通過的《人工智能框架公約》，提出了一個涵蓋人工智能系統全生命周期的監管法律框架；此外，歐盟還制定了《人工智能契約》，旨在幫助企業為剛剛通過的《人工智能法案》實施做好準備。

有分析人士指出，從《通用數據保護條例》(GDPR)到《數字服務法案》《數字市場法案》，再到《人工智能法案》，歐盟在數字經濟監管上的創新不僅僅體現在具體的監管措施，其規則輸出的“布魯塞爾效應”也愈發凸顯，其嚴格的人工智能監管模式或將對全球人工智能發展與應用產生深遠影響。

三

自2022年11月ChatGPT橫空出世以來，各類人工智能技術進入應用爆發階段。從文生文，到文生圖(諸如 Midjourney)，再到文生視頻(Sora大模型)，乃至文生音樂(Suno V3大模型)，人工智能產業發展已顯現出無限想象空間。

咨詢機構麥肯錫預計，人工智能技術將給全球經濟帶來超過7.9萬億美元價值，到2030年之前，如果生成式人工智能技術應用于各行業，每年總經濟效益高達6.1萬億美元至7.9萬億美元。

然而，就在首爾人工智能安全峰會召開之際，《科學》雜志發表了一篇由全球25位人工智能領域科學家撰寫的專家共識論文。文章認為，當今全球在保護人類免受人工智能技術可能滋生的風險方面做得還不夠。文章建議，對于未來異常強大的人工智能系統，全球各國政府必須準備好在監管方面發揮帶頭作用。

更早些時候，一份由30多個國家的專家支持的全球人工智能安全報告顯示，如果人工智能技術的應用得不到有效監管，勞動力市場遭受大規模沖擊，利用人工智能技術實施的黑客攻擊或生物攻擊，以及社會對人工智能失去控制等風險可能會出現。

在人工智能技術提速發展，以及與之相伴的越來越多的安全預警面前，全球人工智能技術監管與治理體系的完善，也愈加成為迫在眉睫的嚴肅課題。

今年5月30日至31日，負責信息通信事務的聯合國專門機構國際電信聯盟，將主辦人工智能向善峰會，邀請各國相關領域的領軍人物共商今后人工智能善治之道；今年9月，聯合國未來峰會也計劃通過《全球數字契約》作為峰會成果之一。