在英國布萊奇利園，警察在首屆人工智能安全峰會上執(zhí)勤。
新華社記者 李 穎攝
日前，為期兩天的首屆人工智能安全峰會在英國布萊奇利園舉行。英國科學(xué)、創(chuàng)新和技術(shù)部的信息顯示，本次峰會邀請了約100名各國官員、人工智能企業(yè)代表和專家。美國、中國、日本、德國、印度等20多個(gè)國家的政府代表以及聯(lián)合國、經(jīng)合組織、國際電信聯(lián)盟等多個(gè)國際組織的代表參會。各方代表就人工智能技術(shù)快速發(fā)展帶來的風(fēng)險(xiǎn)和機(jī)遇展開討論。28個(gè)國家和歐盟共同簽署了《布萊奇利宣言》（下稱《宣言》），同意通過國際合作，建立人工智能（AI）監(jiān)管方法。
呼吁國際合作
《宣言》指出，人工智能帶來巨大機(jī)遇，有潛力增強(qiáng)人類福祉、和平和繁榮，并已部署在日常生活的許多領(lǐng)域。但同時(shí)人工智能也帶來重大潛在風(fēng)險(xiǎn)?！缎浴窂?qiáng)調(diào)，人工智能的許多風(fēng)險(xiǎn)本質(zhì)上是國際性的，因此最好通過國際合作來解決。與會國家和地區(qū)同意協(xié)力打造一個(gè)具有國際包容性的前沿人工智能安全科學(xué)研究網(wǎng)絡(luò)，以對尚未完全了解的人工智能風(fēng)險(xiǎn)和能力加深理解。
《宣言》引發(fā)國際社會關(guān)注。據(jù)英國《金融時(shí)報(bào)》報(bào)道，《宣言》呼吁以“以人為本、值得信賴和負(fù)責(zé)任”的方式利用人工智能，是首個(gè)此類全球承諾。據(jù)《南華早報(bào)》報(bào)道，《宣言》提出雙管齊下的議程：重點(diǎn)確定各國共同關(guān)心的AI技術(shù)風(fēng)險(xiǎn)，對其形成科學(xué)認(rèn)知的同時(shí)，推動(dòng)跨國政策形成以降低風(fēng)險(xiǎn)。
英國科學(xué)、創(chuàng)新和技術(shù)部大臣米歇爾·多內(nèi)蘭表示，此次峰會為圍繞人工智能相關(guān)風(fēng)險(xiǎn)的全球討論奠定了基礎(chǔ)，也讓國際社會意識到，必須加深對人工智能相關(guān)風(fēng)險(xiǎn)的理解并采取應(yīng)對舉措。
中國現(xiàn)代國際關(guān)系研究院科技與網(wǎng)絡(luò)安全研究所研究員李艷表示，英國選擇在布萊奇利園召開峰會意味深長，這里是二戰(zhàn)期間盟軍破譯密碼的主要地點(diǎn)。半個(gè)多世紀(jì)前，有“現(xiàn)代計(jì)算機(jī)科學(xué)與人工智能之父”之稱的數(shù)學(xué)家圖靈也是在此發(fā)明了第一代圖靈計(jì)算機(jī)。今年以來，人工智能持續(xù)成為國際熱點(diǎn)，人工智能發(fā)展與安全、國際競爭與規(guī)則制定牽動(dòng)多方。在全球熱議人工智能安全問題的背景下，英國借此時(shí)機(jī)召開峰會，其意有三：一是順應(yīng)國際大勢，回應(yīng)國際關(guān)切；二是搭建國際平臺，彰顯國家作為；三是成為未來國際合作重要貢獻(xiàn)方和“斡旋者”。
“英國脫歐后，加大了對人工智能領(lǐng)域的投入，開發(fā)了許多底層技術(shù)和數(shù)據(jù)架構(gòu)，人工智能產(chǎn)業(yè)發(fā)展迅速。”北京理工大學(xué)網(wǎng)絡(luò)空間國際治理研究基地研究員裴軼說，這為英國舉辦此次人工智能安全峰會提供重要支撐。
根據(jù)英國政府發(fā)表的聲明，下屆人工智能安全峰會將于一年后在法國舉辦，韓國將在未來6個(gè)月內(nèi)聯(lián)合主辦一次小型虛擬峰會。據(jù)西班牙《國家報(bào)》報(bào)道，此次峰會期間，英國建議政府之間成立一個(gè)人工智能小組，類似于處理氣候變化問題的政府間氣候變化專門委員會，每6個(gè)月舉行一次會議，英國將分別與韓國、法國共同主辦接下來兩場。
中國科技部副部長吳朝暉率團(tuán)參會并在峰會開幕式上發(fā)表講話。中方指出，此次峰會為各國提供了人工智能安全與國際治理議題的重要對話平臺與交流合作機(jī)會。人工智能治理攸關(guān)全人類命運(yùn)，是世界各國面臨的共同課題。發(fā)展人工智能，應(yīng)當(dāng)積極倡導(dǎo)以人為本，智能向善，加強(qiáng)技術(shù)風(fēng)險(xiǎn)管控，并在相互尊重、平等互利的原則基礎(chǔ)上，鼓勵(lì)各方協(xié)同共治，增強(qiáng)發(fā)展中國家在人工智能全球治理中的代表性和發(fā)言權(quán)，不斷彌合智能鴻溝和治理能力差距。與會期間，中國代表團(tuán)參與人工智能安全等問題討論，積極宣介中方提出的《全球人工智能治理倡議》，并與相關(guān)國家開展雙邊會談。
共同應(yīng)對風(fēng)險(xiǎn)
正如米歇爾·多內(nèi)蘭所言，世界正處于一場技術(shù)變革中，人工智能的蓬勃發(fā)展或?qū)⒏淖內(nèi)祟惿鐣姆椒矫婷?，不僅帶來巨大機(jī)遇，也會帶來威脅全球穩(wěn)定和破壞人類價(jià)值觀的風(fēng)險(xiǎn)。抓住機(jī)遇、應(yīng)對風(fēng)險(xiǎn)，全球要共同努力。
“人們很早就開始關(guān)注人工智能的風(fēng)險(xiǎn)問題。人工智能技術(shù)歷史上歷經(jīng)幾輪熱潮，受益于大數(shù)據(jù)、算力等領(lǐng)域的突破，此輪人工智能發(fā)展浪潮最顯著的特點(diǎn)是研發(fā)、應(yīng)用和落地速度非?？?，這就給平衡安全與發(fā)展的有效治理帶來巨大挑戰(zhàn)?！崩钇G說，最初，對人工智能風(fēng)險(xiǎn)的預(yù)判和管控主要聚焦于軍事領(lǐng)域，如無人操作系統(tǒng)、無人指揮系統(tǒng)。隨著ChatGPT等通用式人工智能技術(shù)突破，人工智能的應(yīng)用場景愈加廣泛，其風(fēng)險(xiǎn)也不再局限于某一特定領(lǐng)域。
在今年的聯(lián)合國大會上，人工智能安全治理是一個(gè)新興的熱門議題。7月18日，聯(lián)合國安理會舉行主題為“人工智能給國際和平與安全帶來的機(jī)遇與風(fēng)險(xiǎn)”高級別公開會。這是安理會在聯(lián)合國總部舉行的首次人工智能會議。聯(lián)合國秘書長古特雷斯警告稱，人工智能正在多領(lǐng)域發(fā)揮作用，但它也可能被懷有惡意的人使用，包括將其用于恐怖主義、煽動(dòng)仇恨和暴力等。他說，聯(lián)合國的人工智能監(jiān)管機(jī)構(gòu)應(yīng)當(dāng)規(guī)范、監(jiān)督和執(zhí)行人工智能規(guī)則，監(jiān)管方式與其他機(jī)構(gòu)監(jiān)管航空、氣候和核能的方式大致相同。
裴軼表示，目前人工智能技術(shù)主要造成三類問題。一是信息安全問題。人工智能需要實(shí)時(shí)更新海量數(shù)據(jù)用于模型訓(xùn)練。當(dāng)前，在個(gè)人隱私領(lǐng)域中，相關(guān)企業(yè)、平臺尚未達(dá)成遵循知情同意原則的共識，存在越權(quán)使用等現(xiàn)象。因此，用戶如果缺乏相關(guān)意識，在使用人工智能技術(shù)時(shí)，很可能導(dǎo)致個(gè)人隱私數(shù)據(jù)泄露。二是虛假信息問題。盡管技術(shù)中立，但人為投放不實(shí)消息或片面事實(shí)可能導(dǎo)致人工智能模型產(chǎn)出虛假信息，也就是“深度偽造”。三是數(shù)字鴻溝問題。人工智能具備高效的信息檢索和整合能力，雖然為人們的工作和生活提供了極大方便，但其產(chǎn)出的真實(shí)性和準(zhǔn)確性并不牢靠。因此，信息甄別、自主決策能力強(qiáng)的使用者將更善于使用這項(xiàng)工具，而盲從的使用者則可能為其所害。隨著兩者使用技術(shù)的差距不斷沉積，數(shù)字鴻溝也就此加深。
李艷表示，目前，人工智能技術(shù)和產(chǎn)業(yè)尚處于發(fā)展初期，很多風(fēng)險(xiǎn)還難以評估。但如果等人工智能安全風(fēng)險(xiǎn)明確顯現(xiàn)或爆發(fā)后再制定治理規(guī)則，人類將付出巨大代價(jià)。國際社會需要給予人工智能一個(gè)密切審慎觀察的空間，治理規(guī)則的制定需要在技術(shù)和社會的緊密互動(dòng)中保持靈活性，隨時(shí)根據(jù)實(shí)際情況校準(zhǔn)政策，從而有效且前瞻性地解決問題。
兼顧安全與發(fā)展
為應(yīng)對人工智能安全領(lǐng)域的風(fēng)險(xiǎn)，各國已紛紛展開行動(dòng)。
10月30日，法國、德國、意大利三國在意大利首都羅馬舉行高級別會議并發(fā)表聯(lián)合公報(bào)稱，法德意三國正在制定人工智能戰(zhàn)略愿景，商討歐洲的聯(lián)合項(xiàng)目和額外投資，并通過出臺人工智能監(jiān)管法規(guī)來管控風(fēng)險(xiǎn)。9月底，美國國家安全局宣布成立人工智能安全中心，負(fù)責(zé)監(jiān)督美國國防和情報(bào)部門人工智能能力的開發(fā)和整合。6月，歐盟推出全球首部人工智能法案，對生成式人工智能企業(yè)提出更高的透明度要求。同月，英國首相蘇納克在訪美期間和美國總統(tǒng)拜登發(fā)表《大西洋宣言》，同意在人工智能等領(lǐng)域加強(qiáng)合作。
此外，2019年，聯(lián)合國教科文組織發(fā)布了《人工智能倫理問題建議書》，積極思考人工智能倫理問題，推動(dòng)人工智能倫理原則在全球范圍內(nèi)的傳播與實(shí)施。同年，二十國集團(tuán)（G20）發(fā)布《G20人工智能原則》，強(qiáng)調(diào)人工智能的倫理和社會責(zé)任。2018年，歐盟委員會提出《人工智能的倫理準(zhǔn)則》，強(qiáng)調(diào)人工智能的應(yīng)用必須符合人類價(jià)值觀和倫理原則，并建議采取措施加強(qiáng)人工智能的監(jiān)管和透明度，促進(jìn)其可持續(xù)發(fā)展。
作為聯(lián)合國安理會常任理事國和國際社會負(fù)責(zé)任的一員，中國積極參與全球人工智能治理，致力于提升人工智能技術(shù)的安全性、可靠性、可控性、公平性。早在2021年12月，中國就向聯(lián)合國《特定常規(guī)武器公約》第六次審議大會提交《中國關(guān)于規(guī)范人工智能軍事應(yīng)用的立場文件》。2022年11月，中國又向聯(lián)合國《特定常規(guī)武器公約》締約國大會提交了《中國關(guān)于加強(qiáng)人工智能倫理治理的立場文件》。這些主張堅(jiān)持維護(hù)人類福祉，堅(jiān)守公平正義，體現(xiàn)了大國責(zé)任擔(dān)當(dāng)，為解決全球人工智能治理難題貢獻(xiàn)了中國智慧和中國方案。日前，中方在第三屆“一帶一路”國際合作高峰論壇期間提出《全球人工智能治理倡議》，就各方普遍關(guān)切的人工智能發(fā)展與治理問題給出建設(shè)性解決思路，為人工智能相關(guān)國際討論和規(guī)則制定提供了藍(lán)本。
“首屆人工智能安全峰會為全球人工智能安全治理搭建了國際交流平臺，引起了各方關(guān)切，為今后開展合作營造了良好的輿論氛圍和國際政策環(huán)境。但此次峰會能否為全球人工智能治理搭建一個(gè)更具持續(xù)性、更有穩(wěn)定性的機(jī)制，還存在較大不確定性，有待進(jìn)一步觀察。”李艷說。
“人工智能安全治理要達(dá)成全球性共識還面臨不少挑戰(zhàn)?！崩钇G表示，不同國家的國情和發(fā)展階段不同，對人工智能安全治理的利益訴求不盡相同。當(dāng)前，人工智能安全領(lǐng)域比較容易在原則和倫理層面達(dá)成共識，但是在軍事、技術(shù)標(biāo)準(zhǔn)等具體領(lǐng)域達(dá)成共識的難度相對較大。但無論如何，國際社會就此保持積極的對話交流，總是有助于在發(fā)展和安全之間求取最大的平衡。
裴軼表示，監(jiān)管要兼顧安全與發(fā)展，通過細(xì)化立法領(lǐng)域、拓寬管轄范圍、提高法律效力層級等方式，為人工智能的探索劃定原則底線。