2025年，全球智能化浪潮風(fēng)起云涌，人工智能領(lǐng)域創(chuàng)新呈群體性突破之勢(shì)，語(yǔ)言大模型、多模態(tài)大模型和具身智能等領(lǐng)域日新月異，推動(dòng)人工智能向更高效、強(qiáng)智能的方向快速發(fā)展。同時(shí)，人工智能帶來(lái)的風(fēng)險(xiǎn)挑戰(zhàn)引發(fā)廣泛關(guān)注。國(guó)際社會(huì)需進(jìn)一步凝聚共識(shí)，確保人工智能為人類(lèi)所利用、為人類(lèi)所掌控，朝著向善普惠的方向發(fā)展，成為造福人類(lèi)的國(guó)際公共產(chǎn)品。本期邀請(qǐng)4位國(guó)內(nèi)外專(zhuān)家，就加強(qiáng)人工智能全球治理分享真知灼見(jiàn)。
薛瀾（清華大學(xué)人工智能?chē)?guó)際治理研究院院長(zhǎng)）
托馬斯·葛格里（匈牙利科學(xué)院數(shù)學(xué)研究所學(xué)部委員、布達(dá)佩斯技術(shù)和經(jīng)濟(jì)大學(xué)榮譽(yù)教授）
安東尼·穆恩薩米（南非豪登省合作治理部首席主任）
英厄·馮貝勒（光輝國(guó)際中東公司高級(jí)客戶(hù)合伙人）
治理赤字
人工智能催生新的智能鴻溝，帶來(lái)多種可能產(chǎn)生全球影響的潛在風(fēng)險(xiǎn)
薛瀾：人工智能是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量，正在對(duì)全球經(jīng)濟(jì)社會(huì)發(fā)展和人類(lèi)文明進(jìn)步產(chǎn)生深遠(yuǎn)影響。與所有人類(lèi)重大科技進(jìn)步一樣，人工智能算法與模型具有普惠共益的巨大潛力，可以極大地促進(jìn)人類(lèi)社會(huì)的福祉。但與此同時(shí)，人工智能的快速發(fā)展也在全球范圍內(nèi)催生新的智能鴻溝，并帶來(lái)濫用惡用、系統(tǒng)故障等多種可能產(chǎn)生全球影響的潛在風(fēng)險(xiǎn)。如何趨利避害，在推動(dòng)人工智能普惠向善的同時(shí)，加強(qiáng)人工智能的風(fēng)險(xiǎn)治理，已經(jīng)成為國(guó)際公認(rèn)的治理挑戰(zhàn)。
盡管以聯(lián)合國(guó)為代表的國(guó)際組織，以人工智能安全峰會(huì)、二十國(guó)集團(tuán)為代表的多邊機(jī)制，以中美為首的人工智能大國(guó)，以及跨國(guó)企業(yè)、科學(xué)家共同體等多利益相關(guān)方都在積極參與和推動(dòng)人工智能全球治理，但現(xiàn)有治理格局整體仍然呈現(xiàn)碎片化狀態(tài)，統(tǒng)一、有效的治理體系尚未成型。各類(lèi)人工智能?chē)?guó)際治理機(jī)制主要依賴(lài)倫理規(guī)范、價(jià)值準(zhǔn)則、行為守則、自律承諾、政策指南、監(jiān)管指引、技術(shù)標(biāo)準(zhǔn)等“軟法”，而非具有普遍約束力的國(guó)際“硬法”，也未發(fā)展出足夠豐富且能滿(mǎn)足不同需求的治理工具。加快構(gòu)建一個(gè)更具包容性、有效性與前瞻性的人工智能全球治理框架，已成為世界各國(guó)面臨的共同課題。
托馬斯·葛格里：隨著數(shù)字技術(shù)的迅速發(fā)展特別是生成式人工智能的廣泛應(yīng)用，當(dāng)今社會(huì)的信息空間正從過(guò)去的被動(dòng)響應(yīng)，逐步演變?yōu)榫哂凶灾餍缘慕?jīng)濟(jì)社會(huì)力量。這一轉(zhuǎn)變使人工智能深度滲透生產(chǎn)、服務(wù)、醫(yī)療、教育、政治和文化等各領(lǐng)域，不僅深刻影響人們?nèi)粘Ｉ睿苍谥厮苋蛑卫砀窬?。加?qiáng)人工智能全球治理與國(guó)際合作的重要性日益凸顯。人工智能的發(fā)展具有跨國(guó)界、跨平臺(tái)、跨產(chǎn)業(yè)等特點(diǎn)，一旦缺乏國(guó)際協(xié)調(diào)，各國(guó)便可能陷入“技術(shù)競(jìng)速”“模型競(jìng)速”等局面，容易忽略安全檢查、倫理評(píng)估與長(zhǎng)期影響，從而加劇技術(shù)風(fēng)險(xiǎn)。
英厄·馮貝勒：建立彼此信任、規(guī)則清晰和可預(yù)期的監(jiān)管環(huán)境，對(duì)人工智能健康發(fā)展至關(guān)重要。無(wú)論是參加人工智能技術(shù)相關(guān)論壇，還是與不同國(guó)家企業(yè)交流，我都能清晰感受到各方對(duì)加強(qiáng)人工智能治理的需求日益迫切。阿聯(lián)酋去年通過(guò)《人工智能憲章》，提出了基于倫理和可操作的人工智能治理框架。歐盟依據(jù)風(fēng)險(xiǎn)程度將人工智能系統(tǒng)劃分為禁止、高風(fēng)險(xiǎn)、有限風(fēng)險(xiǎn)和最低風(fēng)險(xiǎn)，并根據(jù)技術(shù)迭代速度建立季度更新機(jī)制。為確保人工智能真正成為有益于人類(lèi)社會(huì)的國(guó)際公共產(chǎn)品，各方需要加強(qiáng)協(xié)作，共同構(gòu)建更加公平、有效的人工智能全球治理體系，進(jìn)一步平衡發(fā)展與責(zé)任，推動(dòng)人工智能以更加安全、包容和可持續(xù)的方式服務(wù)社會(huì)。
安東尼·穆恩薩米：發(fā)達(dá)國(guó)家憑借歷史積累與技術(shù)優(yōu)勢(shì)在人工智能治理中掌握更多話(huà)語(yǔ)權(quán)，全球南方國(guó)家的聲音仍顯不足。聯(lián)合國(guó)最新報(bào)告顯示，全球人工智能治理框架已逾60個(gè)，但源自全球南方的不足1/5。以“全球人工智能伙伴關(guān)系”為例，22個(gè)創(chuàng)始成員中僅有2個(gè)來(lái)自全球南方。決策權(quán)重的嚴(yán)重失衡，導(dǎo)致許多全球南方國(guó)家特別是非洲國(guó)家難以參與核心議程設(shè)置，往往只能被動(dòng)接受既有規(guī)則和框架。
今年8月，聯(lián)合國(guó)通過(guò)決議，決定設(shè)立國(guó)際人工智能科學(xué)小組和全球人工智能治理對(duì)話(huà)機(jī)制，展現(xiàn)了各國(guó)彌合智能鴻溝的積極訴求。人工智能具備非競(jìng)爭(zhēng)性和非排他性，影響力和受益范圍跨越國(guó)界，應(yīng)該是國(guó)際公共產(chǎn)品。中國(guó)將善治邏輯引入人工智能領(lǐng)域，聚焦推動(dòng)人類(lèi)文明整體進(jìn)步，代表了構(gòu)建包容、健康、可持續(xù)的人工智能全球治理體系的正確方向。
以人為本
只有把“人”放在核心位置，人工智能技術(shù)才能真正推動(dòng)社會(huì)進(jìn)步
托馬斯·葛格里：面對(duì)層出不窮的挑戰(zhàn)，如何對(duì)人工智能主導(dǎo)的信息空間進(jìn)行系統(tǒng)性治理成為重要議題。各國(guó)研究者普遍認(rèn)為，需要建立兼具本國(guó)和全球?qū)用娴娜斯ぶ悄苤卫砜蚣?，涵蓋理念、倫理、法律等各方面，以確保信息環(huán)境安全、有序，讓人工智能朝著增進(jìn)公共利益、增進(jìn)人民福祉的方向發(fā)展。
中國(guó)積極提出人工智能治理的原則和思路。2019年，《人工智能北京共識(shí)》提出人工智能的研發(fā)、使用和治理應(yīng)有益于人類(lèi)命運(yùn)共同體構(gòu)建和社會(huì)可持續(xù)發(fā)展。近年來(lái)，中國(guó)持續(xù)推動(dòng)人工智能全球治理和倫理體系建構(gòu)，強(qiáng)調(diào)人工智能應(yīng)堅(jiān)持促發(fā)展、非歧視、以人為本，主張治理框架應(yīng)充分尊重各國(guó)不同的發(fā)展階段和文化背景。
安東尼·穆恩薩米：只有把“人”放在人工智能全球治理的核心位置上，人工智能技術(shù)才能真正推動(dòng)社會(huì)進(jìn)步、服務(wù)人類(lèi)發(fā)展。中國(guó)創(chuàng)新性地提出“堅(jiān)持以人為本、智能向善”，強(qiáng)調(diào)人工智能治理應(yīng)符合全人類(lèi)共同價(jià)值，為人工智能全球治理提供了建設(shè)性思路和全新視角?！耙匀藶楸尽笔侵袊?guó)傳統(tǒng)文化的精髓，這與倡導(dǎo)“人因他人而為人”的南非烏班圖精神有異曲同工之妙。二者均強(qiáng)調(diào)人是社會(huì)的基石，人與人之間相互依存、彼此成就，可以幫助人工智能全球治理從世界優(yōu)秀傳統(tǒng)文化中尋找關(guān)鍵答案和治理思路。
薛瀾：人工智能全球治理需要堅(jiān)持“以人為本”理念、“智能向善”宗旨、“相互尊重、平等互利”原則，確保各國(guó)都享有平等發(fā)展和利用人工智能的權(quán)利。具體來(lái)看，“以人為本”是人工智能全球治理的初衷。人工智能研發(fā)與應(yīng)用的最終目的不是技術(shù)自身迭代，而是服務(wù)于增進(jìn)人類(lèi)共同福祉。如果脫離這一價(jià)值錨點(diǎn)，人工智能的發(fā)展便可能與技術(shù)創(chuàng)新的初衷背道而馳，異化為損害人類(lèi)權(quán)益的工具。
“智能向善”是契合人類(lèi)共同價(jià)值的人工智能全球治理目標(biāo)。人工智能的特殊屬性使其超越了價(jià)值中立的技術(shù)工具范疇，其算法設(shè)計(jì)、數(shù)據(jù)訓(xùn)練、應(yīng)用部署等各環(huán)節(jié)都不可避免地嵌入了人類(lèi)的意圖、偏見(jiàn)與價(jià)值判斷。堅(jiān)持“智能向善”，即要求人工智能發(fā)展必須始終遵循和平、發(fā)展、公平、正義、民主、自由的全人類(lèi)共同價(jià)值，為全球人工智能發(fā)展劃定了價(jià)值底線(xiàn)。
“相互尊重、平等互利”是實(shí)現(xiàn)人工智能治理必然的路徑選擇。只有尊重世界各國(guó)文化傳統(tǒng)、發(fā)展階段、意識(shí)形態(tài)等方面的差異，允許各國(guó)根據(jù)自身國(guó)情選擇不同的技術(shù)路徑與治理模式，才有可能實(shí)現(xiàn)人工智能全球治理的集體行動(dòng)。只有堅(jiān)持權(quán)利平等、機(jī)會(huì)平等、規(guī)則平等，確保各國(guó)都有平等發(fā)展和利用人工智能的權(quán)利，才能構(gòu)建一個(gè)真正包容、可持續(xù)的人工智能全球治理體系。
英厄·馮貝勒：在中東地區(qū)，越來(lái)越多企業(yè)和機(jī)構(gòu)就人工智能全球治理達(dá)成了共識(shí)，即要以人為中心、有利于人類(lèi)福祉、堅(jiān)持平等與相互尊重。阿聯(lián)酋《人工智能憲章》提出，人工智能發(fā)展應(yīng)以和諧人機(jī)關(guān)系為基礎(chǔ)，確保技術(shù)進(jìn)步服務(wù)于人類(lèi)福祉。因此，“智能向善”既是理念也是操作原則，可以通過(guò)提高生產(chǎn)力、改善公共服務(wù)、創(chuàng)造就業(yè)等落到實(shí)處。鑒于人工智能生態(tài)系統(tǒng)從模型、數(shù)據(jù)、基礎(chǔ)設(shè)施和人才等均緊密互聯(lián)且跨越國(guó)界，構(gòu)建基于國(guó)際協(xié)作的治理體系顯得尤為重要。
協(xié)同共治
聯(lián)合國(guó)應(yīng)發(fā)揮主渠道作用，發(fā)達(dá)國(guó)家應(yīng)承擔(dān)更多治理責(zé)任，各國(guó)需深化交流合作
英厄·馮貝勒：人工智能治理不可能由單一國(guó)家或集團(tuán)完成，必須依靠真正的多邊合作。國(guó)際協(xié)同監(jiān)管是人工智能安全有效發(fā)展的支柱，也是確保技術(shù)紅利惠及更廣泛民眾的途徑。遵循全球共識(shí)、以風(fēng)險(xiǎn)為尺度的差異化管控，是符合人工智能技術(shù)特性的創(chuàng)新治理思路。各國(guó)立法不必完全一致，但框架需要相互兼容。可操作的治理標(biāo)準(zhǔn)和監(jiān)管工具需要由各國(guó)政府、技術(shù)人員和學(xué)者共同探索、攜手推動(dòng)、廣泛接受。各方需要加強(qiáng)人工智能基礎(chǔ)設(shè)施、教育與知識(shí)共享，保障各國(guó)特別是發(fā)展中國(guó)家公平獲得算力、人才與安全模型等，以讓各國(guó)都能有效參與并共同塑造人工智能的未來(lái)。
托馬斯·葛格里：國(guó)際協(xié)同監(jiān)管是加強(qiáng)人工智能全球治理的重要一環(huán)，其根本目的在于確保人工智能技術(shù)發(fā)展始終運(yùn)行在符合倫理、法律及增進(jìn)人類(lèi)福祉的軌道上。為實(shí)現(xiàn)這一目標(biāo)，監(jiān)管必須與更廣泛的信息空間治理緊密結(jié)合，涵蓋數(shù)據(jù)所有權(quán)、信息傳播及信息商業(yè)化等制度安排，并通過(guò)明確的指導(dǎo)方針與動(dòng)態(tài)更新的技術(shù)標(biāo)準(zhǔn)，積極引導(dǎo)人工智能服務(wù)于公共利益，而非完全受地緣政治或商業(yè)因素驅(qū)動(dòng)。同時(shí)，要保障科學(xué)知識(shí)的自由流通，以促進(jìn)創(chuàng)新、提升透明度和防止技術(shù)壟斷。
國(guó)際社會(huì)必須加強(qiáng)合作，共同致力于就人工智能治理領(lǐng)域的倫理規(guī)則達(dá)成共識(shí)。即便是一個(gè)初步、最低限度的共同框架，也將為推動(dòng)人工智能?chē)?guó)際協(xié)同監(jiān)管與全球治理發(fā)揮重要作用。如果缺乏共識(shí)，各國(guó)可能出臺(tái)相互矛盾的規(guī)則，導(dǎo)致人工智能全球治理體系陷入碎片化。
安東尼·穆恩薩米：數(shù)據(jù)顯示，全球92%的人工智能研發(fā)投入集中于北美、東亞和歐洲，非洲人工智能相關(guān)專(zhuān)利占比不足0.5%。目前，非洲人工智能技術(shù)發(fā)展仍處于起步階段。盡管面臨數(shù)字基礎(chǔ)設(shè)施薄弱、電力供應(yīng)不穩(wěn)、人工智能人才短缺等多重挑戰(zhàn)，但非洲有全球最年輕的人口結(jié)構(gòu)和快速增長(zhǎng)的數(shù)字經(jīng)濟(jì)潛力，可以成為人工智能全球治理體系的重要組成部分。
人工智能的風(fēng)險(xiǎn)與收益都具有全球性特征，加強(qiáng)人工智能全球治理需要聯(lián)合國(guó)發(fā)揮主渠道作用，需要發(fā)達(dá)國(guó)家肩負(fù)更多治理責(zé)任，需要各國(guó)深化交流合作。我注意到，中國(guó)今年倡議成立全球性的人工智能協(xié)調(diào)機(jī)構(gòu)——世界人工智能合作組織。從理念引領(lǐng)到具體落實(shí)，中國(guó)推動(dòng)開(kāi)放共享、智能平權(quán)，不僅為人工智能全球治理貢獻(xiàn)智慧，也為彌合智能鴻溝、促進(jìn)普惠發(fā)展注入重要?jiǎng)幽堋?/p>
薛瀾：構(gòu)建一個(gè)公平、公正、綜合、平衡的人工智能全球治理體系，關(guān)乎全人類(lèi)的共同發(fā)展。聯(lián)合國(guó)作為全球范圍內(nèi)最有能力協(xié)調(diào)不同區(qū)域性人工智能治理愿景的政府間國(guó)際組織，需進(jìn)一步發(fā)揮在人工智能全球治理中的主渠道作用，引領(lǐng)各國(guó)形成具有廣泛共識(shí)的治理框架和標(biāo)準(zhǔn)規(guī)范。國(guó)際社會(huì)應(yīng)積極支持聯(lián)合國(guó)及其專(zhuān)門(mén)機(jī)構(gòu)框架下的對(duì)話(huà)合作，共同協(xié)商、制定、更新在人工智能治理領(lǐng)域的倫理準(zhǔn)則和法律框架。人工智能領(lǐng)先國(guó)家在享受人工智能技術(shù)發(fā)展紅利的同時(shí)，有責(zé)任為人工智能全球治理作出更多貢獻(xiàn)。
中國(guó)已提出《全球人工智能治理倡議》《人工智能能力建設(shè)普惠計(jì)劃》《人工智能全球治理行動(dòng)計(jì)劃》《“人工智能+”國(guó)際合作倡議》，以能力建設(shè)為抓手推進(jìn)了一系列務(wù)實(shí)合作，倡議成立世界人工智能合作組織，為加強(qiáng)人工智能能力建設(shè)機(jī)制化注入重要?jiǎng)恿Γ矠槿斯ぶ悄苋蛑卫碡暙I(xiàn)了關(guān)鍵力量。全球人工智能發(fā)展需要構(gòu)建多元參與、協(xié)同共治的治理生態(tài)，形成國(guó)際組織、各國(guó)政府、企業(yè)、科研院校、民間機(jī)構(gòu)和公民個(gè)人等各主體秉持共商共建共享的理念共同參與的局面，充分發(fā)揮多利益相關(guān)方各自的治理優(yōu)勢(shì)，解決“機(jī)制復(fù)合體”造成的協(xié)調(diào)失靈甚至矛盾沖突。
編輯：李華山
