人工智能治理是實(shí)現(xiàn)人工智能健康、有序、可持續(xù)發(fā)展過(guò)程中不可或缺的制度性支撐。當(dāng)前，如何在推動(dòng)人工智能技術(shù)創(chuàng)新的同時(shí)建立科學(xué)有效的治理機(jī)制，已成為技術(shù)政策研究與實(shí)踐的重要議題。
在現(xiàn)實(shí)語(yǔ)境中，人工智能治理（AI Governance）存在一定程度的認(rèn)知誤區(qū)。一種較為典型的觀(guān)點(diǎn)認(rèn)為，人工智能的發(fā)展和應(yīng)用仍在初始階段，此時(shí)提出治理問(wèn)題可能會(huì)過(guò)早地對(duì)技術(shù)創(chuàng)新形成不必要的束縛。
本質(zhì)上說(shuō)，上述看法一方面低估了人工智能技術(shù)給社會(huì)可能帶來(lái)的風(fēng)險(xiǎn)，另一方面也低估了治理機(jī)制在引導(dǎo)和塑造技術(shù)發(fā)展過(guò)程中可以起到的關(guān)鍵作用。事實(shí)上，治理并非創(chuàng)新的對(duì)立面，而是實(shí)現(xiàn)人工智能健康、有序、可持續(xù)發(fā)展過(guò)程中不可或缺的制度性支撐。
值得關(guān)注的是，人工智能在人類(lèi)認(rèn)知領(lǐng)域的進(jìn)展速度令人驚嘆。在數(shù)學(xué)奧林匹克競(jìng)賽題目測(cè)試中，人工智能模型已逐步具備解決復(fù)雜題目的能力，部分模型在解題準(zhǔn)確率上甚至超越了人類(lèi)參與者的平均水平。這種技術(shù)的躍升，不僅增強(qiáng)了人們對(duì)通用人工智能（AGI）可行性的預(yù)期，也加強(qiáng)了社會(huì)各界在應(yīng)對(duì)人工智能發(fā)展時(shí)加強(qiáng)治理的緊迫感。
治理框架的三個(gè)維度
人工智能治理是多維度、多工具、多主體參與的動(dòng)態(tài)系統(tǒng)性過(guò)程。目的不僅在于防范潛在風(fēng)險(xiǎn)，更在于塑造人工智能的發(fā)展方向與應(yīng)用邊界，使技術(shù)進(jìn)步與社會(huì)價(jià)值相協(xié)調(diào)。
治理既包括倫理與原則的制定，也包括政策激勵(lì)與市場(chǎng)規(guī)制，還涉及標(biāo)準(zhǔn)建設(shè)與國(guó)際協(xié)調(diào)?？梢哉f(shuō)，人工智能治理是規(guī)范、引導(dǎo)、協(xié)調(diào)人工智能發(fā)展的制度總和。目前較為通行的人工智能治理框架，通常可以分為三個(gè)層次：
第一個(gè)層次：倫理與價(jià)值維度。該維度關(guān)注的是人工智能系統(tǒng)在開(kāi)發(fā)與應(yīng)用中應(yīng)當(dāng)遵循的基本倫理原則，包括但不限于安全性與可控性、透明性與可解釋性（保障用戶(hù)了解人工智能系統(tǒng)的運(yùn)作機(jī)制與決策過(guò)程）、公平性與非歧視性（防止人工智能在算法訓(xùn)練或部署過(guò)程中加劇社會(huì)不公）、責(zé)任可追溯性。在這方面，中國(guó)人工智能治理專(zhuān)家委員會(huì)于2019年提出了“負(fù)責(zé)任人工智能”的八項(xiàng)治理準(zhǔn)則。歐盟、經(jīng)合組織（OECD）、IEEE等國(guó)際組織也相繼發(fā)布了多套人工智能倫理框架。
第二個(gè)層次：政策支持與市場(chǎng)激勵(lì)維度。治理不僅是限制，更是塑造和激勵(lì)。政府可以通過(guò)財(cái)政投入、研發(fā)資助、基礎(chǔ)設(shè)施建設(shè)、人才政策與公共采購(gòu)等方式，為人工智能創(chuàng)新提供制度土壤。
與此同時(shí)，也需要通過(guò)反壟斷政策、數(shù)據(jù)共享機(jī)制、中小企業(yè)扶持等手段，維護(hù)技術(shù)創(chuàng)新生態(tài)的多樣性與可持續(xù)性。例如，2017年發(fā)布的中國(guó)《新一代人工智能發(fā)展規(guī)劃》提出以“三步走”戰(zhàn)略推動(dòng)人工智能產(chǎn)業(yè)發(fā)展，強(qiáng)調(diào)國(guó)家主導(dǎo)與企業(yè)協(xié)同的創(chuàng)新路徑。這是一種典型的政策驅(qū)動(dòng)型治理結(jié)構(gòu)，具有較強(qiáng)的系統(tǒng)組織能力與資源整合能力。
第三個(gè)層次：規(guī)制與標(biāo)準(zhǔn)維度。規(guī)制是治理的重要組成部分，但不應(yīng)被狹義地等同于“限制”。其內(nèi)涵包括法律法規(guī)、技術(shù)標(biāo)準(zhǔn)、責(zé)任機(jī)制、合規(guī)評(píng)估、風(fēng)險(xiǎn)識(shí)別、分級(jí)管理等。
當(dāng)前，歐盟《人工智能法案》已進(jìn)入最終立法階段，其將人工智能系統(tǒng)分為“禁止類(lèi)”“高風(fēng)險(xiǎn)類(lèi)”“有限風(fēng)險(xiǎn)類(lèi)”與“最低風(fēng)險(xiǎn)類(lèi)”，并據(jù)此提出差異化監(jiān)管要求，成為人工智能規(guī)制分級(jí)管理的重要案例。
人工智能治理既具有多元的目標(biāo)導(dǎo)向，也依賴(lài)多樣化的治理工具，涵蓋傳統(tǒng)的行政法規(guī)，以及大量的政策措施、自律機(jī)制和技術(shù)手段。多元工具的協(xié)同應(yīng)用，有助于在技術(shù)發(fā)展快速變化的環(huán)境中實(shí)現(xiàn)敏捷治理。
全球合作的四項(xiàng)挑戰(zhàn)
人工智能治理是全球性重大挑戰(zhàn)。人工智能的跨境傳播特性、影響范圍以及所蘊(yùn)含的系統(tǒng)性風(fēng)險(xiǎn)，決定了人工智能的治理不能局限于國(guó)家層面。正如氣候變化、傳染病防控一樣，人工智能也正在成為全球治理體系中的“新型全球公共事務(wù)”。然而，現(xiàn)實(shí)中人工智能的全球治理推進(jìn)面臨諸多挑戰(zhàn)。
一是技術(shù)路徑不同引發(fā)的治理差異化。各國(guó)在人工智能技術(shù)發(fā)展路徑上的差異，不僅表現(xiàn)在技術(shù)選擇和應(yīng)用重點(diǎn)上，也體現(xiàn)在對(duì)“何種風(fēng)險(xiǎn)應(yīng)被治理”的認(rèn)識(shí)上存在本質(zhì)分歧。
例如，2024年初，國(guó)產(chǎn)大模型DeepSeek在國(guó)內(nèi)引起業(yè)界廣泛關(guān)注，其在搜索增強(qiáng)、中文語(yǔ)義建構(gòu)與推理能力方面突破顯著。這一新路徑的發(fā)展，也帶來(lái)治理工具如何適配的現(xiàn)實(shí)問(wèn)題：是否要對(duì)具備高能力的國(guó)產(chǎn)大模型施加與國(guó)外頭部模型相當(dāng)?shù)脑u(píng)估要求？是否要對(duì)中文訓(xùn)練語(yǔ)料設(shè)定特殊保護(hù)機(jī)制？這些問(wèn)題的回答，在不同國(guó)家政策中并無(wú)統(tǒng)一方案。
這也說(shuō)明，全球治理機(jī)制之間需要互相學(xué)習(xí)、互相借鑒，也需要在“原則一致”與“路徑多元”之間找到合理平衡，避免以一種技術(shù)范式凌駕于他國(guó)實(shí)踐之上。
二是治理節(jié)奏與技術(shù)發(fā)展的錯(cuò)配。人工智能技術(shù)發(fā)展呈現(xiàn)指數(shù)型演進(jìn)，而治理體系的演進(jìn)則普遍存在滯后與碎片化現(xiàn)象，導(dǎo)致出現(xiàn)典型的技術(shù)發(fā)展與技術(shù)治理之間的步調(diào)不一致。監(jiān)管政策的制定、立法程序、標(biāo)準(zhǔn)建設(shè)等過(guò)程均具有特定的周期性與協(xié)商性等特征，很難與技術(shù)迭代的速度實(shí)現(xiàn)同步對(duì)接。
例如，OpenAI發(fā)布GPT-4不到半年，國(guó)內(nèi)外即有多款對(duì)標(biāo)模型上線(xiàn)，但多數(shù)國(guó)家對(duì)大模型的法律分類(lèi)、數(shù)據(jù)使用邊界、能力管控機(jī)制仍未落地。在此背景下，“邊創(chuàng)新邊治理”、“沙盒實(shí)驗(yàn)”與“敏捷治理”成為現(xiàn)實(shí)可行的治理方式。OECD（經(jīng)合組織）提出的“靈活監(jiān)管”理念就強(qiáng)調(diào)，應(yīng)以適應(yīng)性制度嵌入快速演進(jìn)的技術(shù)環(huán)境，建立“監(jiān)測(cè)─評(píng)估─調(diào)試─再立法”的周期型治理流程。
三是全球人工智能治理機(jī)制復(fù)合體面臨治理困境。當(dāng)前，全球范圍內(nèi)已形成多個(gè)圍繞人工智能治理的倡議與機(jī)制，但這些機(jī)制之間缺乏層級(jí)關(guān)系與協(xié)調(diào)機(jī)制，形成所謂的“機(jī)制復(fù)合體”（regime complex）。例如，聯(lián)合國(guó)系統(tǒng)中的教科文組織（UNESCO）發(fā)布了《人工智能倫理建議書(shū)》；OECD制定了人工智能推薦原則，并推動(dòng)成員國(guó)采納；歐盟制定了《人工智能法案》，試圖構(gòu)建最系統(tǒng)的人工智能監(jiān)管立法；世界經(jīng)濟(jì)論壇（WEF）則設(shè)有人工智能治理的多利益攸關(guān)方平臺(tái)等。
然而，上述機(jī)制在目標(biāo)設(shè)定、治理工具、成員構(gòu)成與規(guī)則設(shè)計(jì)等方面存在不同程度的重疊乃至沖突。例如，OECD的“自愿性立法”機(jī)制與歐盟“強(qiáng)制立法”機(jī)制之間的協(xié)調(diào)性就一直是外界質(zhì)疑的焦點(diǎn)。
雖然“機(jī)制復(fù)合體”的現(xiàn)實(shí)在一定程度上反映了全球治理的多元協(xié)商邏輯，但也帶來(lái)了一系列現(xiàn)實(shí)難題，例如：治理效能低─重復(fù)設(shè)立規(guī)則、標(biāo)準(zhǔn)不統(tǒng)一；話(huà)語(yǔ)權(quán)失衡─部分機(jī)制被大國(guó)主導(dǎo)，發(fā)展中國(guó)家缺乏影響力；合規(guī)困境─企業(yè)面臨不同國(guó)家制度之間的合規(guī)沖突，增加成本。
因此，全球治理需要建立跨機(jī)制協(xié)調(diào)平臺(tái)或規(guī)則對(duì)接機(jī)制，在基本原則層面保持一致性的前提下，允許在細(xì)則上保持多樣性。
四是地緣政治因素影響。當(dāng)前較為嚴(yán)峻的全球治理障礙，是地緣政治沖突對(duì)人工智能合作形成的壁壘。原本可以在技術(shù)、倫理、標(biāo)準(zhǔn)等層面展開(kāi)廣泛合作的人工智能治理議題，越來(lái)越多地被納入戰(zhàn)略博弈的框架之中。例如，AGI的研發(fā)逐漸演變?yōu)樯贁?shù)國(guó)家主導(dǎo)、大型科技企業(yè)牽頭的“競(jìng)賽型項(xiàng)目”，而全球協(xié)同開(kāi)發(fā)與風(fēng)險(xiǎn)共擔(dān)的路徑，在當(dāng)前地緣緊張格局下，已很難實(shí)現(xiàn)。
面向未來(lái)，我們可以清楚地看到，人工智能治理如果缺少合作性，將很難應(yīng)對(duì)跨境風(fēng)險(xiǎn)；如果缺少包容性，將加劇“智能鴻溝”；如果缺少合法性，將削弱公眾信任。因此，人工智能治理須回歸到全球合作的正確軌道上。
人工智能的治理并非人工智能技術(shù)發(fā)展的附屬議題，而是與人工智能技術(shù)共同進(jìn)化伴生的“制度生態(tài)構(gòu)建工程”。治理的任務(wù)既要面向“安全風(fēng)險(xiǎn)管控”，也要著眼“社會(huì)結(jié)構(gòu)塑形”，更要推進(jìn)“市場(chǎng)機(jī)制構(gòu)造”，只有三者同步協(xié)調(diào)發(fā)展，才能真正保障人工智能以安全、可信、公平的方式造福世界。
（作者為清華大學(xué)蘇世民書(shū)院院長(zhǎng)、中國(guó)科技政策研究中心主任）
編輯：李華山
