【摘要】人工智能正在引發(fā)一場遠超乎于技術(shù)場域的時代變革，以大模型為代表的生成式人工智能塑造著未來的主要技術(shù)進路。盡管我國已成為一個人工智能大國，但在核心理論創(chuàng)新、基礎(chǔ)底座建設(shè)、關(guān)鍵軟硬件和生態(tài)方面還有待提升，邁向人工智能強國還有很長的路要走。在此情況下，如何在保障人工智能有力、有序、有益發(fā)展的同時，實現(xiàn)對人工智能的善治是亟需回應(yīng)的關(guān)鍵問題。因此，平衡好發(fā)展與治理之間的關(guān)系，踐行價值對齊的倫理思路，吸收人工智能國際治理有益經(jīng)驗，探索一條理念開放、主體多元、對象分層、工具靈活的治理新思路，成為探索人工智能善治路徑的核心命題。
【關(guān)鍵詞】生成式人工智能 新興技術(shù)治理 價值對齊 敏捷治理
【中圖分類號】F49/TP18 【文獻標識碼】A
【DOI】10.16619/j.cnki.rmltxsqy.2024.14.002
【作者簡介】梁正，清華大學公共管理學院教授、人工智能國際治理研究院副院長。研究方向為新興技術(shù)治理、科技創(chuàng)新政策、研發(fā)全球化、標準與知識產(chǎn)權(quán)。主要著作有《科學、技術(shù)與創(chuàng)新經(jīng)濟學》、《黑鏡與秩序：數(shù)智化風險社會下的人工智能倫理與治理》（合著）、《數(shù)字雙賦打通韌性城市建設(shè)“最后一公里”》（論文）、《互聯(lián)網(wǎng)平臺協(xié)同治理體系構(gòu)建——基于全景式治理框架的分析》（論文）等。
引言
任何技術(shù)發(fā)展都會經(jīng)歷開始孕育—快速發(fā)展—成熟完善—穩(wěn)定并趨于退化的生命周期。[1]任何新技術(shù)的成長都不是一蹴而就的。新技術(shù)從舊技術(shù)中孕育，汲取舊技術(shù)優(yōu)勢將其保留，摒棄舊技術(shù)的劣弊。技術(shù)進步的本質(zhì)在于從一種技術(shù)系統(tǒng)到另一種技術(shù)系統(tǒng)的過渡。[2]從來也沒有孤立存在的“一種技術(shù)”，一種技術(shù)總是與其他技術(shù)聯(lián)系在一起。人工智能技術(shù)正在塑造新的技術(shù)體系，引領(lǐng)以其為核心的技術(shù)“中心環(huán)繞體系”變革，成為變革社會的力量。人工智能作為一種新興的顛覆性技術(shù)，其技術(shù)治理也難以擺脫科林格里奇困境，這使決策者面臨兩難選擇。尤其是對生成式人工智能（AIGC）而言，一方面，在技術(shù)得到深度開發(fā)和廣泛應(yīng)用之前，我們無法預(yù)知技術(shù)可能產(chǎn)生的后果；另一方面，當技術(shù)已經(jīng)深刻地改變了人類社會時，我們又無法確保對其的控制和掌控。這樣一種現(xiàn)實性迫切呼吁適應(yīng)性的治理方式，敏捷治理作為應(yīng)對生成式人工智能新態(tài)勢的治理模式，正是在這樣的背景中產(chǎn)生，并成為被持續(xù)探索的治理路徑。
生成式人工智能技術(shù)發(fā)展現(xiàn)狀概述
人工智能研究既是人類對外部世界的求知，更是破解人類編碼、深刻地自我認知的探索過程。對人工智能的理解也隨著這一探索過程不斷深化：從最初的計算智能（快速邏輯運算、海量儲存能力），發(fā)展到感知智能（“聽”“說”“看”“觸”能力），再到更高級的認知智能（理解、詮釋能力）階段。數(shù)理邏輯推理、人工神經(jīng)網(wǎng)絡(luò)的構(gòu)建、獎懲機制的行為仿生等分別將人工智能研究向前推進。丹尼特（D. C. Dennett）拋出輪子是否存在于自然界這一問題引出了人工智能發(fā)展的“認知之輪”問題。[3]不過，實踐表明任何單一進路通向成功的可能性都是微乎其微的，基于多重思路的融貫，才有了當今的人工智能大模型?？v觀生成式人工智能的創(chuàng)新與發(fā)展，總體而言可以有如下概括。
其一，生成式人工智能自其發(fā)布以來在技術(shù)上已經(jīng)取得了長足的進步。從數(shù)量上看，自2019年以來，全球已發(fā)布基礎(chǔ)大模型百余個，其中美國發(fā)布模型多達182個，中國發(fā)布30余個。[4]從模型質(zhì)量看，人工智能系統(tǒng)的推理能力已經(jīng)有了極大的提升。美國和加拿大的研究人員開發(fā)了MMMU系統(tǒng)（Massive Multy-Discipline Multimodal Understanding and Reasoning Benchmark for Expert AGI），即面向?qū)I(yè)AGI大規(guī)模多學科多模態(tài)理解和推理基準測量。它包含約11500道大學水平的問題，涉及六個核心學科（藝術(shù)與設(shè)計、商業(yè)、科學、健康和醫(yī)學、人文和社會科學以及技術(shù)和工程），問題形式多樣，是迄今為止對人工智能感知、知識和推理最嚴格的測試之一。通過該測試可以看出，其中多個大模型都表現(xiàn)良好，甚至在一些領(lǐng)域大模型能力逐漸接近人類專家（如圖1所示）。這充分展現(xiàn)了大模型的技術(shù)潛力和未來可見的發(fā)展前景。從模型應(yīng)用角度看，大模型的進化速度和能力提升也是驚人的。例如，圖像生成模型Midjourney短時間內(nèi)已經(jīng)迭代數(shù)次，顯示出生成超現(xiàn)實主義圖像能力的顯著提升，如今其所創(chuàng)建的圖像已逼真度驚人。
其二，產(chǎn)學研合作日益緊密，產(chǎn)業(yè)界作為大模型發(fā)布的主力軍扮演著越來越重要的角色。從模型發(fā)布看，自2019年以來，谷歌在基礎(chǔ)模型發(fā)布數(shù)量上領(lǐng)先，共計40個，其次是OpenAI，共計20個。清華大學在非西方機構(gòu)中排名第一，發(fā)布基礎(chǔ)模型共計7個，而斯坦福大學在美國學術(shù)機構(gòu)中排名第一，發(fā)布基礎(chǔ)模型共計5個。[5]值得注意的是，2014年前后，學術(shù)界在機器學習模型的發(fā)布方面還處于領(lǐng)先地位。此后，產(chǎn)業(yè)界便占據(jù)了主導地位。2023年，產(chǎn)業(yè)界發(fā)布了51個引人關(guān)注的機器學習模型，而學術(shù)界只有15個。特別需要指出，2023年有21個優(yōu)質(zhì)大模型來自產(chǎn)學研合作，創(chuàng)下新高?，F(xiàn)在，創(chuàng)建尖端的人工智能模型需要大量的數(shù)據(jù)、計算能力和財務(wù)資源，而學術(shù)界單方面已無法保障這些資源供給，這也促成了在大模型研究和發(fā)布上的產(chǎn)學研合作。
其三，大模型的模型訓練不僅耗資巨大，其過程也不環(huán)保，這也使得模型建構(gòu)競爭飽受環(huán)保主義的詬病。圖2直觀地顯示了AI指數(shù)估算的所有AI模型的訓練成本，模型訓練成本隨著時間的推移急劇增加。AI模型的訓練成本與其計算要求之間存在直接關(guān)聯(lián)，計算訓練需求越大的模型，訓練成本就越高。同時，大部分基礎(chǔ)模型開發(fā)商（如OpenAI、谷歌、Anthropic和Mistral）都沒有報告訓練中的碳排放量。訓練人工智能模型的環(huán)境影響可能難以估量。雖然推理的每次查詢排放量可能相對較低，但當模型每天被查詢數(shù)千次甚至數(shù)百萬次時，總體應(yīng)用耗能可能會超過訓練耗能。當前對模型碳排放的研究還很少。Luccioni等人于2023年發(fā)表的一項研究是較早全面評估模型排放的研究之一。圖3展示了各種模型任務(wù)中1000次推理的碳排放量，表明圖像生成等任務(wù)的碳足跡遠高于文本分類。
綜合斯坦福大學年度《人工智能指數(shù)報告》及相關(guān)學術(shù)研究不難看出，生成式人工智能呈現(xiàn)井噴式發(fā)展的態(tài)勢。在國內(nèi)，各類垂直大模型應(yīng)用更是如雨后春筍般在市場涌現(xiàn)，該現(xiàn)象表明市場對生成式人工智能應(yīng)用前景的樂觀估計。但也必須指出，大模型自其誕生以來亦伴隨著諸多隱患和風險。如何平衡發(fā)展與治理，構(gòu)建“兩個輪子走路”的人工智能發(fā)展與治理體系迫在眉睫。本文將在總結(jié)風險挑戰(zhàn)的基礎(chǔ)上，通過中美歐人工智能治理的比較研究，探索適合我國國情的人工智能治理之路。
人工智能應(yīng)用的風險挑戰(zhàn)及綜合效應(yīng)
生成式人工智能通用性、涌現(xiàn)性、多模態(tài)的新特征勢必帶來新一輪的革命性變化，其影響不僅是技術(shù)層面的，更是經(jīng)濟、政治、社會等各層面的。生成式人工智能具有強滲透性，對社會變革的整體影響是系統(tǒng)性的。它勢必推動產(chǎn)業(yè)的數(shù)智化轉(zhuǎn)型升級，產(chǎn)業(yè)布局面臨又一次新的重大調(diào)整，數(shù)據(jù)、算力、算法相關(guān)產(chǎn)業(yè)發(fā)展將大幅加速。AIGC促進了內(nèi)容生產(chǎn)方式的顛覆性變革，通過降低內(nèi)容創(chuàng)作門檻使技術(shù)“平民化”，人機分工的混合勞動力形式將成為勞動主導范式。生成式人工智能將助推智力密集型服務(wù)產(chǎn)業(yè)規(guī)?；l(fā)展，使人工智能成為專用領(lǐng)域“顧問”，并作為“外腦”賦能專業(yè)場景高效作業(yè)，通過建模、訓練、優(yōu)化等步驟推動知識模型生成。然而，也正是因為其勢如破竹的變革力，導致風險挑戰(zhàn)一直伴隨技術(shù)發(fā)展并日益凸顯。
總體看，人工智能的潛在風險可以主要劃分為兩類。一類是綜合性風險，涵蓋了個體、社會、國家、人類四個層面。從個體層面看，包括算法歧視和偏見、錯誤信息、隱私泄露、深度偽造和詐騙、知識產(chǎn)權(quán)爭議等；從社會層面看，主要有勞動力結(jié)構(gòu)挑戰(zhàn)、數(shù)字鴻溝和社會不公、引發(fā)勞動者心理問題、資源消耗增加碳排放量等；從國家層面看，包括意識形態(tài)滲透、武器制造引發(fā)失控風險、國際權(quán)力分布不均衡加劇等；從人類層面看，引發(fā)了對人類未來地位的思考、硅基和碳基沖突、人機互構(gòu)新理念等。另一類是特定場景中的風險，主要有電商場景中的虛假宣傳與欺詐、大數(shù)據(jù)殺熟、推薦誤導、過度消費等；醫(yī)療領(lǐng)域的不可解釋風險、歧視偏見、隱私泄露、反饋與監(jiān)管風險等；教育領(lǐng)域的沖擊應(yīng)試教育、學生過度依賴、學術(shù)誠信危機、重塑教育生態(tài)等；科研領(lǐng)域的沖擊人文社科研究、新的知識生產(chǎn)方式以及相應(yīng)的科技倫理挑戰(zhàn)。
我們可以從人工智能的產(chǎn)業(yè)效應(yīng)、政治效應(yīng)、社會效應(yīng)三個層面對人工智能的社會影響和綜合效應(yīng)作一相對整體的把握。
人工智能應(yīng)用的產(chǎn)業(yè)風險與效應(yīng)。人工智能技術(shù)已經(jīng)成為全球經(jīng)濟增長的新動能和主導力量，對傳統(tǒng)經(jīng)濟模式的轉(zhuǎn)型、全面提升勞動生產(chǎn)率、新價值體系下的高質(zhì)量發(fā)展發(fā)揮著舉足輕重的作用。宏觀上，“技術(shù)奇點”刺激“經(jīng)濟奇點”。一方面，人工智能技術(shù)在制造業(yè)等生產(chǎn)領(lǐng)域發(fā)揮積極作用，直接影響生產(chǎn)力質(zhì)的方面；另一方面，人工智能技術(shù)通過改變勞動方式變革生產(chǎn)關(guān)系，適應(yīng)新技術(shù)推動下的生產(chǎn)力發(fā)展。馬克思認為勞動生產(chǎn)力是由多種情況決定的，其中包括：工人的平均熟練程度，科學發(fā)展水平和它在工藝上的應(yīng)用程度，生產(chǎn)過程的社會結(jié)合，生產(chǎn)資料的規(guī)模和效能，以及自然條件。智能技術(shù)滲透于生產(chǎn)活動的部分要素，如生產(chǎn)設(shè)備、組織形式、智能供應(yīng)鏈等，在經(jīng)濟增長中的貢獻是直接的、強勁的。人工智能技術(shù)應(yīng)用日益成為衡量社會經(jīng)濟發(fā)展的尺度，成為產(chǎn)業(yè)結(jié)構(gòu)和社會結(jié)構(gòu)是否跟上時代潮流的重要指標。
智能技術(shù)催化生產(chǎn)制造適應(yīng)智能社會的新變革。智能化生產(chǎn)和定制化生產(chǎn)縮短了生產(chǎn)時間和銷售時間，加速了資本周轉(zhuǎn)，優(yōu)化了資本結(jié)構(gòu)。加上大模型的加持，其能夠通過大數(shù)據(jù)與智能分析平臺，利用云計算將工業(yè)機器生產(chǎn)數(shù)據(jù)轉(zhuǎn)化為有用信息，實現(xiàn)生產(chǎn)的高效、精確、環(huán)保、綠色。大量智能設(shè)備的引入提升了工廠生產(chǎn)商品的精確性，優(yōu)化了產(chǎn)品質(zhì)量。同時，產(chǎn)銷流程盡在掌握，生產(chǎn)過程的可控性得以提升，生產(chǎn)線數(shù)據(jù)在智能技術(shù)的幫助下被采集、整理、分析，使得生產(chǎn)計劃和生產(chǎn)進度的安排更加合理。此外，智能化還提升了產(chǎn)品的后期服務(wù)水平。生產(chǎn)中智能產(chǎn)品與物聯(lián)網(wǎng)連接，記錄已進行的加工步驟和質(zhì)量指標，將產(chǎn)品指引向最優(yōu)路徑，生產(chǎn)完成后，智能產(chǎn)品通過在線連接的方式與制造企業(yè)后臺服務(wù)流程保持聯(lián)系[6]。
人工智能應(yīng)用的政治風險與效應(yīng)。溫納的技術(shù)政治學認為，技術(shù)對政治力量、政治格局具有影響力。人工智能對政治的影響力是前所未見的。近年來美國挑起了中美之間的科技戰(zhàn)、金融戰(zhàn)、貿(mào)易戰(zhàn)、輿論戰(zhàn)等一系列激烈競爭博弈，其中科技戰(zhàn)為核心領(lǐng)域，科技戰(zhàn)中又以芯片制造和通訊安全為中心的技術(shù)戰(zhàn)影響巨大，引發(fā)了全球供應(yīng)鏈的動蕩。人工智能已經(jīng)成為國與國之間、聯(lián)盟之間、地區(qū)之間的主要競爭內(nèi)容。與之相伴的是國家安全和軍事實力層面的智能技術(shù)競爭，任何一個大國都不想在這場決定命運的競爭中丟失主動權(quán)。上述情況使得智能技術(shù)的政治性凸顯。
人工智能關(guān)系國家安全。隨著國家安全概念被泛化，尤為明顯的是，數(shù)據(jù)的控制和運用已經(jīng)不再單純是個經(jīng)濟問題，而是涉及國家安全，例如，數(shù)據(jù)可能被他國用于情報分析。數(shù)據(jù)主權(quán)是一個國家對其行政轄區(qū)內(nèi)個人、企業(yè)和組織所產(chǎn)生的數(shù)據(jù)擁有的最高權(quán)力。[7]誰掌握了數(shù)據(jù)，誰就擁有了數(shù)據(jù)主權(quán)。2022年7月，國家互聯(lián)網(wǎng)信息辦公室對滴滴全球股份有限公司依法作出網(wǎng)絡(luò)安全審查相關(guān)行政處罰的決定，其中涉及的一項違法違規(guī)行為即“違法違規(guī)運營給國家關(guān)鍵信息基礎(chǔ)設(shè)施安全和數(shù)據(jù)安全帶來嚴重安全風險隱患”[8]。人工智能在全球范圍內(nèi)引發(fā)了一場史無前例的關(guān)系國家安全的科技競爭，經(jīng)濟全球化面臨前所未有的考驗。
人工智能正在改變國家治理模式。人工智能技術(shù)為國家的高效運行提供了新的基礎(chǔ)條件。它有助于完善國家治理體系，使之在剛性治理和柔性治理之間獲得平衡。[9]智能技術(shù)或直接或間接地轉(zhuǎn)變了政府職能。這主要得益于人工智能在很大程度上打開了權(quán)力“黑箱”，政府信息公開保障了公民的知情權(quán)，權(quán)力的運行、流程、決策漸趨開放，民眾開始深入了解政治運行機制。人工智能推動了公民體系的健全發(fā)展。民眾擁有了更多渠道以獲取各方面的政治、政策信息，這促進了公民意識的覺醒。這就要求政府必須應(yīng)對新情況，重塑角色，從傳統(tǒng)的管理者轉(zhuǎn)變?yōu)榉?wù)者、協(xié)調(diào)者甚至合作者，加強與其他治理主體間的信息與資源共享、合作共治。
人工智能發(fā)展對全球治理提出了新挑戰(zhàn)。人工智能時代，全球體系的領(lǐng)導權(quán)正在出現(xiàn)新變化。從權(quán)力邏輯看，美國在人工智能技術(shù)領(lǐng)域仍有強大實力，中國雖正在趕超但仍有差距，發(fā)達國家特別是美國希望鎖定其在智能技術(shù)領(lǐng)域相對于欠發(fā)達國家的優(yōu)勢。[10]因此，西方發(fā)達國家在智能技術(shù)上仍舊保持著主導權(quán)和話語權(quán)。從沖突邏輯看，生成式人工智能的多模態(tài)發(fā)展能夠改善文明間的對話狀況，不同文化群體交流的可能性和概率提升，進而也可能形成新的沖突和適應(yīng)性問題。這對全球治理提出了新要求和新挑戰(zhàn)。為了應(yīng)對霸權(quán)邏輯，僅靠在國際社會中呼吁平等、公平和正義的價值觀無益于問題的實質(zhì)性解決。需要在國家之間開展合作，發(fā)揮國際組織在全球治理中的功能。為了應(yīng)對沖突邏輯，要尋求國際社會在智能技術(shù)發(fā)展中的共識，通過協(xié)商機制應(yīng)對智能化過程中的不和諧因素，提出新的符合全球發(fā)展利益的人工智能發(fā)展新方向。
人工智能應(yīng)用的社會風險與效應(yīng)。社會治理步入智能化時代，人工智能被用于社會治理的各個方面?？傮w上，人類步入了智能社會。自主系統(tǒng)已經(jīng)部署在我們最重要的社會機構(gòu)中，然而，還沒有統(tǒng)一的方法評估此類應(yīng)用對人類社會的持續(xù)性影響。[11]
人工智能重塑了勞動結(jié)構(gòu)以及不同層次勞動者的勞動過程。人工智能可能將會取代體力勞動，甚至部分腦力勞動。隨著智能技術(shù)應(yīng)用的不斷深化，工人的工作形式從主導操作性向輔助操作性轉(zhuǎn)變。與傳統(tǒng)勞資關(guān)系相比，智能技術(shù)背景下的勞資關(guān)系在勞動條件建立、勞動管理方式和勞動報酬獲取方式上出現(xiàn)了很多新變化。[12]人工智能對就業(yè)的影響是顯而易見的，不僅重塑了勞動結(jié)構(gòu)，還在結(jié)束某些舊行業(yè)、就業(yè)崗位的同時，創(chuàng)造新的就業(yè)。根據(jù)OpenAI的研究，未來受影響最大的行業(yè)是數(shù)據(jù)處理、信息服務(wù)、出版業(yè)和保險行業(yè)，對于80%的美國人而言，至少有10%的工作任務(wù)會受到影響[13]。最近備受關(guān)注的自動駕駛汽車引發(fā)的網(wǎng)約車司機對失業(yè)的恐慌，事實上已經(jīng)傳遞出一個信號，即人工智能引發(fā)的失業(yè)問題已經(jīng)不再是未來話題，必然掀起新一輪對人工智能代替勞動就業(yè)的討論。也有學者對人工智能對就業(yè)的沖擊持樂觀態(tài)度。例如，戴文波特（T. H. Davenport）認為增強人工智能應(yīng)用有利于業(yè)務(wù)流程和模型的快速創(chuàng)新。一些關(guān)于自動化的研究表明：一方面，人工智能傾向于完成自動化任務(wù)，而非取代整個工作流程；另一方面，大多數(shù)管理人員并不希望大規(guī)模的自動化和智能化。[14]這使人類面臨一個艱難的選擇：是改變我們的經(jīng)濟體制以應(yīng)對由此產(chǎn)生的社會動蕩并保持經(jīng)濟增長，還是承受一個非常困難的時期，同時目睹普遍貧困和提高生產(chǎn)力的矛盾。[15]
人工智能正在變革現(xiàn)有分配方式。其一，人工智能正在改變市場結(jié)構(gòu)，使掌控數(shù)據(jù)的大企業(yè)在市場的信息不對稱上占有絕對主動權(quán)，進而讓該類企業(yè)獲得更多盈利。高技術(shù)企業(yè)之所以能比以往有更多發(fā)展機會，往往是利用了數(shù)據(jù)優(yōu)勢地位提升市場份額，少部分人利用智能技術(shù)優(yōu)勢獲取巨額利潤，導致貧富差距進一步拉大。其二，智能化對不同技能水平勞動者收入的影響不同。就目前的情況看，智能化主要取代的是低技能勞動者。隨著智能化的深入，尤其是大模型的推廣，部分高技能勞動者也會在一定程度上受其影響。其三，從生產(chǎn)要素看，資本和技術(shù)成為主導要素，財富向少數(shù)掌握資本和技術(shù)的群體流動。由于前兩點，智能技術(shù)對市場結(jié)構(gòu)的沖擊和對勞動力成本的拉低使擁有不同生產(chǎn)要素群體的收入差距進一步拉大。智能技術(shù)造成了分配的不均衡，進而影響社會公平。
人工智能引發(fā)的一系列社會變化、社會問題都需要再次依靠人類智慧善用智能技術(shù)進行社會治理。這從上述智能革命對全球治理、國家治理和政府轉(zhuǎn)型的影響中便可見一斑。社會結(jié)構(gòu)、勞動結(jié)構(gòu)、社會關(guān)系、社會公平從來不是社會發(fā)展面臨的新議題，只不過在智能社會背景下，出現(xiàn)了新挑戰(zhàn)。因此，智能時代呼吁智能治理更好地應(yīng)對新挑戰(zhàn)。智能治理包括反治理（智能低效、技術(shù)怠工、智能破壞、官僚主義智能化、過度治理）和再治理（防范專家權(quán)力過大的政治風險），對社會的正常運行所發(fā)揮的作用是建設(shè)性的[16]。繼續(xù)在理性與感情、自我與他者的交際中爭論智能革命的社會問題及應(yīng)對方案問題，是極其有益的。[17]
實現(xiàn)人工智能善治的敏捷治理思路
人工智能的國際治理經(jīng)驗。人工智能治理日益成為國際競爭的戰(zhàn)略要地。一方面，美國利用其全球霸權(quán)進行“長臂管轄”，試圖從芯片管制、標準規(guī)則等方面扼制我國人工智能發(fā)展；另一方面，各國都在人工智能治理領(lǐng)域積極運作、搶占先機，因為治理背后緊密關(guān)聯(lián)的是標準與規(guī)則制定，治理主動權(quán)直接關(guān)系發(fā)展主動權(quán)。歐盟與美國在人工智能治理領(lǐng)域扮演著引領(lǐng)者的角色。
歐盟作為世界范圍內(nèi)人工智能立法的領(lǐng)跑者，在《數(shù)字市場法案》（DMA）、《通用數(shù)據(jù)保護條例》（CDPR）等文件基礎(chǔ)上，積極推動統(tǒng)一立法工作，近期《人工智能法案》取得重要進展，歐盟委員會和27個會員國就該法案達成協(xié)議。該法案自2021年提出以來，經(jīng)過了長時間的討論、協(xié)商談判，為人工智能治理提供了全球首部硬法，使得歐盟在安全、可信、有道德的人工智能領(lǐng)域成為國際規(guī)則制定的領(lǐng)跑者。歐盟在技術(shù)和產(chǎn)業(yè)均不夠發(fā)達的情況下，通過規(guī)則制定，一方面，填補了人工智能道德領(lǐng)域的空白，成為全球標準制定者；另一方面，也為自身人工智能發(fā)展提供了基本保障，以避免其他國家人工智能產(chǎn)品的沖擊和風險。
《人工智能法案》以保護人的基本權(quán)利為核心，圍繞6項基本原則：人類主體和監(jiān)督，技術(shù)穩(wěn)健性和安全性，隱私和數(shù)據(jù)治理，透明度，多樣性、非歧視和公平，社會和環(huán)境福祉。根據(jù)人工智能系統(tǒng)對公民基本權(quán)利的威脅程度進行分級，采取分級治理的監(jiān)管模式。該法案將人工智能風險劃分為四個等級：對人類安全和權(quán)利有明顯威脅應(yīng)被徹底禁止的不可接受風險；對個人健康、安全及基本權(quán)利有重大危害影響的高風險；使用者能意識到與人工智能互動并自主判斷的有限風險；除上述之外的合規(guī)卻存在一定風險的輕微風險。值得注意的是，歐盟提倡實現(xiàn)監(jiān)管和發(fā)展的平衡，對高風險系統(tǒng)的監(jiān)管是該法案的核心，并將ChatGPT劃定為高風險的人工智能系統(tǒng)。
歐盟的《人工智能法案》也受到了一些質(zhì)疑，質(zhì)疑主要集中于高風險人工智能系統(tǒng)監(jiān)管方式的可操作性上。此前《人工智能法案》推進相對順利的關(guān)鍵在于，AI監(jiān)管和發(fā)展并不沖突。歐盟延續(xù)GDPR理念，將數(shù)據(jù)安全治理體系作為監(jiān)管核心，以用戶個人隱私為主的數(shù)據(jù)安全保護主要在商業(yè)領(lǐng)域，而歐盟國家人工智能介入產(chǎn)業(yè)發(fā)展并不以商業(yè)應(yīng)用為主。如德國只專注于生產(chǎn)制造業(yè)中的人機協(xié)同，不會出現(xiàn)個人隱私數(shù)據(jù)問題；法國以人工智能教育和研發(fā)為主，商業(yè)應(yīng)用雖不少，但也并非其主要人工智能布局領(lǐng)域。但當下情況正在發(fā)生變化，基礎(chǔ)模型的出現(xiàn)導致歐盟AI監(jiān)管和發(fā)展出現(xiàn)本質(zhì)沖突。ChatGPT展現(xiàn)的巨大潛力，預(yù)示著基礎(chǔ)模型將對產(chǎn)業(yè)產(chǎn)生顛覆性影響，很可能導致歐盟原先的人工智能產(chǎn)業(yè)布局重新調(diào)整。換言之，歐盟不確定未來是否也會需要開發(fā)、利用大模型來實現(xiàn)傳統(tǒng)產(chǎn)業(yè)的轉(zhuǎn)型升級，而對于基礎(chǔ)模型的嚴格監(jiān)管很可能導致歐盟在未來人工智能產(chǎn)業(yè)化時代落后甚至被淘汰。
美國對人工智能的監(jiān)管要求較少，主要以安全原則為主，結(jié)合“聯(lián)邦—州”二元立法結(jié)構(gòu)，建立符合產(chǎn)業(yè)現(xiàn)狀的治理模式。美國的人工智能治理強調(diào)個人隱私保護和產(chǎn)業(yè)發(fā)展的平衡，將提升透明度和反對歧視作為重要準則，利用技術(shù)標準和規(guī)則指南促進行業(yè)自律。相較于歐盟，美國的國家立法意愿并不強烈。
美國的人工智能治理展現(xiàn)出以下三個特征：一是以行政令為主，相比于出臺具有極強約束力的法律文件，更側(cè)重于提出AI監(jiān)管原則和框架，如2020年發(fā)布的《人工智能應(yīng)用監(jiān)管指南》提出10項AI監(jiān)管原則，2022年發(fā)布的《人工智能權(quán)利法案藍圖》提出負責任地使用AI路線圖，2023年發(fā)布的《人工智能風險管理框架》提供了可參考的AI風險管理框架。2023年9月，美國第一個嚴格、全面的立法藍圖——《兩黨人工智能立法框架》被提出，但尚未被國會通過。
二是地方立法較多，美國已經(jīng)有眾多州推出了關(guān)于人工智能的立法，其中馬里蘭州、加利福尼亞州、馬薩諸塞州、華盛頓州都已通過超過5部的立法。
三是以行業(yè)自律為主，相較于監(jiān)管，美國更關(guān)心人工智能產(chǎn)業(yè)的創(chuàng)新發(fā)展。2023年以來美國行業(yè)自律變得更加主動，科技巨頭主動尋求與相關(guān)機構(gòu)進行合作，如2023年8月，美國白宮與7家頂級人工智能公司，包括谷歌、微軟、亞馬遜、Meta、OpenAI、Anthropic和Inflection達成共識，各公司都同意在開發(fā)人工智能方面作出一系列自愿承諾，包括允許獨立專家在公開亮相之前評估工具，研究與人工智能相關(guān)的社會風險，并允許第三方測試系統(tǒng)漏洞。
與此同時，美國在人工智能立法方面也有所動作。2023年10月，民主黨和共和黨參議員聯(lián)合提出兩黨法案，要求創(chuàng)新主體對AI生成的內(nèi)容和聊天機器人進行明確標注和披露；要求開發(fā)人員在AI生成內(nèi)容上添加清晰且顯著的標簽；聯(lián)合來自政府、學術(shù)界、媒體界和AI開發(fā)的領(lǐng)導者成立一個工作組，重點關(guān)注識別AI生成內(nèi)容的最佳實踐和披露情況。同月，總統(tǒng)拜登簽署的《關(guān)于安全、可靠和值得信賴的開發(fā)和使用人工智能行政令》提出了8項目標，要求15家領(lǐng)軍企業(yè)自愿承諾推動安全、可靠、可信的人工智能發(fā)展。同年11月又推出了《2023年人工智能研究、創(chuàng)新和問責法案》，鼓勵人工智能創(chuàng)新的立法舉措和建立問責框架。該法案提出人工智能系統(tǒng)分類方法、透明度要求及相應(yīng)監(jiān)管手段，也透露了未來美國生成式AI的監(jiān)管方向主要是對“為人類作者和人工智能生成的內(nèi)容提供真實性和出處信息”的手段的開發(fā)和標準化。
我國人工智能治理經(jīng)驗。我國對人工智能的治理歷經(jīng)了摸索治理理念、對象、主體、工具的探索式治理；以柔性規(guī)制方式為我國人工智能治理的基本態(tài)度而面向國際社會的回應(yīng)式治理；通過多部門聯(lián)動出臺法律法規(guī)等硬性規(guī)制工具的集中式治理；以及適應(yīng)技術(shù)變化，主動采取剛?cè)岵⑦M，增強社會抗風險韌性的敏捷式治理這四個階段。[18]
在回應(yīng)式治理階段，針對國內(nèi)行業(yè)問題，我國出臺了一系列軟性規(guī)則。如《新一代人工智能治理原則——發(fā)展負責任的人工智能》《國家新一代人工智能標準體系建設(shè)指南》等，堅持以創(chuàng)新發(fā)展為導向，積極推動行業(yè)發(fā)展，塑造了有利于人工智能發(fā)展的大氣候；再如《新一代人工智能發(fā)展規(guī)劃》《促進新一代人工智能產(chǎn)業(yè)發(fā)展三年行動計劃（2018-2020年）》的出臺，為人工智能發(fā)展規(guī)劃了明確的時間表與路線圖。在集中式治理階段，我國推動各部門聯(lián)動，針對性地采取整治措施，對企業(yè)的違規(guī)行為進行了規(guī)范和整頓，并相繼在數(shù)據(jù)維度、算法維度、平臺維度頒布了一系列的法律法規(guī)，同時及時更新了行業(yè)標準與倫理規(guī)范。
從全球范圍看，我國較早制定了人工智能國家戰(zhàn)略，積極推動人工智能治理工作，堅持多維度、多領(lǐng)域、多層次的整體治理方針。重視整體規(guī)劃，制定了國家級的人工智能發(fā)展規(guī)劃；加強機構(gòu)建設(shè)，成立了國家新一代人工智能治理專業(yè)委員會；關(guān)注垂直領(lǐng)域，出臺相關(guān)政策和舉措促進發(fā)展與治理的平衡；重視法律法規(guī)的完善，由國家互聯(lián)網(wǎng)信息辦公室主導監(jiān)管規(guī)制；參與國際治理，積極在國際舞臺發(fā)出中國聲音。
總而言之，我國現(xiàn)階段人工智能治理采取了軟硬法兼施的路徑。國家立法上，我國先后頒布了《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個人信息保護法》，下一步應(yīng)積極推進人工智能立法工作，集思廣益探討人工智能法草案。監(jiān)管規(guī)制上，我國先后發(fā)布了《關(guān)于加強科技倫理治理的意見》《生成式人工智能服務(wù)管理暫行辦法》《科技倫理審查辦法（暫行）》《全球人工智能治理倡議》，接下來應(yīng)落實軟法規(guī)制，促進原則、標準、指南、意見的落地，助力人工智能健康發(fā)展。地方舉措上也有諸多進展，如北京市人民政府辦公廳印發(fā)了《促進北京市通用人工智能創(chuàng)新發(fā)展若干措施》，杭州市人民政府辦公廳印發(fā)《關(guān)于加快人工智能產(chǎn)業(yè)創(chuàng)新發(fā)展的實施意見》等，支撐產(chǎn)業(yè)創(chuàng)新生態(tài)，發(fā)揮典型示范引領(lǐng)作用?？傮w上，我國人工智能治理形成了中央與地方合作、公共部門與私營部門協(xié)調(diào)的多層次整體布局。
然而，隨著人工智能時代的到來尤其是生成式人工智能的快速發(fā)展，我國人工智能治理工作也面臨著新問題、新挑戰(zhàn)。僅僅沿用過去的治理辦法已難以應(yīng)對新形勢下人工智能發(fā)展的迅猛勢頭，如何規(guī)避新一代人工智能帶來的新風險，需要構(gòu)建適應(yīng)新一代人工智能發(fā)展的治理框架，真正將問題發(fā)現(xiàn)與應(yīng)對措施落到治理實踐中，這也正是敏捷式治理嘗試回答的主要問題。
構(gòu)建新一代人工智能治理模式——敏捷治理。ChatGPT目前取得的成果為通用人工智能的未來發(fā)展注入了一劑強心劑，使人們的注意力轉(zhuǎn)向人工智能大模型機制中可能產(chǎn)生的“涌現(xiàn)”現(xiàn)象。技術(shù)上，“涌現(xiàn)”基于高質(zhì)量大數(shù)據(jù)、超強算力、智能算法的基礎(chǔ)技術(shù)架構(gòu)，通過詞向量、句向量的表達將概念問題轉(zhuǎn)化為數(shù)學問題，產(chǎn)生“超以象外，得其環(huán)中”的效果。結(jié)果上，大模型已經(jīng)在某種程度上展現(xiàn)出強人工智能的部分能力，甚至在一些領(lǐng)域創(chuàng)造了人工智能替代人的現(xiàn)實可能性。生成式人工智能對治理模式提出了新挑戰(zhàn)和新要求。
敏捷治理旨在構(gòu)建穩(wěn)健可行的人工智能倫理與治理框架。[19]它強調(diào)監(jiān)管的節(jié)奏和力度，以及治理手段的適應(yīng)性，是一套兼具柔韌性、流動性、靈活性的模式方法，嘗試突破傳統(tǒng)的監(jiān)管與被監(jiān)管思維，構(gòu)建互動的監(jiān)管關(guān)系，形成協(xié)同共治的體系。針對新興技術(shù)發(fā)展的特性，治理需要重新考慮法律假設(shè)、風險研判和利益平衡三個維度的問題。[20]因此，踐行敏捷治理必須在治理理念、治理主體、治理對象、治理工具多個維度形成耦合機制，才能實現(xiàn)真正的善治。
治理理念上，堅持創(chuàng)新導向、風險規(guī)制相結(jié)合的系統(tǒng)思路，妥善處理技術(shù)創(chuàng)新和規(guī)范治理之間的矛盾。以確保人工智能安全可靠為底線，鼓勵企業(yè)大膽創(chuàng)新，善用生成式人工智能賦能經(jīng)濟發(fā)展。只談治理不談發(fā)展必定造成治理的空洞化。雖然人工智能作為顛覆性技術(shù)不可避免會帶來風險，但必須防止技術(shù)被妖魔化，對新興技術(shù)應(yīng)當保持寬容度，容許其在可控的范圍內(nèi)發(fā)生問題，再糾正問題。從國際經(jīng)驗上看，美國強調(diào)科技創(chuàng)新和產(chǎn)業(yè)發(fā)展，歐盟重視價值導向的強監(jiān)管，這說明，維持監(jiān)管與發(fā)展的平衡并不容易。如果在技術(shù)發(fā)展初期設(shè)置過高門檻，勢必阻礙創(chuàng)新，敏捷治理的核心理念就是要保持開放性和靈活度。
治理主體上，堅持多元參與、協(xié)同互動的基本導向，需要改變政府與企業(yè)在傳統(tǒng)治理模式中的關(guān)系，政府與企業(yè)不再是監(jiān)管與被監(jiān)管的關(guān)系，而是以協(xié)同合作實現(xiàn)治理目標為導向的互動關(guān)系。政企之間搭建溝通渠道，政府需要準確掌握行業(yè)動態(tài)，企業(yè)需要積極參與相關(guān)政策動向。在這一過程中，學術(shù)界可以作為有效的溝通渠道和交流平臺，推動政策界、學術(shù)界、產(chǎn)業(yè)界的良性互動，以確保人工智能的良善發(fā)展為共識，在政策互動討論中形成解決方案。應(yīng)建立多方參與的測評體系，搭建風險評估平臺，通過普遍接受和認可的方式測評新一代人工智能，完善標準體系，建立容錯機制，在協(xié)同互動中避免安全漏洞和風險。
在治理對象上，應(yīng)踐行上下結(jié)合、分層治理的基本準則，重點做好對數(shù)據(jù)、算法、平臺的治理。數(shù)據(jù)方面，要兼顧數(shù)據(jù)利用和數(shù)據(jù)保護，保證效率性和規(guī)范化的協(xié)調(diào)，做好一體化和全局性的統(tǒng)籌。算法方面，應(yīng)將算法嵌入社會體系中進行評估，以體系化的思維為算法向善提供解決方案。平臺方面，建構(gòu)諸利益相關(guān)方共同參與的協(xié)同體系，在平臺監(jiān)管中兼顧好創(chuàng)新和發(fā)展之間的關(guān)系?？傮w上要針對共性的數(shù)據(jù)和算法問題形成普遍的底線約束，對企業(yè)和平臺的治理要在充分調(diào)查和分析的基礎(chǔ)上形成規(guī)范。此外，應(yīng)針對不同的應(yīng)用場景采用個性化的治理方法和手段，避免規(guī)則泛化導致的治理手段與目標問題不匹配的情況。
治理工具上，踐行靈活運用、剛?cè)岵幕痉椒ǎ纬煞椒ㄓ刑荻?、?yīng)對有緩急的多重手段。一是要審慎調(diào)研我國人工智能專項立法的必要性，在現(xiàn)有法律法規(guī)的基礎(chǔ)上完善制度建設(shè)。二是要落實目前已經(jīng)出臺的相應(yīng)規(guī)則和規(guī)范，在實踐中考察辦法、準則的可行性。三是在科技倫理的整體規(guī)劃下研究人機對齊的實踐路徑，爭取在倫理對齊方面有所突破。四是在國際上通過人工智能治理全球倡議展現(xiàn)我國負責任大國形象。治理工具既包括宏觀層面的法律法規(guī)、倫理準則，也包括中觀層面的行為準則，以及微觀層面的技術(shù)標準、監(jiān)管技術(shù)和企業(yè)自我規(guī)制，應(yīng)根據(jù)應(yīng)用場景的具體情況采用適當?shù)闹卫砉ぞ摺?/p>
結(jié)語
當今人類社會是一個高度技術(shù)化的社會，回答如何治理人工智能的問題，就是在回答如何處理好人類與技術(shù)關(guān)系的問題。人工智能迎來了以大模型為主導的新世代，其顛覆性力量正在改變?nèi)祟惖纳a(chǎn)生活方式和思維方式。面對又一輪新興技術(shù)治理，需要擺脫傳統(tǒng)的監(jiān)管與被監(jiān)管慣性思維。應(yīng)倡導通過政策界、產(chǎn)業(yè)界、學術(shù)界的溝通與聯(lián)動，在保障創(chuàng)新發(fā)展的同時，各方共同參與討論應(yīng)對風險的治理手段。在這樣的前提之下形成廣泛共識的、切實可行的、靈活調(diào)整的治理策略，才能使敏捷治理成為適應(yīng)時代情境的、擺脫克科林格里奇困境的、能夠有效應(yīng)對大模型不斷涌現(xiàn)風險挑戰(zhàn)的新興技術(shù)治理新模式、新方法。敏捷治理應(yīng)致力于譜寫和諧的人工智能治理之音。
（本文系新一代人工智能國家科技重大專項和清華大學自主科研計劃的階段性成果，項目編號分別為：2023ZD0121700、20223080026；清華大學公共管理學院博士后李洋對本文亦有貢獻）
注釋
[1]陳昌曙：《技術(shù)哲學引論》，北京：科學出版社，1999年，第156頁。
[2]B. Gille, The History of Techniques: Volume 1 Techniques and Civilizations, Montreux: Gordon and Breach Science Publishers, 1986, p. ix.
[3]D. C. Dennett, "Cognitive Wheels: The Frame Problem of AI," in C. Hookway (ed.), Minds, Machines and Evolution, Cambridge: Cambridge University Press, 1984, pp. 129–151.
[4][5]"Artificial Intelligence Index Report 2024," https://aiindex.stanford.edu/report/.
[6]烏爾里希·森德勒等：《工業(yè)4.0：即將來襲的第四次工業(yè)革命》，鄧敏、李現(xiàn)民譯，北京：機械工業(yè)出版社，2014年，第68頁。
[7]沈國麟：《大數(shù)據(jù)時代的數(shù)據(jù)主權(quán)和國家數(shù)據(jù)戰(zhàn)略》，《南京社會科學》，2014年第6期。
[8]《國家網(wǎng)信辦：滴滴存在嚴重影響國家安全的數(shù)據(jù)處理活動》，2022年07月21日，http://finance.people.com.cn/n1/2022/0721/c1004-32482059.html。
[9]高奇琦：《智能革命與國家治理現(xiàn)代化初探》，《中國社會科學》，2020年第7期。
[10]高奇琦：《全球善智與全球合智：人工智能全球治理的未來》，《世界經(jīng)濟與政治》，2019年第7期。
[11]K. Crawford; R. Calo, "There is a Blind Spot in AI Research," Nature, 2016, 538(7625).
[12]趙敏、王金秋：《新技術(shù)革命的政治經(jīng)濟學研究》，《政治經(jīng)濟學評論》，2020年第5期。
[13]T. Eloundou et al., "GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models," 22 August 2023, https://arxiv.org/pdf/2303.10130.pdf.
[14]T. H. Davenport, The AI Advantage: How to Put the Artificial Intelligence Revolution to Work, Cambridge: The MIT Press, 2018, p. 133.
[15]J. Kaplan, Artificial Intelligence: What Everyone Needs to Know, New York: Oxford University Press, 2016, p. 129.
[16]劉永謀：《技術(shù)治理、反治理與再治理：以智能治理為例》，《云南社會科學》，2019年第2期。
[17]吳彤：《關(guān)于人工智能發(fā)展與治理的若干哲學思考》，《人民論壇·學術(shù)前沿》，2018年第5期。
[18]姜李丹、薛瀾：《我國新一代人工智能治理的時代挑戰(zhàn)與范式變革》，《公共管理學報》，2022年2期。
[19]段偉文：《構(gòu)建穩(wěn)健敏捷的人工智能倫理與治理框架》，《科普研究》，2020年第3期。
[20]薛瀾、趙靜：《走向敏捷治理：新興產(chǎn)業(yè)發(fā)展與監(jiān)管模式探究》，《中國行政管理》，2019年第8期。
責 編∕桂 琰 美 編∕周群英
Good Governance of Artificial Intelligence from the Perspective of Emerging Technologies
—Development Status, Risks & Challenges and Governance Ideas
Liang Zheng
Abstract: Artificial intelligence is triggering an era of change far beyond the technical field, and the generative artificial intelligence represented by large models is shaping the main technological path in the future. Although China has become an artificial intelligence power, it still needs improvement in core theoretical research, basic infrastructure construction, key hardware-software and ecosystem, and there is still a long way to go for the country to become a strong artificial intelligence power. In this case, the key is how to achieve good governance of artificial intelligence while ensuring its strong, orderly and beneficial development. Therefore, balancing the relationship between innovation and governance, practicing the ethical idea of value alignment, learning from the best practice in international governance of artificial intelligence, and exploring a new governance approach with open ideas, diverse subjects, hierarchical objects, and flexible tools have become the core proposition of exploring the path of good governance of artificial intelligence.
Keywords: generative artificial intelligence, emerging technology, value alignment, agile governance
