“人工智能+”：熱潮下的冷思考與治理破局

薛瀾

文科資深教授，現(xiàn)任人工智能國際治理研究院院長、蘇世民書院院長，兼任中國科技政策研究中心主任、全球可持續(xù)發(fā)展研究院聯(lián)席院長等職務(wù)；同時還兼任國務(wù)院參事、國務(wù)院學(xué)位委員會公共管理學(xué)學(xué)科評議組聯(lián)合召集人、國家新一代人工智能治理專業(yè)委員會主任、聯(lián)合國可持續(xù)發(fā)展解決方案網(wǎng)絡(luò)理事會成員、聯(lián)合國公共行政專家委員會委員及聯(lián)合國互聯(lián)網(wǎng)治理論壇首屆領(lǐng)導(dǎo)小組成員等。

本文核心觀點：

1.中國開展“人工智能 + ”行動的核心目標是推動人工智能向善，促進經(jīng)濟社會發(fā)展，最終造福于人民，而非大國競爭。

2.與歐美國家（特別是美國）側(cè)重于前沿模型競爭和“大國對決”的敘事不同，中國的路徑更注重人工智能技術(shù)在經(jīng)濟社會各領(lǐng)域的廣泛應(yīng)用和安全落地，以支撐高質(zhì)量發(fā)展。其未來方向是人機協(xié)同，而非簡單的人工替代。

3.面對快速迭代的技術(shù)，治理須跟上技術(shù)發(fā)展，應(yīng)采取“邊發(fā)展、邊治理”的“敏捷治理”模式，在實踐中不斷完善。

4.中國在人工智能全球治理中發(fā)揮積極引領(lǐng)作用，倡導(dǎo)開放、共享與普惠發(fā)展，致力于縮小“數(shù)字鴻溝”，期待建立以聯(lián)合國為核心的全球治理框架。

5.充分考慮立法的嚴肅性與審慎穩(wěn)妥的必要性，平衡好發(fā)展與安全。

機器人在生產(chǎn)線上精準作業(yè)、無人駕駛汽車穿梭于城市街道、智能算法推送心儀的商品和服務(wù)人工智能正以前所未有的發(fā)展速度重塑著我們的世界。‘ ”的未來，正從科幻小說的情節(jié)撞進現(xiàn)實。

隨著AI技術(shù)加速迭代演進，各國紛紛把AI作為推動經(jīng)濟社會發(fā)展的核心驅(qū)動力和科技競爭的戰(zhàn)略焦點。近年來，中國大力推進“人工智能 +^′′ 行動，2017年國務(wù)院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》，為我國人工智能發(fā)展指明了方向。2024年，“人工智能 +^; ，首次被寫人《政府工作報告》，標志著我國人工智能戰(zhàn)略從技術(shù)導(dǎo)向邁向場景導(dǎo)向的新階段。2025年7月31日召開的國務(wù)院常務(wù)會議審議通過《關(guān)于深入實施“人工智能 +^′′ 行動的意見》，強調(diào)深人實施“人工智能 +^′′ 行動，大力推進人工智能規(guī)模化商業(yè)化應(yīng)用。

然而，人工智能的廣泛應(yīng)用也帶來諸如數(shù)據(jù)安全、倫理合規(guī)、算法偏見等治理挑戰(zhàn)，如何平衡技術(shù)創(chuàng)新與風險防控？如何構(gòu)建健全的治理體系以推進人工智能健康、可持續(xù)發(fā)展？這些問題正日益成為政策界、產(chǎn)業(yè)界和學(xué)術(shù)界共同關(guān)注的焦點。圍繞“人工智能 + ”行動與人工智能治理的關(guān)鍵議題，《新經(jīng)濟導(dǎo)刊》特邀請?zhí)K世民書院院長、人工智能國際治理研究院院長薛瀾展開深入探討。

“人工智能+”旨在造福民生，人機協(xié)同是未來方向

新經(jīng)濟導(dǎo)刊：自2024年《政府工作報告》提出開展“人工智能 + ”行動以來，人工智能高效賦能千行百業(yè)，形成了一批具有示范效應(yīng)的重大應(yīng)用場景。日前，由您擔任總主編、人工智能國際治理研究院牽頭組織編寫、中國發(fā)展出版社出版的“人工智能重大應(yīng)用場景叢書”在2025世界人工智能大會“人工智能的全球發(fā)展與治理：共贏與共治之路”論壇上發(fā)布，在國家深入推進“人工智能 + ”行動背景下，這套叢書的出版恰逢其時。請您向讀者介紹一下這套叢書的出版背景、目的及亮點內(nèi)容。

薛瀾：當前人工智能已進入大規(guī)模應(yīng)用階段，但在實際落地過程中，無論是對于開發(fā)者還是用戶來說，仍面臨諸多挑戰(zhàn)，尤其是在人工智能相關(guān)法規(guī)和治理機制方面仍有待完善。為此，人工智能國際治理研究院組織研究團隊，選取了多個重要應(yīng)用場景開展深入調(diào)研，并在此基礎(chǔ)上完成了本套叢書的編寫。

本叢書的出版與我國深入實施“人工智能 + ”行動計劃高度契合，其核心目標在于連接人工智能企業(yè)、用戶與治理機構(gòu)，共同識別重大應(yīng)用場景，系統(tǒng)分析其在落地過程中所面臨的挑戰(zhàn)，并通過政策支持與多方協(xié)作，加速推動人工智能技術(shù)的廣泛應(yīng)用與推廣。

本叢書的內(nèi)容涵蓋多個行業(yè)領(lǐng)域，力求從實際應(yīng)用出發(fā)，結(jié)合豐富的典型案例，幫助讀者全面理解人工智能技術(shù)在不同場景中的價值與意義，深人認識人工智能的巨大潛力，推動其在具體實際場景中的應(yīng)用；同時，叢書為人工智能企業(yè)和開發(fā)者在商業(yè)應(yīng)用等方面提供了重要參考，有助于促進企業(yè)與用戶之間的溝通與協(xié)作。此外，叢書還可為相關(guān)機構(gòu)在政策與法規(guī)制定方面提供依據(jù)，從而支撐人工智能更廣泛、更安全地落地應(yīng)用。我們相信，通過各方共同努力，人工智能將在推動社會經(jīng)濟發(fā)展、提升公共服務(wù)水平、優(yōu)化產(chǎn)業(yè)結(jié)構(gòu)等方面發(fā)揮更重要的作用。同時，叢書也為構(gòu)建開放、協(xié)同、安全的人工智能生態(tài)體系貢獻一份力量。希望讀者能夠從中獲得啟發(fā)，進一步推動人工智能的創(chuàng)新發(fā)展與實踐應(yīng)用。

薛瀾正在接受《新經(jīng)濟導(dǎo)刊》雜志采訪。圖/楊智童攝

新經(jīng)濟導(dǎo)刊：從戰(zhàn)略層面講，國家推動“人工智能 + ”行動的核心目標是什么？與歐美等國家的人工智能發(fā)展戰(zhàn)略相比，中國的路徑有何特點？

薛瀾：我國發(fā)展人工智能最根本的目標是推動人工智能向善，促進經(jīng)濟社會發(fā)展，最終造福于人民。這一點與歐美國家尤其是美國所主導(dǎo)的發(fā)展路徑存在根本差異。當前，一些歐美國家媒體在人工智能國際發(fā)展敘事方面，往往將其描繪成中美之間的一場“巔峰對決”，認為這是大國在前沿領(lǐng)域的競爭。當然，中國也有一批企業(yè)在不斷研發(fā)先進模型，但我們發(fā)展與應(yīng)用人工智能的核心宗旨，始終是造福人類、服務(wù)社會。因此，我們更積極地推動人工智能在經(jīng)濟社會各領(lǐng)域的廣泛應(yīng)用，為我國的高質(zhì)量發(fā)展提供支撐與保障。而最前沿領(lǐng)域的模型競爭并不是我們發(fā)展人工智能的核心自標，我國更注重推動人工智能安全廣泛地應(yīng)用以實現(xiàn)造福民生的目的。

新經(jīng)濟導(dǎo)刊：當前，“人工智能 + ”行動正在全國范圍內(nèi)如火如茶地推進。在您看來，哪些行業(yè)或重點領(lǐng)域更具發(fā)展?jié)摿Γ客瑫r，您認為在推進過程中還存在哪些政策、市場等層面的挑戰(zhàn)？

薛瀾：人工智能的應(yīng)用范圍非常廣泛，正因其作為一項通用型技術(shù)，能夠滲透到眾多場景中，而人工智能技術(shù)的不斷進步也將深刻影響社會的方方面面。以醫(yī)療領(lǐng)域為例，人工智能在醫(yī)療技術(shù)中的應(yīng)用前景十分廣闊，正成為醫(yī)療行業(yè)的關(guān)鍵賦能者，其價值不僅體現(xiàn)在提升醫(yī)療質(zhì)量和效率上，更致力于讓優(yōu)質(zhì)的醫(yī)療服務(wù)變得更具普惠性和可持續(xù)性。未來，隨著技術(shù)與臨床實踐的深度融合，AI有望進一步重構(gòu)人類健康的守護體系。例如，人工智能賦能影像診斷已經(jīng)較為普遍，此外還有許多企業(yè)正在積極開發(fā)各類診斷模型。如我們調(diào)研過的一家專注于大模型的人工智能公司一百川智能，其聯(lián)手北京兒童醫(yī)院、小兒方健康科技（北京）有限公司推出的一款兒科診斷大模型—“福棠·百川”是全球首個兒科診斷大模型。兒科診斷本身難度較大，幼兒往往無法清晰表達不適，更多依賴醫(yī)生的經(jīng)驗進行判斷。該模型覆蓋了兒童常見病與疑難病癥的立體化知識體系，具備較強的兒科臨床推理能力，并首創(chuàng)兒科“循證模式”。在兒童疑難病癥的診斷方面，人工智能在某些測試中的表現(xiàn)甚至已經(jīng)超過了有經(jīng)驗的醫(yī)生。由此可見，在醫(yī)療影像和輔助診斷等領(lǐng)域，人工智能具備巨大的發(fā)展?jié)摿Α?/p>

當然，人工智能在賦能醫(yī)療領(lǐng)域過程中也面臨著一些挑戰(zhàn)，比如目前仍無法完全保證模型不會產(chǎn)生“幻覺”或誤判。因此，即便模型平均表現(xiàn)優(yōu)于人類，但我們依然需要人類醫(yī)生的最終審核和確認，這意味著人工智能系統(tǒng)必須與醫(yī)生協(xié)同工作，而不是替代醫(yī)生。同樣的情況也適用于處方權(quán)問題：人工智能可以提供治療方案或藥物使用的建議，但最終處方必須由醫(yī)生簽字確認。因此，人機協(xié)同將是未來發(fā)展的核心方向。

AI治理如何跟上技術(shù)狂奔？“敏捷治理”是破題密碼

新經(jīng)濟導(dǎo)刊：隨著人工智能規(guī)模化商用進程的加速推進，人工智能的科學(xué)治理正日益成為全球各方關(guān)注的重要議題。當前，國際社會在AI治理方面呈現(xiàn)出哪些主要趨勢？面臨哪些風險與挑戰(zhàn)？

薛瀾：從宏觀角度來看，自人工智能國際治理研究院正式成立之前，我們就已開展相關(guān)研究。縱觀近幾年的發(fā)展，一個非常明顯的趨勢是，全球各國和相關(guān)領(lǐng)域的專家都開始高度關(guān)注人工智能治理問題，全球人工智能治理也在不斷推進中。

然而，這一進程并非一帆風順。在近期召開的2025年世界人工智能大會（WAIC）期間，我與國際專家進行了廣泛交流，大家普遍認為2023-2024年堪稱人工智能治理議題的一個“高潮期”，全球范圍內(nèi)，人工智能治理主題的國際會議廣泛召開，相關(guān)治理規(guī)則和機制的探討與實踐正在持續(xù)深化。但近期也出現(xiàn)一些回落跡象，部分國家在治理態(tài)度上有所反復(fù)。這與人工智能技術(shù)本身的發(fā)展歷程相似，必然伴隨起伏。但總體而言，國際社會對AI潛在風險的認識正不斷深化，相應(yīng)治理措施也在持續(xù)完善。

2025世界機器人大會上展示的機器人。圖/賈雅楠攝

國際上的專家把發(fā)展人工智能帶來的風險概括分為三大類。第一類是“惡意使用”或“濫用”帶來的風險，即有意利用人工智能從事加害行為，例如，極端分子可能借助AI開發(fā)生化武器，造成大規(guī)模傷害；濫用深度偽造技術(shù)或從事違法行為。

第二類風險源于技術(shù)本身的缺陷。比較典型的情況就是所謂“幻覺”的產(chǎn)生，即AI模型可能會生成不實或誤導(dǎo)性內(nèi)容，甚至是完全虛構(gòu)的信息內(nèi)容。而其中最令人擔憂的是技術(shù)失控風險一人工智能若脫離人類控制、形成自主意識和行為，將構(gòu)成根本性威脅，這也是國際專家普遍關(guān)注的焦點。

第三類風險涉及AI大規(guī)模應(yīng)用對社會結(jié)構(gòu)的長期影響，包括對就業(yè)、知識產(chǎn)權(quán)、社會認知等方面的影響。當前最受關(guān)注的是就業(yè)問題，AI未來可能替代體力勞動，還可能影響腦力勞動和高技能白領(lǐng)崗位，其潛在影響廣泛且深刻，對社會發(fā)展提出了嚴峻挑戰(zhàn)，亟須構(gòu)建系統(tǒng)性的應(yīng)對策略。

總體來看，人工智能治理仍處于動態(tài)發(fā)展、多方博弈的階段，但認知在深化，機制也在逐漸健全。

新經(jīng)濟導(dǎo)刊：隨著人工智能技術(shù)的快速迭代演進，其帶來的風險和挑戰(zhàn)也日益增多。如何構(gòu)建能夠適應(yīng)AI技術(shù)快速演進的治理框架？是否需要動態(tài)調(diào)整監(jiān)管政策？您有哪些建議？

薛瀾：動態(tài)調(diào)整監(jiān)管無疑是必要的，但當前面臨的最大挑戰(zhàn)在于：技術(shù)發(fā)展速度很快，而治理體系的調(diào)整、新法律法規(guī)的出臺往往相對滯后。我們很難控制技術(shù)的快速發(fā)展，等待治理規(guī)則完善之后再繼續(xù)推進，這顯然是不現(xiàn)實的。因此，我們必須采取“敏捷治理”的方式，努力跟上技術(shù)發(fā)展的步伐，“邊發(fā)展、邊治理”，在實踐中不斷迭代和完善治理體系。

具體來說，我提出以下幾個方面的建議。首先，要轉(zhuǎn)變傳統(tǒng)治理觀念。過去我們傾向于出臺一套全面的、覆蓋所有方面的法規(guī)，但在AI領(lǐng)域，這種做法很容易錯失治理時機。更有效的方式是：針對新出現(xiàn)的風險點，及時制定相應(yīng)的治理措施或辦法。關(guān)鍵是要先建立治理框架，再從實踐中持續(xù)優(yōu)化和調(diào)整。

其次，應(yīng)重新定位監(jiān)管者與被監(jiān)管者的關(guān)系。以往，監(jiān)管部門與企業(yè)之間可能存在一種“貓鼠游戲”：企業(yè)尋找監(jiān)管漏洞，監(jiān)管部門專注于查處違法行為。然而在AI治理領(lǐng)域中，很多風險不僅政府不了解，企業(yè)自身也可能尚未意識到。因此，政府和企業(yè)應(yīng)站在同一戰(zhàn)線，加強溝通協(xié)作，共同識別和應(yīng)對AI可能帶來的各類風險，探索更適宜的監(jiān)管方式。

最后，要推動監(jiān)管工具多樣化。政府應(yīng)根據(jù)企業(yè)行為采取差異化監(jiān)管措施，對出現(xiàn)輕微風險或非故意違規(guī)的企業(yè)，可以通過提醒、警告等方式引導(dǎo)其改正；對屢教不改或造成嚴重后果的，則依法嚴厲處罰。監(jiān)管的目標不是扼殺創(chuàng)新，而是推動人工智能在合規(guī)前提下更好地發(fā)展，應(yīng)采取輕重手段結(jié)合的方式，既保持約束力，也給予企業(yè)成長的空間。

中國積極引領(lǐng)全球AI治理，國內(nèi)立法需平衡好發(fā)展與安全

新經(jīng)濟導(dǎo)刊：未來5年，全球AI治理可能呈現(xiàn)怎樣的格局？中國應(yīng)如何提前布局？

薛瀾：在全球人工智能治理方面，我們期待建立起一個有效的全球治理體系。目前，聯(lián)合國已在此方面做出積極努力，包括計劃成立一個全球性專家小組，旨在及時研判人工智能發(fā)展過程中出現(xiàn)的各類風險。同時，也致力于構(gòu)建一套安全檢測與評估體系，確立相關(guān)標準并形成評測機制。該體系要求各國前沿大模型必須通過安全測試，才能進人實際部署階段，以確保人工智能在大規(guī)模應(yīng)用中的安全性與可信性。

與此同時，推動人工智能的普惠發(fā)展也至關(guān)重要。中國在國際社會中積極倡導(dǎo)并推動人工智能的開放、共享與普惠發(fā)展，致力于縮小“數(shù)字鴻溝”，中國在推進全球人工智能治理方面做出了多方面努力。一方面，中國在聯(lián)合國框架下提出多項倡議，例如，2024年7月第78屆聯(lián)合國大會協(xié)商一致通過中國提出的加強人工智能能力建設(shè)國際合作決議，140多國參加決議聯(lián)署；另一方面，中國已舉辦多期國際交流研討會，幫助發(fā)展中國家的政府官員和技術(shù)人員提升人工智能治理與運用能力。此外，國務(wù)院總理李強出席2025世界人工智能大會暨人工智能全球治理高級別會議開幕式并致辭時宣布，中國政府倡議成立世界人工智能合作組織。強調(diào)要堅持統(tǒng)籌發(fā)展和安全，加強各國對接協(xié)調(diào)，推動早日形成具有廣泛共識的人工智能全球治理框架和規(guī)則。中國在人工智能治理方面提出了眾多務(wù)實倡議，并持續(xù)付諸行動。

未來五年，全球人工智能治理可能逐步形成以聯(lián)合國為核心的全球治理框架，中國在推動人工智能國際合作、能力建設(shè)和普惠發(fā)展等方面將發(fā)揮更加積極的作用。

新經(jīng)濟導(dǎo)刊：隨著加快人工智能領(lǐng)域立法呼聲漸高，全國人大常委會2025年度立法工作計劃將人工智能健康發(fā)展等方面的立法項目列為預(yù)備審議項目。如果請您為將來的人工智能立法提幾點建議，您最想寫進哪些話？

薛瀾：人工智能立法確實是一個受到各方高度關(guān)注的議題。首先，關(guān)于中國是否有必要盡快推進人工智能立法的問題，過去幾年已經(jīng)持續(xù)引發(fā)討論，許多法律領(lǐng)域的專家也為此進行了大量的前期準備工作。例如，中國社科院、中國政法大學(xué)等機構(gòu)都分別提出了各自的專家建議稿，這表明我國法學(xué)界已經(jīng)為此奠定了良好的基礎(chǔ)。然而，正如前面提到的，人工智能技術(shù)發(fā)展極為迅速，而立法本身通常需要一個充分討論和謹慎推進的過程，以全面考量各方利益與技術(shù)現(xiàn)實。因此，如何在“盡快立法”與“審慎穩(wěn)妥”之間取得平衡，仍需社會各方進一步凝聚共識。

在推動人工智能專項立法方面，以下幾個方面值得重點考慮。一是立法定位問題。我們究竟要制定一部以促進人工智能發(fā)展為導(dǎo)向的“促進法”，還是以風險監(jiān)管為核心的“監(jiān)管法”？例如，歐盟的《人工智能法案》就明顯側(cè)重于風險規(guī)制。而我國在立法中也需要思考如何既有效防范風險，又為技術(shù)創(chuàng)新留有空間，實現(xiàn)創(chuàng)新發(fā)展與安全之間的平衡。二是監(jiān)管框架與風險分級機制。目前，歐盟《人工智能法案》雖然對風險進行了分類，但劃分仍相對宏觀，具體實施尚需配套細化的規(guī)則。若立法條款過于注重原則性，可能會影響其可操作性與應(yīng)用效果。因此，立法路徑選擇至關(guān)重要，即是針對特定應(yīng)用場景出臺專門的法規(guī)，還是制定一部全面的綜合的人工智能基本法，這需要結(jié)合實際情況審慎決策。三是與現(xiàn)有法律體系的銜接問題。實際上，盡管我國尚未出臺專門的人工智能法，但已經(jīng)初步建立起一套覆蓋多層面的治理體系。例如，《個人信息保護法》《數(shù)據(jù)安全法》《網(wǎng)絡(luò)安全法》等基礎(chǔ)性法律已發(fā)揮重要作用，而針對生成式人工智能等特定領(lǐng)域也出臺了相應(yīng)的管理規(guī)定。未來任何新立法都應(yīng)充分考慮與現(xiàn)行法律法規(guī)的協(xié)調(diào)性，避免規(guī)則沖突，確保制度體系的整體性和一致性。綜上所述，人工智能立法是一項系統(tǒng)工程，仍需在立法定位、監(jiān)管設(shè)計和體系融合等方面開展深人研究和廣泛討論。