發(fā)展人工智能應(yīng)避免“近視癥”

【摘要】順應(yīng)形勢(shì)把握住人工智能和第四次工業(yè)革命帶來的重大歷史機(jī)遇，能夠?yàn)檗D(zhuǎn)型期的中國(guó)經(jīng)濟(jì)社會(huì)發(fā)展提供新動(dòng)能。人工智能時(shí)代機(jī)遇與挑戰(zhàn)同在，應(yīng)當(dāng)加強(qiáng)人工智能技術(shù)發(fā)展研判和預(yù)測(cè)，增強(qiáng)風(fēng)險(xiǎn)意識(shí)，更好應(yīng)對(duì)人工智能技術(shù)可能導(dǎo)致的失控風(fēng)險(xiǎn)、倫理挑戰(zhàn)、就業(yè)影響，促進(jìn)科技治理能力現(xiàn)代化。處理好“善治”與“善智”的關(guān)系，走向技術(shù)與社會(huì)的“良性互構(gòu)”。

【關(guān)鍵詞】人工智能 倫理規(guī)約 社會(huì)治理 【中圖分類號(hào)】TP24 【文獻(xiàn)標(biāo)識(shí)碼】A

人工智能時(shí)代：機(jī)遇與挑戰(zhàn)同在

人工智能是引領(lǐng)未來的戰(zhàn)略性技術(shù)，從國(guó)際發(fā)展態(tài)勢(shì)來看，世界各主要國(guó)家均把人工智能作為重要發(fā)展戰(zhàn)略，力圖在新一輪國(guó)際競(jìng)爭(zhēng)中把握住主導(dǎo)權(quán)和話語權(quán)。2017年7月，國(guó)務(wù)院印發(fā)了《新一代人工智能發(fā)展規(guī)劃》進(jìn)一步明確了中國(guó)新一代人工智能的發(fā)展目標(biāo)，規(guī)劃指出：2020年人工智能產(chǎn)業(yè)成為新的重要經(jīng)濟(jì)增長(zhǎng)點(diǎn)；2025年中國(guó)的智能社會(huì)建設(shè)取得積極進(jìn)展，2030年中國(guó)成為世界上主要的人工智能創(chuàng)新中心。

第四次工業(yè)革命及人工智能時(shí)代的到來正在見證生產(chǎn)組織方式的巨大變革，以規(guī)?；ㄖ茷樘卣鞯纳a(chǎn)組織方式、平臺(tái)經(jīng)濟(jì)以及企業(yè)的網(wǎng)絡(luò)化、扁平化正在成為新的趨勢(shì)。新產(chǎn)業(yè)形態(tài)出現(xiàn)將為傳統(tǒng)產(chǎn)業(yè)提供轉(zhuǎn)型的契機(jī)，經(jīng)濟(jì)發(fā)展的新動(dòng)能正在被持續(xù)發(fā)掘，利用人工智能技術(shù)提升和改造傳統(tǒng)產(chǎn)業(yè)正在匯聚經(jīng)濟(jì)社會(huì)轉(zhuǎn)型的新動(dòng)力。順應(yīng)形勢(shì)把握住人工智能和第四次工業(yè)革命帶來的重大歷史機(jī)遇，可以帶動(dòng)國(guó)家競(jìng)爭(zhēng)力的整體躍升，進(jìn)而為處于轉(zhuǎn)型期的中國(guó)經(jīng)濟(jì)社會(huì)發(fā)展提供強(qiáng)大動(dòng)能。

推進(jìn)和發(fā)展人工智能技術(shù)已經(jīng)成為國(guó)際社會(huì)共識(shí)，然而人工智能在提供社會(huì)發(fā)展動(dòng)力和平臺(tái)的同時(shí)，也對(duì)經(jīng)濟(jì)、社會(huì)、就業(yè)、法律、倫理、安全諸領(lǐng)域提出了新挑戰(zhàn)。人工智能時(shí)代的技術(shù)以指數(shù)而非線性速度發(fā)展，在既有的發(fā)展水平差距面前，經(jīng)濟(jì)發(fā)展水平較高、技術(shù)較為先進(jìn)的國(guó)家與較為落后的國(guó)家之間的差距將進(jìn)一步增大，全球治理秩序亟待重組。個(gè)體網(wǎng)絡(luò)身份和社會(huì)身份的沖突在挑戰(zhàn)傳統(tǒng)社會(huì)規(guī)范，網(wǎng)絡(luò)空間的興起和人工智能發(fā)展所引發(fā)的大量新倫理問題亟待形成共識(shí)。

從技術(shù)演化歷史來看，很多關(guān)鍵性的技術(shù)發(fā)展都要經(jīng)歷從0到1，再?gòu)?到100的過程。2016年3月阿法狗（AlphaGo）在圍棋領(lǐng)域首次戰(zhàn)勝人類世界冠軍深刻沖擊著人類對(duì)自身智力極限的信心；而2017年10月《自然》雜志發(fā)文報(bào)道的新一代阿法元（AlphaGo Zero）已經(jīng)具有了遠(yuǎn)高于阿法狗的棋藝，尤為重要的是其棋技學(xué)習(xí)不需要以歷史棋譜為指引，也不需要以人類先驗(yàn)知識(shí)為指導(dǎo)，而是完全靠其自身的強(qiáng)化學(xué)習(xí)獲得技能的提升，以至于專家發(fā)出“人工智能從0到1”的驚呼。

如果說阿法狗和阿法元在圍棋領(lǐng)域的強(qiáng)勢(shì)勝出一度導(dǎo)致了公眾焦慮、引起人類對(duì)自身智力極限的反思及對(duì)“人的本質(zhì)是什么”的深層追問?；艚饎t警告稱：發(fā)明人工智能AI可能會(huì)成為人類歷史上最大的災(zāi)難，如果管理不善，會(huì)思考的機(jī)器可能會(huì)為文明劃上句號(hào)。

人工智能技術(shù)發(fā)展：構(gòu)建“好的人工智能社會(huì)”是全人類面臨的嚴(yán)峻挑戰(zhàn)

人們期待通過技術(shù)“保護(hù)我們以擺脫現(xiàn)實(shí)生活的悲慘險(xiǎn)境”時(shí)，也一直在關(guān)注技術(shù)發(fā)展可能帶給人類的風(fēng)險(xiǎn)。人類社會(huì)從傳統(tǒng)社會(huì)邁向現(xiàn)代社會(huì)是一個(gè)質(zhì)的飛躍，自工業(yè)革命伊始，技術(shù)一直被視作這一宏大社會(huì)進(jìn)程的重要變革性力量，但從倫理學(xué)角度看，技術(shù)也一直被視作一種憂患之源。

人類發(fā)展技術(shù)的歷史也一直糾結(jié)在“技術(shù)控”與“技術(shù)失控”的二元邏輯主線之中。人們?cè)谙硎芗夹g(shù)便利的同時(shí)，有可能失去了對(duì)復(fù)雜技術(shù)系統(tǒng)的控制，進(jìn)而對(duì)人類生存帶來災(zāi)難?！凹夹g(shù)的反向控制與適應(yīng)”的主題也一直存在于各個(gè)文化體系和知識(shí)形式之中。從傳統(tǒng)社會(huì)思想家對(duì)“技術(shù)危險(xiǎn)性”的警示到工業(yè)革命之初社會(huì)科學(xué)家對(duì)“啟蒙黑暗面”的關(guān)切；從近現(xiàn)代戲劇與文學(xué)作品（狄更斯、托爾斯泰、卡夫卡等）對(duì)“技術(shù)兩面性”的大眾化詮釋和傳播，到技術(shù)研究領(lǐng)域?qū)?“技術(shù)敵托邦”的探索，再到近代社會(huì)科學(xué)的政策分析，所有關(guān)切都指向技術(shù)所帶來的意想不到的社會(huì)結(jié)果，“技術(shù)的潛在功能與社會(huì)功能紊亂”問題一直是人類發(fā)展的夢(mèng)魘。而人工智能可能自然演化具備自覺意識(shí)并對(duì)人類發(fā)動(dòng)攻擊則是技術(shù)憂慮在當(dāng)代公眾意識(shí)中的折射。

人們?cè)欢日J(rèn)為，人類對(duì)自己制造的東西最為了解，并能達(dá)到對(duì)“制造物”的牢固控制，然而科技發(fā)展的速度往往超乎人類想象。起初，機(jī)器人只是作為一種人類生活工具出現(xiàn)在科幻小說中的。20世紀(jì)中期，當(dāng)艾薩克·阿西莫夫出版《我，機(jī)器人》的時(shí)候，機(jī)器人世界還是想象中的世界，在科幻作家最初設(shè)想中，機(jī)器人以照顧人類為己任。然而隨著科學(xué)技術(shù)的進(jìn)步，人們開始對(duì)機(jī)器人技術(shù)是否會(huì)超出人類控制范圍產(chǎn)生了懷疑。當(dāng)今，人類生活中已經(jīng)充斥著大量機(jī)器人，并且越來越智能化，科學(xué)的進(jìn)步總是超乎人們預(yù)測(cè)。于是，人們開始設(shè)想高度發(fā)展的人工智能未來，當(dāng)智能機(jī)器人充斥于我們生活那一天，是否會(huì)不再滿足于為人類服務(wù)，而像人類宣戰(zhàn)，并統(tǒng)治世界？機(jī)器與人的關(guān)系是否有可能會(huì)從“人”與“物”的關(guān)系轉(zhuǎn)化成“人”與“人”的關(guān)系呢？

當(dāng)前人工智能已經(jīng)從科學(xué)實(shí)驗(yàn)階段進(jìn)入商業(yè)應(yīng)用階段，智能機(jī)器執(zhí)行任務(wù)的復(fù)雜度正在以指數(shù)速度增長(zhǎng)，人工智能發(fā)展正在進(jìn)入爆發(fā)前的臨界點(diǎn)；人工智能進(jìn)化中的遞歸式自我改善有可能會(huì)導(dǎo)致最終的“智能爆炸”。人工智能飛速進(jìn)步所展示的人類創(chuàng)造出一種全新生命形式的可能性，不僅將標(biāo)志著進(jìn)化的突破，而且也可能給人類物種的生存構(gòu)成潛在威脅。人工智能技術(shù)失控可能源自作為技術(shù)創(chuàng)造者的工程師的疏忽大意和無意識(shí)，也可能源于機(jī)器人的某個(gè)深度學(xué)習(xí)瞬間的豁然領(lǐng)悟。在電影《西部世界》中智能機(jī)器人開始不再聽命于工程師們，開始傷害和自我傷害，并最終擺脫了人類的控制，開始反抗屠殺人類。

構(gòu)建“好的人工智能社會(huì)（Good AI Society）”是全人類面臨的嚴(yán)峻挑戰(zhàn)。隨著人工智能在生產(chǎn)活動(dòng)和社會(huì)活動(dòng)中的作用不再被忽略，人工智能甚至有可能讓人類失去智慧能動(dòng)者的唯一地位。傳統(tǒng)社會(huì)中僅僅針對(duì)人的產(chǎn)業(yè)制度和生產(chǎn)規(guī)則面臨重組的挑戰(zhàn)，以適應(yīng)非人行動(dòng)者參與的需要；“讓生活更美好”的人類愿景正面臨如何構(gòu)建“好的人工智能社會(huì)”的緊迫挑戰(zhàn)。endprint

“善治”與“善智”：發(fā)展“負(fù)責(zé)任”的人工智能，走向技術(shù)與社會(huì)的“良性互構(gòu)”

在技術(shù)發(fā)展中，人類應(yīng)當(dāng)避免“近視癥”的困擾，預(yù)先規(guī)劃、做好頂層設(shè)計(jì)，僅僅和過于強(qiáng)調(diào)技術(shù)發(fā)展的“獨(dú)特能力”，反而容易落入“能力陷阱”。人工智能時(shí)代不僅僅意味著一場(chǎng)技術(shù)與產(chǎn)業(yè)革命，對(duì)全球價(jià)值鏈結(jié)構(gòu)、全球產(chǎn)業(yè)競(jìng)爭(zhēng)格局產(chǎn)生深刻影響，更是一場(chǎng)社會(huì)、文化、價(jià)值與思維等領(lǐng)域的全景式整體性變革。技術(shù)發(fā)展應(yīng)當(dāng)服務(wù)于人本身。人工智能發(fā)展要堅(jiān)持“善治”與“善智”的統(tǒng)一，人工智能社會(huì)要走向“網(wǎng)絡(luò)空間”與“現(xiàn)實(shí)空間”的深度融合，應(yīng)當(dāng)盡快搭建起“行動(dòng)者網(wǎng)絡(luò)”和“利益相關(guān)者”就人工智能問題開展相關(guān)討論與合作的新平臺(tái)。歷史證明，人類面臨重大的技術(shù)風(fēng)險(xiǎn)往往有助于推動(dòng)形成社會(huì)共識(shí)；而好的社會(huì)共識(shí)則是歷史進(jìn)步的強(qiáng)大推動(dòng)力。

隨著新的機(jī)器自動(dòng)生產(chǎn)者的加入，會(huì)導(dǎo)致設(shè)計(jì)者、使用者、監(jiān)管者之間責(zé)任的模糊和缺失，精細(xì)分工下的“有組織不負(fù)責(zé)任”亟需得到解決。傳統(tǒng)技術(shù)倫理學(xué)是把倫理道德看作技術(shù)活動(dòng)之外的一種規(guī)范力量，對(duì)技術(shù)后果進(jìn)行倫理反思和批判；“后經(jīng)驗(yàn)轉(zhuǎn)向”時(shí)代的技術(shù)倫理規(guī)約強(qiáng)調(diào)規(guī)范性和建構(gòu)性的統(tǒng)一，主張“端口前移”：從負(fù)面?zhèn)惱砗蠊慕遗七M(jìn)到正面?zhèn)惱韮r(jià)值的“預(yù)防式置入”；在技術(shù)設(shè)計(jì)中“嵌入”道德要素，通過恰當(dāng)?shù)募夹g(shù)設(shè)計(jì)規(guī)范和制約“創(chuàng)造者”的行為，實(shí)現(xiàn)“把技術(shù)關(guān)進(jìn)倫理的籠子里”的目標(biāo)。

“技術(shù)與社會(huì)如何和諧共處的主題”一直是技術(shù)社會(huì)學(xué)的重要論域。作為跨越技術(shù)決定論與技術(shù)建構(gòu)論二元對(duì)立的整合性綱領(lǐng)，技術(shù)與社會(huì)的“相互建構(gòu)論”已經(jīng)成為當(dāng)代技術(shù)社會(huì)學(xué)研究的主導(dǎo)性范式。面對(duì)不確定性的世界嘗試提供確定性的理論框架是危險(xiǎn)的，面對(duì)人工時(shí)代的來臨，我們必須跨越學(xué)術(shù)、社會(huì)、政治、國(guó)家和行業(yè)的界限開展多方合作，讓所有個(gè)體、群體和區(qū)域都能參與到當(dāng)前的轉(zhuǎn)型過程，并從中受益。

大數(shù)據(jù)背景下的人工智能具有“強(qiáng)加性的巨大功能”，以人工智能為代表的第四次工業(yè)革命隱藏著巨大挑戰(zhàn)、蘊(yùn)含著空前機(jī)遇。經(jīng)濟(jì)長(zhǎng)期滯脹、就業(yè)壓力劇增、社會(huì)不平等發(fā)展、“好的人工智能社會(huì)”如何構(gòu)建等都在考驗(yàn)人類的協(xié)作、創(chuàng)新與智慧。中國(guó)是世界上“現(xiàn)實(shí)中最大的發(fā)展中國(guó)家”“世界上第二大經(jīng)濟(jì)體”“未來的最強(qiáng)大國(guó)家”，世界對(duì)第四次工業(yè)革命中的“中國(guó)角色”寄予厚望。在當(dāng)前階段，中國(guó)面臨經(jīng)濟(jì)發(fā)展新常態(tài)、供給側(cè)改革、傳統(tǒng)企業(yè)轉(zhuǎn)型、制造業(yè)升級(jí)等問題。不論是政府、企業(yè)還是個(gè)人，深入了解第四次工業(yè)革命的本質(zhì)內(nèi)涵和系統(tǒng)意義，全面評(píng)估人工智能帶給社會(huì)的機(jī)遇與挑戰(zhàn)必將是行穩(wěn)致遠(yuǎn)、角逐未來的重要砝碼。

（作者為清華大學(xué)社會(huì)科學(xué)學(xué)院黨委副書記、教授、博導(dǎo)，社會(huì)創(chuàng)新與風(fēng)險(xiǎn)管理中心主任）

【注：本文系國(guó)家社科基金“‘后經(jīng)驗(yàn)轉(zhuǎn)向時(shí)代的技術(shù)倫理規(guī)約機(jī)制及模式研究”（項(xiàng)目編號(hào)：13BZX024）的階段性成果】

【參考文獻(xiàn)】

①?gòu)埑蓫彛骸都夹g(shù)與現(xiàn)代性研究》，北京：中國(guó)社會(huì)科學(xué)出版社，2013年。

②[美]蘭登·溫納著，楊海燕譯：《自主性技術(shù)》，北京：北京大學(xué)出版社，2014年。

③[美]科德·戴維斯、道格·帕特森著，趙亮、王健譯：《大數(shù)據(jù)倫理：平衡風(fēng)險(xiǎn)與創(chuàng)新》，沈陽：東北大學(xué)出版社，2016年。

責(zé)編/宋睿宸 美編/楊玲玲endprint