人工智能應用的風險評估與應對策略

摘 要：大數據生態中多元應用社會生活的人工智能技術，在勾勒健康恒存的愿景框架、推進開源聚力的知識傳遞、驅動協作共享的產業變革以及實現精準遞歸的社會治理的同時，也逐漸暴露出算法決策內嵌安全隱患、責任分散置險族群永續、精英趨向引發異化強權以及智能迭代侵害人格權益等諸多風險。亟待確立人工智能應用有益族群永續的立法目標，遵循技術進步、經濟增長和公眾權益交互規律，平衡國家安全、社會穩定、企業發展與個人成長的矛盾沖突；構筑張弛有度的政府監管機制、頒行透明可信的數據核饋規范、完善有區別的責任制度、實施適應全新需求的層級稅制并加強人工智能領域的宣傳教育，加快提升中國的軟實力和巧實力，積極建設創新型科技強國。

關鍵詞：人工智能；多元應用；情報交流；風險表征；政策法律

中圖分類號：TP18；G203 文獻標識碼：A DOI：10.11968/tsyqb.1003-6938.2017122

Abstract In the worldwide surge of digitization， artificial intelligence is applied in all aspects of social life. On the one hand， they have contributed to improve the vision of good health， push forward the process of open source knowledge transmission， promote the collaborative sharing industrial transformation， and realize the precise and recursive management of society. On the other hand， there are a number of serious risks involved， such as hidden dangers in algorithm decision， the survival crisis of mankind caused by the diffusion of responsibility， alienated power raised by elite tendency and personal rights violated by iterative intelligence. The article proposes to establish the legislative purpose of obeying the interactive law among technical development， economic growth and social stability， equating the collision of national security， social stability， business development and personal growth， and helping ethnic sustainability through intelligent technology research and development. It's especially urgent to make regulations of the balanced government supervision， the transparent and credible data auditing and feedback system， the distinguishing accountability mechanism， the tax mechanism satisfying new needs. Above countermeasures would help to rapidly enhance China's soft power and smart power， and build an innovative technological power.

Key words artificial intelligence； multiple applications； information exchange； risk characterization； policy and law

信息紀元中迅速提升的大數據處理技術、開源互補的廣域算法、持續作用的香農定理和摩爾定律以及人類族群探索未知的執意和趨利避害的本性合力引領歷經兩輪大幅起落的人工智能技術作為數字生態關鍵要素再獲新生，不僅構筑共生、競爭、合作、依存的協同進化生態圈，亦在情報研判、決策支持與勞動替代中暴露出諸多風險。亟需采取一系列行之有效的應對策略，積極推動我國人工智能戰略的革命性發展。

1 人工智能多元應用的情狀畫像

萬物感知的爆發式增長推動人工智能技術迅速擺脫“計算機展示的一系列同質智能行為”[1]的負面標簽。智聯圖景中能效冪次遞增的海量數據集成訓練樣本嵌入神經網絡，大幅拓展人類思維界域并增強群體行動量能，助力整個社會迎來跨越式發展的起飛點。多元異質的嶄新智能應用全方位顛覆國家安全情報構成與交流過程，積極推進科學、個性、精準的嵌入式業態革命，逐步構筑良性循環的智能可再生能源系統，產生巨大經濟效益與社會影響力。相關應用的情狀畫像內蘊勾勒健康恒存的愿景框架、推進開源聚力的知識傳遞、驅動協作共享的產業革命以及實現精準遞歸的社會治理等點睛之處。

1.1 勾勒健康恒存的愿景框架

寒武紀大爆發的實力出現營建的全新生物對抗環境倒逼防衛競爭下多樣生物協同進化。信息互通場景中遍布全球的物理傳感載體實時監控巨量節點、互鏈數據資源池自動整理并優化組合海量信息、多層微化算法積極洞察復雜社會機能。諸多原力聚合躍遷長期停滯的智能機器識別能力與覆蓋空間，驅動人類族群加速勾勒增強自我健康的宏大愿景。endprint

人工智能多元應用積極抽取并持續更新生命體征情報圖譜，充分發揮循證醫學在理想狀態下高效挖掘與傳遞疾病規律的核心優勢，逐漸開辟超越資深專家水平的全維度個性化診療局面。疾病檢測領域，沃森智醫系統通過集中檢測海量圖片數據歸納糖尿病性視網膜病變和黃斑水腫等致盲因素的初發跡象[2]；疾病治療領域，初步智能化的達芬奇手術系統已經輔助完成300多萬例微創手術[3]。事實上，從“23與我”公司有重點的基因芯片篩查服務到核林公司嘗試通過神經假體引領的腦細胞通信協助認知缺陷群體，幾何乘數拓展的人工智能應用正在迅速拉升整個社會的泛在健康指數，拉開璀璨的永生序幕，“把生命稍縱即逝的光華寫進我們的遺傳密碼，從此成為永恒”[4]。從體內芯片情報介質、入腦起搏器、植入式溫度計等起步的旨在結合生物潛能和機器優勢塑造具有無窮適應力的半機械人的探索活動正在開拓可遺傳棲變下的恒存通路。

1.2 推進開源聚力的知識傳遞

隨著制造、發售和維護實時信息捕析設施的成本驟降、計算能力大幅提升和云端存儲巨量擴容，持續匯總的密集數據為打破縱橫割裂的信息孤島奠定了堅實基礎。大數據環境能夠規避非注意盲視①的不良影響、運用人工神經網絡架構演算識別和精準整合隱嵌用戶終端的海量知識原點而形成睿智洞見的多樣智能應用，積極打造人機融合的個性化知識傳承網絡，開拓重建巴別塔的綠色路徑②。如明略數據在全國落地了大量智能化的公安情報知識圖譜，準確高效地研判警務情報，切實維護公共安全。又如，如火如荼的人工智能圖書館建設實現了個性化推薦推送，積極強化館藏稀缺資源的延伸性，全面整合碎片信息并推進讀者互動，逐漸形成強大的知識流轉格局。

1.3 驅動協作共享的產業變革

從蒸汽機、計算機到人工智能的技術躍遷遞次趨零商品和服務的邊際成本，“催生出新的業態和商業模式，引發產業結構的深刻變革”[5]，日漸構筑數據驅動個性定制、人機協同生產服務和跨界共享產品價值的智能經濟形態，加快深化供給側結構性改革。眾多企業基于用戶活躍度、權威度與興趣方向等動態畫像進行集優銷售、信用預測與分類補償等等。如人工智能技術廣泛應用于發行、印刷、數字加工與閱讀等領域，通過機器協助寫作校對和智能增強交互體驗等重塑新聞出版行業；又如，綜合運用精準對象檢測與追蹤技術、生物特征自主感知技術以及意圖識別和交易技術等積極開發具有高識別力、高觸達力、高洞察力和高服務力的新零售實踐樣本，如Take Go、淘咖啡等無人值守智能門店。此外，自動駕駛技術嘗試嵌入共享交通工具等現象進一步激勵了“使用而不購買”的新興數字消費方式，節約巨量資源，促進環境改善。

1.4 實現精準遞歸的社會治理

《新一代人工智能發展規劃》（國發〔2017〕35號）中指出，“人工智能技術可準確感知、預測、預警基礎設施和社會安全運作的重大態勢。”整合大數據、云計算、深度學習與虛擬現實的集智平臺充分發揮社會治理最優解的隧道效應，以結合環境復合因子的智析節點為“瓦斯報警鳥”①，審慎聚化、分類、壓縮和處理萬物互聯中眾多傳感器生成數據，精準權衡按需數據搜索、標記和使用的方差偏離和計算負荷，批量保真并遞歸提升數質精度，近看助力提升國家安全防衛、完善災難響應方式、解決人口老齡化與教育平權化等難題，遠期助力人類族群擺脫資源環境束縛。如融合圖像識別、語音識別、自然語言處理等創新技術的自動情報生成系統有助于突破傳統情報收集和流轉的真實性、透明性與全面性障礙，儼然是顛覆性的公共安全保障力量。

2 人工智能多元應用的風險表征

隨著經濟奇點下爆發式擴張的人工智能應用持續展現出精準、高效、節能等優勢，各級公權機構、海量社會組織、眾多企事業單位、乃至廣大居民開始依賴復合影響變量的權重計算進行評估和決策，引發了侵害生命健康權、受教育權、就業權、平等權、婚姻權以及參與政治生活和社會生活的權利等災難性負面效應。

2.1 算法決策內嵌安全隱患

基于深度學習引擎在特定場景進行智能推理的全新范式改變了人類族群自由抉擇的傳統模式，看似科學客觀的算法決策內嵌著形形色色的故障因子。事實上，非定常性黑盒輸入導致智能應用的處理與輸出模塊處于不可知的自主狀態，過度依賴機器決策存在巨大的安全隱患。

（1）公權機構、企事業單位、其他社會組織乃至眾多居民在近因效應作用下盲目認為依據短時尺度的數據體驗就能做出準確的趨勢判斷，往往積極刪除缺乏新穎性和時效性的信息資源，導致運用人工智能技術分析環境變遷、國家安全、公共事務、市場趨勢以及特定個體狀況等情報信息時采獲的近期數據過于龐雜，與之對應的遠期數據寥寥無幾。缺乏完整的持續數據集聚致使宏大規模的過濾數據質量低下，相應的算法決策（尤其是少見且難以預測的極端事件中情境理解與準確抉擇）的真實性與可靠性大打折扣。

（2）參與人工智能運作中學習樣本揀選與標注的從業人員本身就可能存在種族歧視、性別偏見、宗教傾向或多元價值觀，甚至通過不經意輸入錯誤或惡意微調細微因素等欺騙人工神經網絡。由于人工智能技術的一次突破意味著無窮復制的替代物，滲透在算法框架中的固有偏見與歧視必會隨著規模化發展擴散到諸多應用領域。

（3）目前投入應用的弱人工智能尚處于技術發展初級階段，幾乎不可能進行逆向操作的算法運作不斷暴露出容易導致安全隱患的技術缺陷。如具有鎖定潛在不良行為強大能力的惡意購物智能篩查決策程序存在因錯誤跟蹤辨識用戶行為而限制或拒絕交易，進而影響營銷關系的情況；又如，眾多黑客不僅可以通過自主學習識別算法框架的偶發錯誤，甚至可以利用已有的受信代碼預測智能系統未來更新可能出現的零日漏洞②，進行最大程度的安全滲透。

2.2 責任分散置險族群永續

圖靈測試迄今的眾多人工智能技術水平量度方案相繼揭示智能應用難以突破莫拉維克悖論③而達至獲得心靈并獲取思想的超人工智能，閱面（ReadFace）、藍眼（Blue Eyes）等嵌入互動智能硬件的情感認知引擎本質上是以簡單方式認知世界的單色符號表征，但諸多合并人類智慧和機器智能的人機協作模式已經能夠獨立感知基本情感顆粒和識別陌生物體，甚至通過蜂巢思維將習得成果匯聚中央知識庫并實現全域共享。技術迭代下持續趨向自動化的人機協作中主動偽造數據與被動黑客劫持等現象愈加隱蔽，零亂不堪且疏漏重重的相應責任機制進一步刺激參與者不擇手段地汲取跨物種、跨代際的物化生命價值與量化環境對價，嚴重威脅人類族群健康永續。如在高效的人工智能技術應用與多方位的規范巢白激勵控制權讓渡的新形勢下，外科醫生使用機械臂手術和駕駛員使用輔助駕駛系統等大幅削弱參與人員對于關鍵環境要素的識別和反應能力，甚至產生智能系統可以自動彌補全部遺失錯漏的錯覺，進而引發嚴重的傷亡事故。endprint

2.3 精英趨向引發異化強權

大數據聯姻深度學習背景下人工智能應用中高度聚合的數據資源與高新技術正在派生掌握絕對資源優勢的精英特權階層，必然加劇人際異化、經濟危機和社會動蕩，攔阻整個社會邁向應然王國的步伐。隨著智能機器和算法框架愈加集中于少數精英群體，巨額收益亦飛速向其靠攏。持續異變的分配模式甚至逐步解體現有社會結構，導致技術精英日漸占據社會強勢地位。然而，絕大多數技術專家與杰出的應用人物類似大航海時代開疆拓土的哥倫布和達伽馬，相對缺乏宏觀的政經洞見與審慎態度，不僅助力技術發展、知識傳遞、經濟增長與環境改善，亦可能瘋狂地推進整個世界的黑盒化。

同時，人工智能多元應用實現創意人才向上流動，日漸優化精英階層的生存環境。如昂貴的高精尖智能運載工具不僅節約時間并延長出行里程，更突破了傳統交通運輸根深蒂固的4D風險①，意味著更高的安全系數，在一定程度上賦予精英階層在任何其他生命面前的優先通道，嚴重侵害弱勢群體的基本生存權和發展權；又如，通過基因編輯技術微調關鍵致病因子的昂貴智能醫療鋪開應用意味著精英階層健康生命的大幅延長，使得收入成為壽命的最佳預測指標，反向加劇貧富鴻溝，甚至可能影響整個族群有序繁衍。

人工智能廣域滲透導致稀缺資源苛刻分配、社會上升階梯大面積斷裂，逐漸剝奪低收入、低水平且前景有限的弱勢群體的生存空間。如掌握覆蓋整個市場智能監控系統的權威精英擁有上帝視角，通過設置準入門檻和預警系統抑制競爭，或者采取“擊斃式收購”方式消滅潛在對手，變相剝奪其他群體的發展機會，形成后現代的馬太效應生態圈；又如，現代社會中勞動者享有不因種族、性別、宗教、外形、性取向和政治見解等遭受不同待遇的平等就業權。有意義的工作是個人自我認同感的重要組成部分，是人生意義的構成要素。伏爾泰曾言“工作攆跑了三大魔鬼：無聊、墮落和貧窮”，失業率較高的國家和地區中濫藥、自殺和精神患病概率均較高。人工智能多元應用的高速發展導致整個社會就業結構變遷，秘書、快遞員、操盤手、保險定損員、圖書管理員、一線制造工人等具有常規性和重復性特征的工種逐漸被機器替代（如多家高校圖書館已經用智能管理員取代傳統人工），數以億計喪失經濟價值的失業群體難以自力打通重入職場的渠道。不同于圈地運動之后大工業生產需要海量雇傭工人（彼時普遍用工荒導致整個社會加大職業技能培訓力度和輻射面），目前人力資源相對冗余、具有創新性或需要復雜溝通的崗位人員幾近飽和，強勢精英階層缺乏主動投資全民職業能力培養的動力，大幅壓縮了弱勢群體的生存空間與上升通道。

2.4 智能迭代侵害人格權益

人機物三元融合發展進程中，數據成為驅動經濟增長的關鍵要素，數字化資訊積累成本與周期耗費是能否最大限度釋放智能紅利的關鍵。如立足基因分析搭建生命周期監控與疾病預防機制的智能診療系統中內蘊海量受體遺傳信息的數據資源池助力持有者在漫長而封閉的研發周期中逐漸打造行業技術門檻，具有巨大的使用價值和交換價值。“23與我”公司能夠與輝瑞、基因泰克等業界巨頭以及眾多科研院所達成基因組測序合作協議的核心籌碼就是其在長期虧損檢測中通過附隨使用協議攢下的80萬消費者的基因數據。

“大數據往往混合了來自多個數據源的多維度信息。”[6]人工智能廣域應用帶來的巨額數據紅利進一步刺激眾多公司持續挖掘數據隱私，諸如臉書悄然掃描用戶隱私信息和谷歌“深思”非匿名獲取和識別海量急性腎損傷患者數據等惡性事件層出不窮。尤其是在數字追蹤線上慣例影響之下，優步、易到和滴滴等企業的城市規劃數據中心長期監控用戶行蹤數據，大量網貸平臺公然追蹤并評級用戶日常行為，無人車、無人機、無人商店等均以7/24模式瘋狂收集用戶身份和行為習慣，植入體內的芯片情報介質更是不間斷地開展監控和存儲。缺乏高精尖技術知識的普通民眾難以深刻意識數據隱私無序暴露和肆意使用可能造成的惡劣后果，往往為了節約時間和經濟成本、獲得更多便利或更高質量而忽視隱私侵害。

此外，“搜索一旦得以進化，就有可能成為最終連接人性和機器的‘鉸鏈”。[7]去中心化巨網籠罩下人工智能技術應用于全網海量數據資源搜索領域導致記憶外部化。智搜系統對于散落網際空間的個人數據永不遺忘的記憶傳承減弱了人們對于自身隱私的控制權。基于海量零散數據處理的智能識別軟件持續迭代，進一步助力深層的關鍵性隱私挖掘，迫使整個族群被長期禁錮于透明的數字化圓形監獄。如形形色色的面部識別算法不僅用于情報收集研判（如從“天眼”系統中分辨恐怖分子）、判斷和引導對象政治選擇（如2016年美國大選和英國脫歐投票期間通過面部識別分類發送資訊而試圖影響投票者），甚至以高達91%的準確率識別性取向[8]，催生外表決定論的粗暴法則，嚴重侵害當事人的知情權、自主權和人格尊嚴，在特定的時間或環境下（如烏干達、尼日利亞等全民歧同且酷法反同的國家應用同性戀識別軟件）可能產生災難性后果。

事實上，人格尊嚴是個人價值的源泉，是自由和獨立的基石。企業通過智能系統持續監視員工（如彭博監控所有員工整個職業生涯的全部辦公室活動）并收集一切移除人類直覺和情感的客觀數據，精準評估其未來潛力、貨幣價值和人格特征，繼而引發偏見、歧視和其他不可預期的侵害對方尊嚴的惡性事件，導致員工喪失勞動熱情和主人翁精神，甚至引發嚴重的心理疾病。此外，包括類人性伴侶和老幼陪伴機器人等在內的替代人類接觸的人工智能應用導致弱勢群體被物化忽略，侵害其基本的人格權益。

3 人工智能應用風險的應對策略

萬物互聯時代的科技烏托邦愿景大力推動現實與虛擬交融，極客思維映射人工智能全方位滲透社會生活各個領域，在“促進國家擁有經濟、金融、意識形態、政治和其他資源……促進國家繁榮”[9]的同時，充滿變化性、危險性與不確定性。從實質侵害配偶權益的性愛機器人到有違倫理的葬禮誦經機器僧人[10]；從上線不足一日就變身不良少女的微軟小冰到編寫具有自我保護意識的計算機程序，“現在我們已經進入通向未知世界的兔子洞了”[11]。面對人工智能多元應用的已知風險與未知威脅，亟待圍繞《網絡安全法》《新一代人工智能發展規劃》的指導思想、戰略目標、重點任務和保障措施，構筑具有中國特色的公權主導、多方參與、域內外合作規制的智能應用政策法律調整框架。運用復合技術標準檢測、認證和評估人工智能安全指數，確立妥善處理國家安全、公共安全、企業利益和個人權益的協同聯動和相關責任劃分的政策法律體系，推動各級監管部門的能力建設、參與企業的自我審查與個人權益的全面保障，形成健康有序的智能生態培育環境，大幅提升整個社會的文明水準，加快發展中國的軟實力和巧實力，積極建立創新型科技強國。endprint

3.1 確立和諧永續的立法目標

數據資源與處理技術爆炸式增長中創新紅利、市場紅利和人口紅利交疊起效，為我國人工智能多元應用在全球范圍內彎道超車創造了有利條件。亟待確立人工智能研發和應用有益族群和諧永續的立法目標，遵循技術進步、經濟增長和公眾權益交互規律，平衡國家安全、社會穩定、企業發展與個人成長的矛盾沖突，秉持安全性、可用性和可溯源性原則制定指引人工智能規劃和部署的法律規范，明確智能應用的法律主體及相關權責，實行設計問責和應用監督并重的行政監管機制與法定認證和預警標準，制定人工智能研發行為守則并布局人工智能人才發展戰略。如海量數據和人工智能多維融通在一定程度上導致技術引領的信息壟斷和數字鴻溝。“隨著各平臺不斷專業化自己的服務，未來社會的不平等問題將更嚴重”。[12]亟待進一步完善公平準入和有序競爭規則，避免濫用壟斷地位，持續增進公眾福祉。

3.2 構筑張弛有度的政府監管機制

激進的技術變革往往促使體現集體理性的政府公器適用全新的監管模式。迅速迭代的人工智能既是社會發展的核心動能，亦是人類文明的根本風險。亟待迅速構筑張弛有度的政府監管機制，積極權衡技術進步、經濟增長與公眾權益的交互關系。以最優方式劃分部門權限，堅持公眾參與原則，確保監管連貫、合理、公平，兼顧人工智能固有的軍民兩用性，既保密和保護突破性軍事創新，又擴展研發和應用民用顛覆性技術；既制定防止人工智能造假的技術標準，又補白數據侵權的保障性規范。堅持將大數據作為國家基本戰略資源與將人工智能多元應用的關鍵部分作為公共基礎設施管理的基本方針。運用合理而透明的可靠系數標準從網絡層、數據層到算法層等全面量化人工智能系統的安全程度，逐步建立關鍵基礎設施保護體系、推進彈性保障的非歧視用工制度、靈活現代的福利體系以及審慎高效的數據開放規則，防御并降低偶發事件帶來的災難性風險，逐步提升我國的全球位次。

3.3 頒布透明可信的數據核饋規范

人工智能產業順遂成長的關鍵在于獲得數據權人、其他使用者乃至普通民眾的數字信任。隨著中國科技行業逐漸走出加拉帕戈斯群島式封閉狀態，大量內嵌豐富功能的智能應用的國際競爭力愈加強大。亟待頒布透明可信的自動化數據審核和反饋規范，積極完善冗余自檢機制、構筑輕量密鑰算法標準、健全高性能模塊分離流程和安全防御指標。不僅立法督促科技企業全面公開智能技術部署和漸進測試過程，助力其依據用戶體驗和機器錯誤積極調整設置；還要求智能企業預先鎖定并嵌入高度模塊化的安全設計，遵循最小阻力路徑識別和控制黑客注入易受攻擊的疏漏集群，避免利用情感或意圖錯覺操控弱勢用戶[13]。

3.4 完善有區別的責任制度

完全人工智能（Full AI）和應用型人工智能（Applied AI）圖景下能夠觀察環境并做出行動以達到目標的智能主體絕大多數行為不受人類直接指令約束，而是基于所獲信息的分析判斷。創造者難以預料和事先控制其在不同情境中的應激反應與決策選擇。單純以產品具有缺陷追究生產者的產品缺陷責任或以未盡到合理注意義務追究使用者的過錯責任等，既不符合追求公平和正義的法治精神，亦不利于科學劃分參與各方的權利義務，還會因缺乏可操作性而影響法律公信力并打破智能應用有序發展的穩定格局。亟待出臺系統化的調整人工智能多元應用的特別規范，賦予智能主體法律人格。完善智能應用的設計、制造與使用中有區別的歸責體系，對于商用智能系統適用嚴格責任制度，給予公益相關的智能主體（如救援機器人、智能國安情報員和智能圖書管理員等）特殊寬待。細化智能運作的標準流程和數據隱私保障制度、智能系統登記制度、危險責任制度、強制保險制度和賠償基金制度等。

3.5 實施適應全新需求的層級稅制

人工智能的廣域應用在很多領域替代了傳統人力勞動，間接導致國家大量稅收流失。有必要依據新紀元發展特征，考慮實現社會公允與均衡進步的宗旨，積極改革現有稅收制度，實施有條件的層級稅制。如對于有利環境改善、疾病治療和知識普及的人工智能技術應用免稅，對于其他工業和服務業智能系統（如無人商店的自助結賬系統）的算法設計、機械制造和使用企業征稅；又如，增收資產稅和奢侈品消費稅以避免財富和資源過度集中于技術精英群體，避免智能企業的應稅業務轉移到其他國家和地區。進而使用上述部分稅收收入搭建弱勢群體進階知識儲備的綠色通路，實現社會公平。

3.6 加強人工智能領域的宣傳教育

人工智能推動社會發展的核心價值使得相關宣傳教育至關重要。全面提升整個社會獲取、理解和整合數字信息的素養和參與研發應用的能力是維持人工智能可持續發展的重要舉措。有必要立足國家人工智能發展戰略，通過相關宣傳教育，積極培養大批守法的“人工智能+”的復合型人才，尤其重視提升女性、少數民族同胞和欠發達地區居民的相關法律法規認知水平，防止智能紀元的性別歧視、種族歧視和收入偏見等等。此外，積極加強高等院校培養智能人才中的黨性教育、愛國主義教育和集體主義教育，重點強化私營科技企業的黨組織和工會系統，亦有利于降低科技企業集結逐利與技術專家群體泛自由主義過度泛濫引發的諸多危險。

4 結語

進化的互聯網與迭代的信息科技推動人工智能多元應用廣域開啟整個族群改造世界的第二次契機。智能應用已經從最初的軍事、科技和工業應用滲透到普通民眾的日常生活之中。在充分發揮加快知識傳遞、驅動產業變革、完善社會治理以及推動族群永續等積極效用的同時，亦暴露出大量阻礙社會和諧發展的嚴重風險。亟待建立智能系統設計者、制造者、使用者以及其他利益相關者合作共贏的權責體系，充分發揮各級各地公權部門合法規制與激勵發展的雙重作用，積極深化智能應用領域的國際管控合作，確保運作流程公開透明與安全可靠，統一協調公權力、私權力、多樣生態和社會秩序等。

參考文獻：

[1] Elish M C，Tim H.An AI Pattern Language： Accounting for Human Factors & Human Frames[R].Data & Society Research Institute，2017：8.endprint

[2] Michelle K.American Diabetes Association and IBM Watson Health Join Forces to Reimagine How Diabetes are Prevented and Managed [R].American Diabetes Association Report，2016：31.

[3] Da Vinci Surgery：Minimally Invasive Surgery[EB/OL].[2017-12-08].http：//www.davincisurgery.com/.

[4] 王立銘.上帝的手術刀：基因編輯簡史[M].杭州：浙江人民出版社，2017：1.

[5] 周志敏，紀愛華.人工智能：改變未來的顛覆性技術[M].北京：中國工信出版集團，北京：人民郵電出版社，2017：27.

[6] 李開復，王詠剛.人工智能[M].北京：文化發展出版社，2017：3.

[7] （美）斯特凡·韋茨.任頌華，譯.搜索：開啟智能時代的新引擎[M].北京：中信出版社，2017：101.

[8] Yilun W，Michal K.Deep neural networks can detect sexual orientation from faces[J].Personality and Social Psychology.Preprint [EB/OL].[2017-12-08].https：//psyarxiv.com/hv28a/.同性戀識別算法使用深度神經網絡提取特征，在給定同一測試者五張面部圖像的前提下，分類器區別男性同性戀的準確率高達91%、女性83%，遠優于人類判斷表現（男性61%、女性54%）。

[9] （美）喬舒亞·庫帕·雷默.羅康琳，譯.第七感：權力、財富與這個世界的生存法則[M].北京：中信出版社，2017.

[10] Robot Priests Funeral Role[N].Hindustan Times，2017-08-23（4）.

[11] （英）卡魯姆·蔡斯.張堯亮，譯.人工智能革命：超級智能時代的人類命運[M].北京：機械工業出版社，2017：173.

[12] （印）阿魯·薩丹拉徹.周恂，譯.分享經濟的爆發[M].北京：文匯出版社，2017：8.

[13] （英）瑪格麗特·博登.孫詩惠，譯.AI：人工智能的本質與未來[M].北京：中國人民大學出版社，2017：1955.

作者簡介：蔣潔（1979-），女，南京信息工程大學中意網絡侵權研究所、南京信息工程大學法政學院副教授，中國人工智能產業發展聯盟政策法規組副組長，意大利信息法學博士后，騰訊學術顧問。endprint