WAIC2021：AI發展必須向善

川江

人工智能是把雙刃劍，AI發展必須向善，以趨利避害。這是2021世界人工智能大會（英文名簡稱“WAIC2021”）上權威專家、學者、企業家共同關心的話題。

AI向善是人工智能發展的前提

“AI科技并非都‘向善。”美國麻省理工學院物理學終身教授、未來生命研究院創始人馬克思·泰格馬克說。他表示，人工智能AI正在變得越來越強大，可以走路的機器人剛剛出現不久，就出現了可以做前后空翻的機器人；10年前我們沒有自動駕駛汽車，但現在有了自動駕駛、自動回收的火箭，還有人臉識別、語音分析、簡單編程，這樣的例子不勝枚舉。除了象棋和圍棋，AI實際上在其他領域也取得了更大的進展，過去幾十年的一些傳統算法都被機器學習替代了。由于技術進步，AI可以解決非常多的問題，甚至可以拯救人類的生命。

馬克思·泰格馬克還表示，每年道路交通都要發生上百萬例死亡個案，這種境況可以通過AI來進行優化改善，AI可以大幅降低人為錯誤。醫療系統中同樣如此，現在有很多數據證明，在前列腺癌、肺癌以及眼疾當中，AI做得比人類更好，不光是軟件層面，還有硬件層面，AI可以接入云端，達成更高質量的診斷效果。

中國信通院院長余曉暉指出，當前世界各國都高度重視可信人工智能的發展，發展可信人工智能是我們真正能夠釋放出人工智能的前景，能夠造福于世界人民，這是一個關鍵的基礎。

余曉暉所說的發展可信人工智能其實就是AI向善。人工智能是第四次工業革命的核心技術，有著巨大的發展潛力。然而，隨著人工智能應用的廣度和深度不斷拓展，慢慢顯露出一些風險與隱患，如算法的安全、數據歧視、數據濫用等諸多問題引發人們思考。當人工智能應用越來越普及的時候，如何建立起人與系統之間的信任成為了新課題。面對人工智能革命第四次浪潮，可信AI這一理念應運而生。自學術界首次提出到各界積極研究，再到產業界開始落地實踐，可信AI內涵也在逐步地豐富和演進。

“人工智能作為新興技術，在帶來巨大經濟潛力和社會影響的同時，也可能因為使用不當而帶來更多的風險和隱患。技術的本質是為了更好地服務于社會，這要求人工智能的發展不可逾越道德倫理、法律規則的‘紅線，需杜絕濫用等現象。”瑞萊智慧高級副總裁朱萌說。

如何保證AI“向善”

有的悲劇，因為不懂AI而發生，而另一些傷害，則是由于惡意應用AI而造成，比如說偽造與欺詐。這時，如何做才能保持AI的積極層面而杜絕它的負面效應呢？

“首先，必須劃清界限，把技術分成可接受和不可接受的AI應用。”馬克思·泰格馬克說，“界限由何而定？文化、道德、法律、國際公約，這方面基因編輯技術的案例已經提供了很好借鑒。”

其次，馬克思·泰格馬克還認為，人類需要將AI調整到非常好的、積極而正面的方向。AI的管理和管控是全球性挑戰，因為技術沒有邊界、沒有國界，各個國家也不可能自己關門作戰。

馬克思·泰格馬克表示，中國在這方面扮演了非常重要的角色。這不僅僅因為中國實力日益強大，更因為中國有著長期思維的戰略部署，擁有久遠的歷史和文化積淀。要知道，中國是一個有著5000年文明的古老國家，在國外講長期規劃，大家都會笑，可如果說中國籌劃高鐵項目，大家就會關注長期的愿景和規劃。

“這是一種全世界應該向中國學習或從中受益的智慧。所以，在發展AI人類命運共同體的時候，我們必須劃清界限、錨定方向。”馬克思·泰格馬克說。

中國科學院自動化研究所研究員、國家新一代人工智能治理專委會委員、聯合國教科文組織人工智能倫理特設專家組專家曾毅表示，可信人工智能絕對不僅僅是技術問題，還有社會的視角。如何利用技術賦能，做到跨文化的互信，是真正實現可信人工智能不得不做的事情，甚至是最后成功的關鍵。

清華大學國強教授、智能產業研究院研究員聶再清表示，AI經常會與中文的“愛”聯系在一起，其實表達了大家對AI有期待，即讓AI有愛。技術是中性的，只有愛才可以產生用戶價值，使AI向善，技術才能真正地走到千家萬戶變成日常生活的一部分。

浙江大學計算機科學與技術學院教授宋明黎認為，可信AI應該至少包含三個方面：第一是數理模型可信可靠，第二是機理模型的可解釋可信性，第三是推理結果的可預期性。

中國社會科學院哲學所研究員、中國社會科學院科學技術和社會研究中心主任段偉文從哲學上解讀了AI向善。他提出，技術的發展應賦予每個人更多的發展權，AI向善不僅能給予更多群體跟上人工智能的機會，而且還可以讓他們在這個過程中學會如何面對世界、如何開創未來以及如何尋找人生的意義。

“向善的AI就是求真的AI，AI向善首先模型得求真，求真后用人類價值體系看它是否向善。”上海交通大學約翰·霍普克羅夫特計算機科學中心副教授張拳石說。

中國科學技術大學電子工程與信息科學系副教授田新梅認為，科技企業在可信AI中起著非常重要的作用，首先不僅是很多關鍵技術的提出者，更重要的是要把科學技術轉化成應用實踐，一項技術只停留在實驗室是沒有用的，要轉化落地并很好地服務人民才是有用的，科技企業肩負著這樣的重任。

對于加速落地可信AI，锘崴科技CTO、華西醫院特聘教授、同濟大學特聘教授王爽提出，首先大眾要有隱私保護的意識或者是對于可信AI關注的意識，另一方面企業也有義務去幫助、推廣相關的教育科普隱私方面或者是可信AI方面潛在的問題。另一方面也要加強法律法規的建設，同時在相關標準制定方面也要跟上。

關于可信AI的企業實踐，洞見科技CTO何浩表示，數據安全、算法可信、平臺互信是可信AI的基石和重要組成部分，隱私計算提供的底層數據隱私保護能力，區塊鏈提供的算法可信證明，不同機構間AI算法的互信互通將共同賦能數據和算法價值的安全釋放。