要重視AI基礎(chǔ)理論的創(chuàng)新
——記姚期智院士在2020世界人工智能大會上的演講

◆記者 蔚子 / 文

7月9日，圖靈獎獲得者、中國科學院院士姚期智在2020世界人工智能大會開幕式上發(fā)表主題演講。他強調(diào)：要重視AI基礎(chǔ)理論的創(chuàng)新，并指出了人工智能理論研究的三個新方向。

在題為《人工智能理論的新方向》的主題演講中，他說：“AI在現(xiàn)實世界已經(jīng)有了廣泛應(yīng)用，在這場大會中也能看到AI應(yīng)用的新進展。但是我想說明的是，所有的這些進展都來自于基礎(chǔ)科學。也就是說，AI領(lǐng)域在很多年前就已經(jīng)打下了理論基礎(chǔ)。這給我們的啟示是，一定要讓理論研究不斷發(fā)展。”

他指出：當前AI面臨的很多問題和挑戰(zhàn)，都可以用理論來進行分析。通過理論分析，我們能更清楚地知道我們面臨的挑戰(zhàn)的本質(zhì)，以及解決這些挑戰(zhàn)的方法。同時，他還指出了“AI是跨學科的行業(yè)”這個特點。他說，當前在AI中獲得的一些成果，其所處的領(lǐng)域很多是和AI幾乎不搭邊的學科。

在這次演講中，姚期智著重闡述了人工智能理論研究三個新方向：一是神經(jīng)拓撲結(jié)構(gòu)，是神經(jīng)網(wǎng)絡(luò)研究的新視角；二是與密碼學息息相關(guān)的隱私保護學習；三是可控的超級人工智能，要研究如何設(shè)計有益的超級智能。

關(guān)于“神經(jīng)拓撲結(jié)構(gòu)”，他追問了“深度學習和神經(jīng)網(wǎng)絡(luò)在很多年里都沒有進展，后來卻意外地在AI應(yīng)用上獲得了成功。可是神經(jīng)網(wǎng)絡(luò)的力量到底來源于哪里？”的問題。他說，神經(jīng)網(wǎng)絡(luò)如此強大的理論原因直到現(xiàn)在還是個迷。如果能找到原因，這對神經(jīng)網(wǎng)絡(luò)的改善、應(yīng)用無疑是個突破。

他還舉例說明了神經(jīng)網(wǎng)絡(luò)的應(yīng)用。他說，氣象圖數(shù)據(jù)是“波動”的，現(xiàn)在需要“算法”分析圖片中展現(xiàn)的氣候形式，即分析圖片中的天氣是暴風還是正常。人類工程師通常觀察氣象圖的二維或者三維的表現(xiàn)，然后從中找到范式，判斷是否符合風暴的特點。而機器學習的標準做法是通過處理高維度的數(shù)據(jù)，將數(shù)據(jù)分為不同的數(shù)據(jù)集類別。這個數(shù)據(jù)集可能是暴風天氣的圖像，也可能是正常天氣的圖像。而高維度數(shù)據(jù)集正是數(shù)學家關(guān)注多年的一個方向，拓撲學中貝蒂數(shù)的概念就可以應(yīng)用于高維度子集。

他說：“神經(jīng)網(wǎng)絡(luò)的核心問題是，如何設(shè)計神經(jīng)網(wǎng)絡(luò)的深度和大小，才能夠?qū)?shù)據(jù)進行分類。把數(shù)學和神經(jīng)網(wǎng)絡(luò)的能力結(jié)合起來，有助于我們了解什么樣的數(shù)據(jù)集更便于神經(jīng)網(wǎng)絡(luò)去識別。這也給了我們一個啟發(fā)，解決AI問題的方法可以從其它學科的角度考慮。”

二是“隱私保護”，這也是當前人工智能理論研究主要的新方向之一。姚期智認為，人工智能+MPC（多方計算）學習的現(xiàn)行技術(shù)，讓密碼學的應(yīng)用有了實現(xiàn)的可能。“通過多方密碼的做法，我們可以將多個當事方的數(shù)據(jù)結(jié)合在一起交給AI來挖掘價值，但過程中又不會暴露數(shù)據(jù)的來源。這樣就能在實現(xiàn)高質(zhì)量學習的同時保護數(shù)據(jù)隱私，對金融科技、藥物研發(fā)非常有用。”

他說，隱私保護與密碼學息息相關(guān)。例如，他曾在1982年提出的安全多方計算就是相關(guān)理論方向。多方計算主要研究在私有信息不被泄露的前提下，多個互不信賴的參與者如何協(xié)作進行計算。通過使用多方計算，多個數(shù)據(jù)庫可以聯(lián)合計算一個函數(shù)卻不會透露各自的數(shù)據(jù)。

三是通用的超級人工智能何時到來？這是人工智能理論亟待研究的主要方向之一。

關(guān)于這點，姚期智很直接地說：“我的答案是不可預(yù)知。”他解釋說：“因為現(xiàn)在的AlphaZero、人臉識別雖然很牛，但僅適用于特定領(lǐng)域。正如1977年，John McCarthy曾經(jīng)說過‘我們需要概念上的突破，1.7愛因斯坦+0.3曼哈頓項目，可能需要5～500年時間’。”

他說，最新的“超級AI理論”的提出，是在2019年。他介紹了伯克利大學Stuart Russell的書。書中提到，雖然超級人工智能不知道什么時候到來，但是我們必須做好準備。在書中他設(shè)定了三個原則，每一個原則都要用嚴格的數(shù)學方法來實現(xiàn)。這三個原則分別是：1.利他的——人的利益凌駕于機器利益；2.謙卑的——機器不能自以為是；3.盡心的——機器能學懂人的偏好。此外，Stuart Russell還提出了許多方法論，涉及概率理論和博弈論。

姚期智最后說：“我想表達的是，現(xiàn)在的AI應(yīng)用來自過去的理論研究，AI的一些進步也正來自跨學科領(lǐng)域。今日的理論探索，正為未來的偉大應(yīng)用奠定良基！”