2018年人工智能將面臨5項艱巨任務

編譯 陳軼翔

盡管2017年人工智能取得顯著進步，但人工智能仍然無法做到或無法理解的事情還有很多，本文列舉了2018年亟待解決的5個問題。

2017年的人工智能領域取得了顯著進步。例如，一款名為“冷撲大師”的人工智能機器人，完勝人類頂級撲克選手。在現實世界中，機器學習正被應用于擴大農業和改善醫療保健等方面。

但最近你使用過Siri（iPhone上的語音控制功能）或Alexa（當前擁有URL數量最龐大，排名信息發布最詳盡的網站）嗎？如果你用過，那么你就會知道，盡管有各種炒作，但人工智能仍然無法做到或無法理解的事情還有很多。專家們將在2018年重點研究以下5個棘手的問題：

使人工智能理解語言

在處理文本和語言方面，機器比以往任何時候的表現都要好。Facebook可以為視力受損的人朗讀圖像的描述；谷歌則在對電子郵件進行簡短回復方面表現出色。然而，軟件仍然無法真正理解我們話語的含義以及我們的想法。波特蘭州立大學教授梅蘭妮·米切爾（Melanie Mitchell）說：“我們人類可以將所學的概念以不同的方法組合起來，并將它們應用到新的情況中。而這是人工智能和機器學習系統無法做到的。”

米切爾認為如今的軟件發展受到了數學家吉安·卡羅-羅塔（Gian Carlo-Rota）所說的“意義障礙”的限制。一些領先的人工智能研究團隊正試圖弄清楚應如何克服這一障礙。

研究工作的目的之一是使機器擁有常識，并熟悉支撐人類思維的物質世界。例如，Facebook的研究人員正試圖通過讓機器觀看視頻的方式來教機器學習理解現實世界。另一些研究者則致力于使機器模仿人類對世界的理解。谷歌一直在試圖讓機器人學習理解世界的軟件。米切爾已經嘗試用現有經驗和大量概念來訓練系統以解釋照片中所發生的事情。

縮小阻礙機器人革命的現實差距

機器人硬件已經發展得相當不錯了。你能夠以500美元的價格買到一臺帶有高清攝像頭只有手掌大小的無人機。那些運送貨箱，用兩條腿走路的機器也有了改進。那么為什么人類的生活還沒有全面運用機器助手呢？——目前的機器人缺少“思維大腦”來指揮它們復雜的組織結構。

讓機器人做任何事情都需要特定的編程來完成特定的任務。它們可以從重復的試驗（和錯誤）中學習類似操作任務，但這一過程相對緩慢。一個很有潛力的辦法是讓機器人在虛擬的仿真世界中訓練，然后把獲得的信息下載到物理機器人的機身里。然而，這種方法卻存在難題——“現實差距”，這個詞語描述了機器人在仿真世界中學習的技能被轉化到現實世界中的機器上時并非總是可用的。

然而，“現實差距”正在縮小。2017年10月，谷歌報告的實驗結果讓人們看到了希望——機械手臂學會了撿起各種各樣的物體，包括膠帶座、玩具和梳子。

對于致力于研究自動駕駛汽車的人們來說，“現實差距”也進一步縮小。競相研究機器人駕駛的公司模擬在街道上部署虛擬汽車，以減少在真實交通和道路條件下進行測試所需的時間和開支。自動駕駛創業公司Aurora的首席執行官——之前曾是谷歌之母——Alphabet公司的自動駕駛汽車項目的負責人——克里斯·厄姆森（Chris Urmson）透露，讓虛擬測試更適用于真實的交通是他團隊的首要任務之一。他說：“在接下來一年左右的時間里，我們將會看到如何利用這一點來加速機器學習。”

防范人工智能黑客

運行電網、安全攝像頭和手機的軟件一直受到安全漏洞的困擾。自動駕駛汽車軟件和家用智能軟件也會存在相同的問題，甚至可能更糟——有證據表明，機器學習軟件的復雜性會導致發展新的黑客攻擊途徑。

2017年的研究表明，你可以在一個機器學習系統中隱藏一個秘密的觸發機制，在一個特定的信號發出時，該機制會使系統進入“搗蛋”模式。紐約大學的一個研究團隊設計了一個路標識別系統——除非看到黃色的便利貼，否則都能夠正常運作。在布魯克林的一個停車標志上貼上一張黃色便利貼，自動識別系統就會發出限速要求。而類似小把戲就能造成大麻煩。

這個威脅被認為是很嚴重的。2017年12月上旬在世界最著名的機器學習會議上，研究人員召開了為期一天的研討會以探討欺騙機器帶來的威脅。研究人員討論了一些會引發混亂的問題，比如在人類看來很正常的手寫數字，但在軟件看來卻有所不同。例如，你所看到的2，會被一個機器視覺系統看作是3。研究人員還討論了利用此類問題對人類進行攻擊的可能，并對未來人工智能或許被用來愚弄人類表示擔憂。

組織該研討會的蒂姆·黃（Tim Hwang）預計，隨著機器學習變得更強大、更容易部署，使用這種技術來操縱人類是不可避免的。他說：“你不再需要很多博士來進行機器學習。”蒂姆·黃指出，在2016年總統大選期間，俄羅斯的“假訊息活動”就是人工智能強化的信息戰的一個預演。

超越棋盤游戲

Alphabet的“冠軍圍棋”軟件在2017年得到了快速發展。2017年5月，該軟件一個更強大的版本擊敗了中國的圍棋世界冠軍。該軟件的設計者——DeepMind公司，隨后創建了一個版本——AlphaGoZero，可以在不學習任何人類圍棋案例的情況下學習圍棋。12月，另一個升級版本誕生了——AlphaZero，可以學習國際象棋和日本棋盤游戲——將棋。

大量引人注目的進展令人印象深刻，但也暗示了人工智能軟件的局限性。國際象棋、將棋和圍棋都很復雜，但都有相對簡單的游戲規則，游戲設置對雙方都是可見的。它們很好地匹配了計算機可以快速計算很多未來可能布局的能力，但生活中的大多數情況及問題并非都是那么整齊有序。

這就是為什么DeepMind和Facebook都于2017年開始研發多人視頻游戲“星際爭霸”的原因。兩者都尚未取得較大進展。目前，由業余愛好者打造的最好機器人，甚至都比不上那些中等技術的游戲玩家。DeepMind的研究人員奧里奧爾·溫亞爾斯（Oriol Vinyals）在2017年早些時候向《連線》雜志透露，他的軟件現在缺乏必要的規劃和記憶能力，而這些能力可以在組建和指揮軍隊的同時，對于對手的行動進行預測和反應。另外，這些技能也會使軟件在幫助現實世界更好地完成任務，比如辦公室工作或真正的軍事行動。2018年“星際爭霸”或類似游戲若取得重大進展，可能預示著人工智能將出現一些強大的新應用程序。

教人工智能辨別是非

即使在上述領域并未取得新進展，如果現有的人工智能技術能得到廣泛應用，經濟和社會的很多方面也將發生巨大變化。由于政府和很多公司都急于做到這一點，一些人對于人工智能和機器學習可能帶來的意外和故意傷害深感擔憂。

在2017年12月召開的網絡入侵防護系統（NIPS）機器學習會議上，一個重要的議題就是如何將技術控制在安全和倫理道德的范圍內。研究人員發現，機器學習系統在接受數據訓練時，可以挑選出令人討厭的或不必要的行為，比如性別歧視。目前，一些人正在研究可以用于審核人工智能系統內部運作的技術，并確保它們在金融或醫療等行業工作時能做出公正決策。

2018年，科技公司將會提出一些想法——關于如何使人工智能保持在人性美好的一面。谷歌、Facebook、微軟和其他一些公司已經開始討論這個問題，這些公司都是一家名為“人工智能合作”的新型非營利組織的成員，該組織將研究并試圖改變人工智能的社會影響。一個名為“人工智能道德與行業管理基金”的慈善項目用來資助麻省理工學院、哈佛大學和其他研究人工智能的機構，以維護公眾利益。紐約大學一個新的研究機構——AI Now也有類似的使命。在該機構最近發布的一份報告中，呼吁各國政府在刑事司法或福利等領域應堅決放棄使用不接受公眾審查的“黑箱”算法。