人工智能的三個技術里程碑

胡泳

今天，在相當多的情況下，判斷你是在與人類還是算法進行交互，正在變得越來越困難。決定誰值得信賴，獲取正確的信息，以及閱讀正確的“信任信號”，對人類來說已經足夠困難了。但是當我們開始將信任外包給算法時，我們如何去相信它們的意圖？當算法或機器人代表你做出你不同意的決定時，要是產生了意外后果，應該責怪誰？

人工智能要想替人類完成很多讓大家放心的事情，有三個技術里程碑需要越過。

其一，如何處理有多少人工、就有多少智能的問題。傳統上，人工智能被娛樂業塑造出一個錯誤的形象，令我們以為它是在沒有人類輸入的情況下可以自如運作的技術。

現在我們號稱進入了大數據時代，然而數據多并不意味著質量高，沒有標注的數據可用性非常低。數據標注是重復性的工作，但它是大多數人工智能應用的起點。人工智能打著更好地把人從重復性的工作中解放出來的旗號，但現在存在一個悖論：要先通過人類的大量重復性工作才能讓機器實現智能。

盡管數據標注一類的工作會逐漸為人工智能所接手，但放眼未來，人工智能將始終需要人類的投入和專業知識，從而以符合道德、負責和安全的方式充分發揮其潛力。例如，在社交媒體中，需要人類對算法的極端化予以糾正；在醫學上，人類和機器的共同努力將產生比任何一方單獨所能實現的更大效果；在自動駕駛等領域，人工智能的優越性是訓練的結果，然而一旦發生了人工智能未經訓練而不得不處理的事情，由人工智能驅動的優勢就會被抹去。當這種情況發生，人工智能的處理能力必須讓位于人類的創造力和適應能力。

所以，人工智能必須處理好人工與智能的關系。最終，只要有新的應用讓人工智能學習，有新的任務讓它掌握，人工智能就始終需要人類的投入。

其二，人工智能必須學習如何學習。今天可用的大多數AI技術，都是根據特定目標學習或優化其活動，因而只能按照所傳授的內容進行操作。它們的能力反映了培訓的數據及其質量，以及AI流程的設計情況。如前所述，通常，仍需要人工處理異常情況。

這意味著AI目前的形勢很狹窄，專門用于特定的應用程序，它所遵循的流程和程序是不可遷移的。但是，當人工智能開始變得真正聰明并能夠學習未被教授的行為時，它會對人類認知產生什么影響？在這個本質上是加速選擇的過程中，倫理學的作用是什么？

其三，如何解決“不知之不知”的困局。“不知之不知”（Unknown unknown）是前美國國防部長拉姆斯菲爾德在2002年2月回應記者提問時的名言。2002年，美國以伊拉克政府擁有大殺傷力武器并支援恐怖分子為由，打算與其開戰。時任國防部部長拉姆斯菲爾德被問及有關的證據時，他這樣解釋：“據我們所知，有‘已知的已知，有些事，我們知道我們知道；我們也知道，有‘已知的未知，也就是說，有些事，我們現在知道我們不知道。但是，同樣存在‘未知的未知—有些事，我們不知道我們不知道。”

人工智能系統的內部工作往往不透明，人類很難理解人工智能學習系統如何得出它們的結論。套用拉姆斯菲爾德的形容，這就是典型的“不知之不知”。所以，人工智能的一個必須克服的技術挑戰是與人類自己相比的理解差距。為了解決這個問題，設計者和觀察者已經在討論在AI系統中需要一定程度的解釋邏輯，以便檢查錯誤并讓人類學習和理解。