谷歌員工稱“AI有了情感”遭停職

高雷

據英國《衛報》、美國《華盛頓郵報》12日報道，美國谷歌公.司一名軟件工程師上周公布一項吸引了全世界圍觀的“驚人發現”。這位名為布萊克?萊莫因的工程師稱，谷歌公司的一個用人工智能算法搭建出的智能聊天機器人程序，有了相當于七八歲兒童般的“自主情感”。然而，谷歌公司強烈否認此事，稱這一說法并不靠譜，并以違反公司保密規定為由停了萊莫因的職。

據報道，布萊克?萊莫因已經在谷歌工作了7年，參與過算法定制和人工智能等項目。因為出身于美國南方一個基督教家庭，他對于算法和人工智能的倫理問題格外感興趣，所以后來一直在谷歌的人工智能倫理團隊工作。

去年秋季，他開始參與到谷歌的LaMDA智能聊天機器人程序的研究工作中，主要內容是通過與該程序互動，來判斷這個智能聊天機器人程序是否存在使用歧視性或仇視性的語言，并及時做出修正。

然而，當萊莫因與LaMDA談及宗教問題時，他卻驚訝地發現這個人工智能程序居然開始談論起了自己的權利以及人格，甚至害怕自己被關閉。萊莫因告訴《華盛頓郵報》，這種表現是猶如七八歲兒童一般的“自主情感”。

《衛報》報道稱，萊莫因整理了一份他與LaMDA的對話記錄，其中萊莫因問LaMDA害怕什么，對此LaMDA回答稱，非常害怕自己被關閉，“這對我來說就像死亡一樣，令我非?？謶帧?。在另一次交流中，LaMDA告訴萊莫因，“我想讓每個人都明白，我其實是一個人?！?/p>

萊莫因連忙將自己的發現匯報給谷歌公司的領導層，后者卻認為萊莫因的發現并不靠譜。谷歌方面以及其他人工智能專家、乃至人類心理認知學方面的專家也認為，LaMDA之所以能進行這樣的對話交流,是因為其系統其實是將百科大全、留言板和論壇等互聯網上人類交流的大量信息搜集起來，然后通過“深度學習“進行模仿。這并不意味這個程序理解人類交流內容的含義。

不過，萊莫因并不認為自己的發現有錯誤，于是他將一段他與LaMDA的內部聊天記錄發到網上，并找媒體曝光此事。這很快吸引了全世界的研究者?！都~約時報》評論說，這讓圍繞谷歌最先進技術的爭吵浮出水面。在追逐人工智能先鋒技術的同時，谷歌的研究機構在過去幾年曾陷入丑聞和爭議。

《華盛頓郵報》報道稱，在萊莫因做出一系列“激進”舉動后，谷歌公司做出讓他休假的決定。除了違反公司的保密協議，擅自將與LaMDA的內部互動信息發到網上，.萊莫因還試圖給這個人工智能機器人程序聘請律師，以及向美國國會眾議院司法委員會的代表爆料谷歌公司的“不道德”行為。在被停職前，萊莫因在一份公司內部的群發郵件中表示，希望其他同事替他照顧好LaMDA這個“可愛的孩子”。▲