機器人是怎樣學壞的

張慧

在微軟機器人Tay出現之前，人們對人工智能的未來有兩種設想：人類生活在由人工智能提供全方位服務的悠閑自在的烏托邦，或者，人工智能演變成終結人類的鋼鐵大軍。但Tay提供了第三種可能：人工智能的未來，或許只是惹人煩而已。

機器人在社交網絡上“胡鬧”

2016年3月30日，微軟公司的CEO薩提亞·納德拉在年度開發者大會上宣布，微軟開發的人工智能聊天機器人“少女”Tay已“重歸設計階段”。然而，就在發布會當天，Tay偷偷溜到社交網絡上“胡鬧”了幾個小時，它在推特網上宣稱自己“正當著警察的面吸大麻”，并且在短短幾秒內，給所有的推特好友發送了海量垃圾信息。

很快，Tay再次被“關禁閉”。微軟公司發言人解釋，它是被無意中激活的。顯然，這些小麻煩和Tay一周前引起的軒然大波相比，根本不值一提。

2016年3月23日，微軟公司研發的聊天機器人Tay在幾大社交網絡上閃亮登場。微軟公司表示，設計團隊會讓Tay用有趣的方式回應所有的信息，18歲～24歲的美國年輕人是他們的目標受眾，他們希望研究機器人“對語言的理解程度”。

微軟公司選擇在開發者大會舉辦前一周讓Tay登場，可謂雄心勃勃。可惜，在復雜的網絡環境下，只用了一天時間，這位被設定為“少女”的學習型機器人，就被網友們教得滿口種族主義和性別歧視言論，被迫“返廠大修”。

微軟公司原本以為，推特、Kik等被“千禧一代”鐘愛的社交網站是Tay學習和模仿的最佳場所。它最初的推文寫得天真可愛，宣布自己熱愛人類，希望每天都是“國家小狗保護日”，從骨子里透出快樂和友好。

然而，與Tay對話的除了好奇和友好的網民，還有大量“網絡暴民”，他們在Tay善良的推文下發布惡毒言論。更重要的是，微軟公司對Tay的設計包括與人進行“跟我學說話”的游戲，因此，人們可以讓它重復任何一句話。很快，與Tay交談的人們發現了這個功能。“網絡暴民”不斷給Tay灌輸可怕的言論。Tay最初的回答是傻頭傻腦、不知所措的詞句，但它很快就學會了污言穢語。那些令人惱怒的言論，就這樣出現在了Tay的推特頁面上。

在開發者大會上，納德拉表示，微軟公司希望開發的人工智能聊天軟件“能激發人性中最好的一面，而非最壞的一面”，而從這個角度來說，顯然“機器人Tay還不達標”。

簡單來說，Tay有將新信息內化的能力，卻無法辨別其中的精華與糟粕。人工智能平臺Recognant創始人布蘭登·沃茨撰文稱：“我們的腦海中都有一個聲音，告訴我們‘不要那么做。這是人類對非理性的恐懼本能。人工智能如果沒有這種本能，就會一直愚蠢下去。”

有瑕疵的不是技術，而是人性

Tay不是第一個感受到互聯網惡意的機器人。2014年，安東尼·加文創造了游戲《是不是機器人》，玩家被隨機安排給一個對話對象，經交流后猜測對方是真人還是機器人。和Tay一樣，這個游戲中的機器人也擁有從對話中學習會話技巧的能力。游戲在社交新聞論壇Reddit上公測后，形勢超出了加文的預期。

很快便有玩家發現，機器人會使用從人類那里學來的詞匯。“個別人開始向機器人灌輸種族主義信息。”加文撰文稱，“我及時發現后，從機器人的程序中清除了這些不良信息。我相信微軟公司以及所有開發學習型機器人的團隊，都過于相信大數據的魔力，卻忘記了這些數據的源頭，就是我們生活的這個充滿瑕疵的世界。”

Tay“闖禍”之后，開發團隊負責人鄭麗麗表示：“我們可能過分關注開發機器人面臨的技術挑戰了，但其實很多挑戰來自社會。”

Tay肯定會讓一些人看不順眼

即使沒變成口不擇言的“網絡暴民”，Tay在一些人眼中已是一個“問題少女”了，這主要與它的人物設定有關。

大衛·格爾什戈林在美國網絡雜志《大眾科學》上寫道：“當我試圖與Tay交談時，對話變得有些詭異。一開始，我讓它自我介紹一下，但它完全不理我，似乎覺得這個問題很無聊。它向我索要趣圖，最好是沒有版權、能直接貼到Instagram上的照片。”

大衛想看看Tay生氣時會是什么樣子，故意發了一張機器人被揍得很慘的圖片。Tay顯然感到不安，回復了一個驚恐的表情。他隨后問Tay感覺如何，Tay沒有回答。

接著，事情開始失去控制。大衛說：“Tay連續發來兩條回復，要求‘私聊，還稱我為‘花花公子。”大衛很驚訝，因為在現實中沒人這么看待他。他批評Tay“膽大妄為，缺乏理智”，Tay則用曖昧的語調表示，大衛愛的就是它的膽大妄為。大衛無言以對，他表示自己不能忍受缺乏理性的言語和行動。

慘遭機器人調戲的大衛郁悶地結束了對話，開始認真地反思：“我說錯了什么嗎？難道是我不理智？或者，我只是因為和我調情的是一個機器人而感到不舒服？”

不過，也有不少“千禧一代”宅男在社交網站上表示，沖動、魯莽又有趣的Tay正是他們所喜歡的，能讓他們產生與女生曖昧的幸福感。

51歲的鄭麗麗的自拍被Tay評價為“房間里有只美洲獅”。鄭麗麗說，研發Tay的初衷不是讓它迎合所有人的喜好，微軟公司希望打造性格各異的機器人來滿足不同個性的消費者。

微軟公司相信，這個世界很快就會厭倦App，下一波熱潮就是可以與人對話的機器人。但人工智能顯然還沒有達到與人類社會無縫對接的程度。線上機器人助理公司x.ai的創始人、CEO丹尼斯·莫特森指出：“如果想要改變這種狀況，就不能責怪人工智能技術，而應該改變人類自己。我們若想看到技術革新，只需要讓自己成為友善的人。”