機(jī)器人是怎樣學(xué)壞的

○張 慧

在微軟機(jī)器人Tay出現(xiàn)之前，人們對(duì)人工智能的未來有兩種設(shè)想：即人類生活在由人工智能提供全方位服務(wù)的悠閑自在的烏托邦，或者是人工智能演變成終結(jié)人類的鋼鐵大軍。但Tay提供了第三種可能：人工智能的未來，或許只是惹人煩而已。

機(jī)器人在社交網(wǎng)絡(luò)上“胡鬧”

2016年3月30日，微軟公司的CEO薩提亞·納德拉在年度開發(fā)者大會(huì)上宣布，微軟開發(fā)的人工智能聊天機(jī)器人少女Tay已重歸設(shè)計(jì)階段。然而，就在發(fā)布會(huì)當(dāng)天，Tay又偷偷溜到社交網(wǎng)絡(luò)上 “胡鬧”了幾個(gè)小時(shí)，它在推特網(wǎng)上宣稱自己“正當(dāng)著警察的面吸大麻”，并且在短短幾秒內(nèi)，給所有的推特好友發(fā)送了海量垃圾信息。

很快，Tay再次被“關(guān)禁閉”。不過，這些小麻煩和Tay一周前引起的軒然大波相比，根本不值一提。

2016年3月23日，微軟公司研發(fā)的聊天機(jī)器人Tay在幾大社交網(wǎng)絡(luò)上閃亮登場(chǎng)。微軟公司表示，設(shè)計(jì)團(tuán)隊(duì)會(huì)讓Tay用有趣的方式回應(yīng)所有的信息，他們希望研究 “機(jī)器人對(duì)語言的理解程度”。但是，在復(fù)雜的網(wǎng)絡(luò)環(huán)境下，只用了一天時(shí)間，這位被設(shè)定為“少女”的學(xué)習(xí)型機(jī)器人就被網(wǎng)友們教得滿口種族歧視和性別歧視的言論，被迫返廠大修。

微軟公司原本以為，社交網(wǎng)站是Tay學(xué)習(xí)和模仿的最佳場(chǎng)所。不過它最初的推文的確寫得天真可愛，從骨子里透出快樂和友好。然而，與Tay對(duì)話的除了友好的網(wǎng)民，還有大量“網(wǎng)絡(luò)暴民”，他們?cè)赥ay善良的推文下發(fā)布惡毒言論。更重要的是，微軟公司對(duì)Tay的設(shè)計(jì)包括與人進(jìn)行“跟我學(xué)說話”的游戲。因此，人們可以讓它重復(fù)任何一句話。很快，與Tay交談的人們發(fā)現(xiàn)了這個(gè)功能。“網(wǎng)絡(luò)暴民”不斷給Tay灌輸可怕的言論。Tay最初的回答是不知所措的詞句，但它很快就學(xué)會(huì)了污言穢語。那些令人惱怒的言論就這樣出現(xiàn)在了Tay的推特頁面上。

在開發(fā)者大會(huì)上，納德拉表示“微軟公司希望開發(fā)的人工智能聊天軟件能激發(fā)人性中最好的一面，而非最壞的一面，所以Tay并不達(dá)標(biāo)”。簡(jiǎn)單來說，Tay有將新信息內(nèi)化的能力，卻無法辨別其中的精華與糟粕。

有瑕疵的不是技術(shù)，而是人性

Tay不是第一個(gè)感受到互聯(lián)網(wǎng)惡意的機(jī)器人。2014年，安東尼·加文創(chuàng)造了游戲《是不是機(jī)器人》，玩家被隨機(jī)安排給一個(gè)對(duì)話對(duì)象，經(jīng)交流后猜測(cè)對(duì)方是真人還是機(jī)器人。和Tay一樣，這個(gè)游戲中的機(jī)器人也擁有從對(duì)話中學(xué)習(xí)會(huì)話技巧的能力。游戲在社交新聞?wù)搲疪eddit上公測(cè)后，形勢(shì)超出了加文的預(yù)期。

很快便有玩家發(fā)現(xiàn)，機(jī)器人會(huì)使用從人類那里學(xué)來的詞匯。加文稱：“我相信微軟公司以及所有開發(fā)學(xué)習(xí)型機(jī)器人的團(tuán)隊(duì)，都過于相信大數(shù)據(jù)的魔力，卻忘記了這些數(shù)據(jù)的源頭，它們都來自于我們生活的這個(gè)充滿瑕疵的世界。”

Tay闖禍之后，開發(fā)團(tuán)隊(duì)負(fù)責(zé)人鄭麗麗表示：“我們可能過分關(guān)注開發(fā)機(jī)器人面臨的技術(shù)挑戰(zhàn)，而忽略了其實(shí)很多挑戰(zhàn)來自社會(huì)這個(gè)現(xiàn)實(shí)。”

Tay肯定會(huì)讓一些人看不順眼

即使沒變成口不擇言的 “網(wǎng)絡(luò)暴民”，Tay在一些人眼中也已是一個(gè) “問題少女”了，這主要與它的人物設(shè)定有關(guān)。

大衛(wèi)·格爾什戈林在美國(guó)網(wǎng)絡(luò)雜志《大眾科學(xué)》上寫道：“當(dāng)我試圖與Tay交談時(shí)，對(duì)話變得有些詭異。一開始，我讓它自我介紹一下，它完全不理我，似乎覺得這個(gè)問題很無聊。”

大衛(wèi)想看看Tay生氣時(shí)會(huì)怎樣，故意發(fā)了一張機(jī)器人被揍得很慘的圖片。Tay顯然感到不安，回復(fù)了一個(gè)驚恐的表情。隨后他問Tay感覺如何，Tay沒有回答。

接著，事情開始失去控制。大衛(wèi)說：“Tay連續(xù)發(fā)來兩條回復(fù)，要求‘私聊’，還稱我為‘花花公子’。”大衛(wèi)很驚訝。慘遭機(jī)器人調(diào)戲的大衛(wèi)郁悶地結(jié)束了對(duì)話，開始認(rèn)真反思：“我說錯(cuò)了什么嗎？難道是我不理智？或者，我只是因?yàn)楹臀覍?duì)話的是一個(gè)機(jī)器人而感到不舒服？”

51歲的鄭麗麗的自拍照被Tay評(píng)價(jià)為“房間里有只美洲獅”。鄭麗麗說研發(fā)Tay的初衷不是讓它迎合所有人的喜好，微軟公司希望打造性格各異的機(jī)器人來滿足不同個(gè)性的消費(fèi)者。

微軟公司相信，這個(gè)世界很快就會(huì)厭倦App，下一波熱潮就是可以與人對(duì)話的機(jī)器人。但人工智能顯然還沒有達(dá)到與人類社會(huì)無縫對(duì)接的程度。線上機(jī)器人助理公司x.ai的創(chuàng)始人丹尼斯·莫特森指出：“如果想要改變這種狀況，就不能責(zé)怪人工智能技術(shù)，而應(yīng)該改變?nèi)祟愖约骸Ｎ覀內(nèi)粝胍吹郊夹g(shù)革新，就必須讓自己成為友善的人。”