莫將AI算法誤認(rèn)為人類意識(shí)

瞬雨

近日人工智能領(lǐng)域發(fā)生一件趣事。美國(guó)谷歌公司一名研究員與名為L(zhǎng)aMDA對(duì)話應(yīng)用語(yǔ)言模型的AI聊出了感情”，他相信AI產(chǎn)生了自我意識(shí)，不僅有恐懼等人類才有的感情，還能與人類進(jìn)行哲學(xué)思辨。

LaMDA從互聯(lián)網(wǎng)攝取數(shù)萬(wàn)億的詞匯來(lái)模仿人類對(duì)話，是谷歌基于其最先進(jìn)的大型語(yǔ)言模型構(gòu)建聊天機(jī)器人的系統(tǒng)。毫無(wú)疑問(wèn)，這是一個(gè)了不起的探索，但這名研究者的觀點(diǎn)釋放出一個(gè)危險(xiǎn)的傾向：人類將有可能陷于與虛擬角色的交互中難以自拔。

該研究員建議公司“應(yīng)致力于發(fā)展一種評(píng)估AI感知/意識(shí)的理論框架。”對(duì)此，我們可以理解為，他希望建立一種更高階的圖靈測(cè)試。圖靈測(cè)試是英國(guó)科學(xué)家圖靈提出的思想實(shí)驗(yàn)，測(cè)試機(jī)器能否表現(xiàn)出與人一樣的智能水平。但很多人拿它來(lái)為AI意識(shí)作基本辯解，是走上了歧途。圖靈測(cè)試認(rèn)為，讓機(jī)器冒充人類與人對(duì)話，如果人無(wú)法分辨對(duì)話對(duì)象是人還是機(jī)器，那么可以判定機(jī)器具有智能。但這不能與機(jī)器產(chǎn)生了人類意識(shí)畫(huà)等號(hào)。比如，當(dāng)下的電影工業(yè)已經(jīng)能夠制作各種眼花繚亂的特效，包括星際場(chǎng)景、災(zāi)難和戰(zhàn)爭(zhēng)場(chǎng)面、各種擬人化的動(dòng)物表情和行為。作為觀眾，是僅僅樂(lè)而觀之，還是大驚小怪地把這些東西當(dāng)作真實(shí)世界的存在？

那名研究員僅僅依靠幾段擬人的對(duì)話，就斷定AI有了人類的意識(shí)，是荒謬的。出于共情的本能，人類總是習(xí)慣將周?chē)臇|西擬人化，哪怕這些內(nèi)容是自己預(yù)設(shè)的。我們可以把人類跟AI的對(duì)話當(dāng)成左右手互搏的消遣，或者對(duì)鏡自語(yǔ)的游戲，只不過(guò)因?yàn)闄C(jī)器對(duì)手的參與和AI的加持變得更加有趣而已。

從1995年發(fā)行的暢銷(xiāo)游戲《命令與征服》開(kāi)始，每一個(gè)在即時(shí)戰(zhàn)略游戲中跟電腦對(duì)戰(zhàn)的玩家，都可以切身感覺(jué)到自己正與一個(gè)身經(jīng)百戰(zhàn)的統(tǒng)帥.帶領(lǐng)的千軍萬(wàn)馬作戰(zhàn)。而實(shí)際上我們都知道，這些軍隊(duì)和有意識(shí)的統(tǒng)帥根本不存在。幾年前，圍棋AI就能把九段棋手殺得片甲不留，但柯潔不會(huì)產(chǎn)生對(duì)手是人的錯(cuò)覺(jué)。那名研究員的工作對(duì)象本身就是一個(gè)能力強(qiáng)大的語(yǔ)義AI，它能反饋出禪宗偈子式的妙語(yǔ)，只能證明其背后算法的高超。有人強(qiáng)調(diào)，研究員與AI對(duì)話的內(nèi)容遠(yuǎn)超出我們對(duì)機(jī)器的期待。其實(shí)，同樣以圍棋AI為參照，人類不需要把所有定勢(shì)都寫(xiě)成算法教給AI，它會(huì)自己去學(xué)習(xí)、總結(jié)、探索。但這些行為背后的方法論仍是人類給它的算法，跟意識(shí)產(chǎn)生毫不相干。

這件事也折射出一部分人狹隘的意識(shí)觀和機(jī)器觀。有些神經(jīng)科學(xué)家認(rèn)為“精神是平的”。在他們看來(lái)，每一次精神活動(dòng)都是神經(jīng)系統(tǒng)做即時(shí)創(chuàng)造,是對(duì)來(lái)自外部世界輸入信號(hào)按規(guī)則經(jīng)過(guò)處理之后的輸出，而不是潛意識(shí)的藝術(shù)作品。既然如此，那么只要對(duì)人類大腦解剖足夠細(xì)節(jié)，實(shí)驗(yàn)足夠深入，總能用機(jī)器復(fù)制出一模一樣的功能，意識(shí)自然就由此產(chǎn)生。然而，精神分析科學(xué)早就認(rèn)識(shí)到，人每一刻的反應(yīng)跟情緒，都不是即時(shí)的輸入輸出，而跟深層的無(wú)意識(shí)結(jié)構(gòu)息息相關(guān)。2020年上線的科幻劇集《上載新生》之所以深受歡迎，就是因?yàn)楹芏嗳嗽敢獍讶水?dāng)機(jī)器，把記憶當(dāng)芯片存儲(chǔ)，把意識(shí)當(dāng)機(jī)器反饋。這種觀念背后，其實(shí)是部分人為解決自己的死亡焦慮所建立的亍種防御機(jī)制。

中國(guó)科技公司推出了AI數(shù)字人“度曉曉”，“她”在今年高考作文中的優(yōu)異表現(xiàn)引發(fā)關(guān)注，但仔細(xì)研讀會(huì)發(fā)現(xiàn)，“她”寫(xiě)出來(lái)的文章是作文套路的完美疊加，體現(xiàn)的始終是背后強(qiáng)大的算法能力。相信在不遠(yuǎn)的將來(lái)，很多無(wú)須創(chuàng)造只靠機(jī)械勞動(dòng)的工作角色，將被高效的AI機(jī)器人替代。

作為人類文字創(chuàng)意的高效助手，就是“度曉曉”們的存在價(jià)值。在未來(lái)，我們可以繼續(xù)提高AI的水平，讓它更貼心高效地服務(wù)于人類。但膚淺地把AI的行為表現(xiàn)視作意識(shí)的產(chǎn)生，無(wú)疑是幼稚可笑的。▲（作者是技術(shù)經(jīng)濟(jì)觀察家）