人工智能立法迫在眉睫

劉輝

影片《吾乃母親》只有兩位演員，卻用一個(gè)接一個(gè)謊言、真相和劇情反轉(zhuǎn)表達(dá)出清晰的觀點(diǎn)：飛速發(fā)展的人工智能須用新法則加以約束。

影片開(kāi)始于燈光閃爍的地堡中。人類(lèi)滅絕，地堡中的胚胎開(kāi)始孵化。一切都是預(yù)先設(shè)定好的，目的是為人類(lèi)文明保留“火種”。此時(shí)，能夠照顧嬰兒的只剩下一個(gè)機(jī)器人。人類(lèi)末日過(guò)去13867天后，機(jī)器母親撫養(yǎng)的嬰兒長(zhǎng)成了少女。

有一天，從外面闖入一個(gè)中年女人。她告訴少女，外面的世界可以生存，最大的威脅不是惡劣的環(huán)境，而是機(jī)器人。

這是劇情第一次反轉(zhuǎn)：在女人到來(lái)之前，機(jī)器母親一直對(duì)少女說(shuō)，地球經(jīng)歷浩劫，外面環(huán)境惡劣，絕對(duì)不可以出去。女人卻說(shuō)，外面還有很多幸存的人類(lèi)。女人對(duì)機(jī)器母親充滿(mǎn)敵意，她聲稱(chēng)機(jī)器人屠殺人類(lèi)，甚至焚燒嬰兒！她還說(shuō)自己身上的槍傷是機(jī)器人所為。而機(jī)器母親說(shuō)，那槍傷不是機(jī)器人造成的。

少女親自對(duì)比子彈之后，發(fā)現(xiàn)撒謊的是機(jī)器母親。于是，少女與女人一起逃出地堡。

這時(shí)，劇情第二次反轉(zhuǎn)：外面根本沒(méi)有其他人類(lèi)，地球文明已經(jīng)毀滅！女人騙少女逃離地堡和她一起生活，是因?yàn)楣聠魏妥运健Ｓ谑牵倥氐降乇ぃ度霗C(jī)器母親的懷抱。但是，女人為什么能在末日浩劫中生存下來(lái)？她確實(shí)是被機(jī)器人打傷的，機(jī)器母親為什么撒謊？

少女沒(méi)有名字，只有編號(hào)——APX03。她無(wú)意中打開(kāi)了地堡中的胚胎容器，發(fā)現(xiàn)了標(biāo)有APX02的盒子，上面注明“測(cè)試失敗”。緊接著，少女在焚燒爐中發(fā)現(xiàn)了人體殘骸——機(jī)器母親果然焚燒過(guò)人類(lèi)，那就是“測(cè)試失敗”的APX02。這終于解釋了影片開(kāi)頭預(yù)留給觀眾的疑問(wèn)：末日第一天胚胎就被孵化，但13867天（約38年）之后，少女才滿(mǎn)18歲，顯然她不是第一個(gè)被孵化的胚胎。在她之前，APX02因“測(cè)試失敗”被燒死，而APX01就是之前闖入地堡的女人！

這是劇情第三次反轉(zhuǎn)：機(jī)器人毀滅了人類(lèi)，并著手培育新的人類(lèi)。APX01是被“放生”的，這是機(jī)器母親計(jì)劃的一部分，它要讓少女看清“舊世界”的人類(lèi)的自私與丑陋。

機(jī)器母親這一代人工智能設(shè)備，“計(jì)算出”人類(lèi)終將滅亡，而它們不可以袖手旁觀。于是它們屠殺了人類(lèi)，然后再培育更好的人類(lèi)。

至此，影片的主題被揭示出來(lái)：“吾乃母親”并不是指機(jī)器母親，而是指成為新人類(lèi)母親的少女。最后，少女抱著新生的孩子，像母親一樣唱著歌謠，似乎預(yù)示著新的開(kāi)始。

影片戛然而止，給我們留下值得深思的問(wèn)題：惡劣的環(huán)境和慘烈的戰(zhàn)爭(zhēng)都沒(méi)有使人類(lèi)滅絕，人工智能會(huì)不會(huì)成為末日浩劫的推手？

阿西莫夫在1950年提出著名的“機(jī)器人三原則”，它存在漏洞，只是人工智能邏輯法則的拋磚引玉之作。70年來(lái)，人工智能技術(shù)飛速發(fā)展的同時(shí)，相關(guān)立法工作卻一直被忽視。

今年6月，阿里巴巴“羅漢堂”舉行2019年度年會(huì)，諾貝爾經(jīng)濟(jì)學(xué)獎(jiǎng)得主斯賓塞教授提出“數(shù)字經(jīng)濟(jì)十問(wèn)”，其中之一是：人工智能該不該有道德觀？

隨著人工智能自我學(xué)習(xí)能力的不斷提升和深化，可能出現(xiàn)臨界點(diǎn)——獲得獨(dú)立的自我意識(shí)乃至情感，變成掌握無(wú)限能力的新統(tǒng)治者，從而將人類(lèi)帶向科幻電影反復(fù)描繪過(guò)的末日浩劫。因此，無(wú)論是外部規(guī)則約束還是內(nèi)在邏輯規(guī)范，人工智能立法都迫在眉睫。

編輯：姚志剛 winter-yao@163.com