機(jī)器人“失控”怎么辦

閆夏卿

人工智能（AI）領(lǐng)域近期的兩個(gè)信息頗為引人關(guān)注：一是臉書關(guān)閉其對(duì)話機(jī)器人項(xiàng)目，坊間傳聞是因?yàn)锳I的語言邏輯失控；另外一個(gè)是國內(nèi)的兩款聊天機(jī)器人在回答一些涉及政治的問題時(shí)給出了“不正確”的答案。

由于業(yè)務(wù)范圍不同，筆者對(duì)于基于深度學(xué)習(xí)的語義AI的基本原理細(xì)節(jié)了解不多。不過，所有基于深度學(xué)習(xí)的人工智能，實(shí)際上都可抽象為目標(biāo)分割及基于海量數(shù)據(jù)的訓(xùn)練，區(qū)別在于不同領(lǐng)域目標(biāo)分割的策略和算法不同，海量數(shù)據(jù)的訓(xùn)練和比對(duì)的邏輯也不同。筆者熟悉的安防領(lǐng)域的車牌識(shí)別，就是先切分成單個(gè)字符，然后通過數(shù)據(jù)訓(xùn)練識(shí)別出是什么字符；而人臉識(shí)別則先是在一幅圖片中識(shí)別，分割出人臉的部分，再利用數(shù)據(jù)訓(xùn)練比對(duì)出目標(biāo)是誰。

雖然算法邏輯各不相同，但總體來看，基于深度學(xué)習(xí)的算法有一個(gè)共通點(diǎn)，即程序的設(shè)計(jì)者也無法確知這種經(jīng)由海量數(shù)據(jù)反復(fù)訓(xùn)練和迭代帶來的結(jié)果是什么。因此在某種意義上，帶有這種特征的AI的“行為”變得不可準(zhǔn)確預(yù)測，這在一些人機(jī)交互相關(guān)的AI領(lǐng)域引發(fā)恐慌。不少人認(rèn)為，這標(biāo)志著這些AI開始具備某種程度上的“自主意識(shí)”，從而開始威脅人類的地位。

實(shí)際上，從基本原理的角度講，這距離自主意識(shí)還相去甚遠(yuǎn)。AI的原生邏輯與規(guī)則能力還非常原始，更多的是通過數(shù)據(jù)量的優(yōu)勢，依靠強(qiáng)大的計(jì)算來增強(qiáng)結(jié)果獲取的能力。舉個(gè)形象的例子，比如很流行的用計(jì)算機(jī)寫詩或者寫歌的程序，其實(shí)是在大量人類已有詩句的基礎(chǔ)上，基于某種策略衡量標(biāo)準(zhǔn)的組合，而不是像王維杜牧寫詩時(shí)，用文字去映射所要表達(dá)的感情。……