劉慈欣:人工智能贏了,人類該恐懼嗎?


人工智能“阿法狗”和李世石的圍棋大戰(zhàn)最終以人工智能4∶1大勝落幕。伴隨人機大戰(zhàn)而起的,除了有關人類尊嚴的話題,就是對人工智能快速發(fā)展的恐懼。這種恐懼并非完全沒道理,但可能方向錯了。
像科幻小說或電影描述的那樣,人工智能將“崛起”并最終統(tǒng)治人類,這是許多關心這一問題的人共有的恐懼。計算機剛出現(xiàn)不久,計算速度就遠比人快,現(xiàn)在人工智能在圍棋比賽中戰(zhàn)勝人類,也只是量變而非質(zhì)變,因為計算、檢索等原本就是其擅長的領域。而在其他領域,人工智能進展十分緩慢。很多事人類做起來易如反掌,計算機卻基本上做不了。最明顯的是理解自然語言,目前計算機只能做到把語言抽出來和數(shù)據(jù)庫相匹配進行對應式理解,對于復雜語言的理解,計算機一直無能為力。此外,人類的直覺、想象力和依靠極不完整的信息做出判斷等能力,對目前的計算機來說非常困難。包括“阿法狗”在內(nèi)的弱人工智能,要想在智力上全面超越人類還遙不可及。至于說“天網(wǎng)”覺醒,只需要科幻作家考慮就行了。
其實,我們更應擔憂的是人工智能將搶走人類的工作,而這種進程已經(jīng)開始。目前,電子商務中的選貨、付款等網(wǎng)絡銷售系統(tǒng)操作過程都需要依賴人工智能。在可見的未來,更多的服務性行業(yè)、機械性的工作都將由人工智能替代,它可能會讓我們的社會結構產(chǎn)生很大改變。
因此,現(xiàn)在也到了需要考慮人類與人工智能關系的時刻。現(xiàn)在看來,人工智能和人類兼具伙伴、朋友和競爭對手的關系。核能最初作為恐怖武器曾可能毀滅世界,但最后還是人類的理性戰(zhàn)勝了瘋狂,現(xiàn)在核能基本被關到籠子中,成為人類的伙伴。人工智能也是這樣。發(fā)展人工智能肯定面臨風險,但任何技術發(fā)展都面臨風險,人類不會因此而不去發(fā)展。人工智能是人類文明發(fā)展的希望,但發(fā)展過程中如果有危險,那我們必須共同去面對,并努力消除它。
(劉慈欣,知名科幻作家,代表作《三體》,曾獲科幻文學最高獎項“雨果獎”)