人工智能贏了，人類該恐懼嗎

劉慈欣

“阿法狗”和李世石的圍棋大戰最終以4：1落幕。伴隨人機大戰而起的，除了有關人類尊嚴的話題，就是對人工智能快速發展的恐懼。這種恐懼并非完全沒道理，但可能方向錯了。

像科幻小說或電影描述得那樣，人工智能將“崛起”并最終統治人類，這是許多關心這一問題的人共有的恐懼。計算機剛出現不久，計算速度就遠比人快，現在人工智能在圍棋比賽中戰勝人類，也只是量變而非質變，因為原本計算、檢索等就是其擅長領域。而在其他領域，人工智能進展十分緩慢。很多事人類做起來易如反掌，計算機卻基本上做不了，最明顯的是理解自然語言，目前計算機只能做到把語言抽出來和數據庫相匹配進行對應式理解，對于復雜語言的理解，計算機也無能為力。此外，人類的直覺、想象力和依靠極不完整的信息做出判斷等能力，對目前的計算機來說非常困難。目前，包括“阿法狗”在內的弱人工智能，要想在智力上全面超越人類還遙不可及。至于說“天網”覺醒，只需要科幻作家考慮就行了。

“天網”般的強人工智能如真能出現，人類依然可以應對。人工智能不可能強大到沒有弱點。人類也不可能預測不到某種級別的強人工智能即將出現，所以必然會在其出現之前采取一系列措施，譬如不讓它與外部世界有硬件上的連接或是斷絕所有能量供應，讓其沒辦法生存等。再退一萬步，即便強人工智能最后自我生存下來，避免被人類消滅，人類也可能找到與之共存的方法，并不是一定會被其奴役，比如人機結合就是一個共存的途徑。

人類要想抵達強人工智能階段，至少還面臨三道技術障礙，最終它們能不能被克服，目前仍不得而知。第一，我們對自身意識的產生、智力以及腦科學研究還處于初級階段。大腦神經元數量就像銀河系的星星一樣有上千億個，每一個神經元結構都極其復雜。目前，有科學家認為人的智力過程可能是在量子層面上發生，而量子世界的物理規律比宏觀世界的要復雜得多。第二，目前計算機的性能提升速度很快，但使用的還是上世紀四十年代馮·諾依曼結構，這與我們并行的大腦結構完全不同。而對新結構的計算機研究進展卻很緩慢。第三，更為傳統的障礙是現階段計算機總體計算容量還沒達到人腦的容量。基于計算機摩爾定律，人們曾預測計算機不久就會達到人腦的計算容量。但目前集成電路工業的發展趨勢已有放慢跡象，摩爾定律可能行將失效。

其實，我們更應擔憂的是人工智能將搶走人類的工作，而這種進程已經開始。目前，電子商務中的選貨、付款等網絡銷售系統操作過程都需依賴人工智能。在可見的未來，更多的服務性行業、機械性的工作都將由人工智能替代，它可能讓我們的社會結構產生很大改變。

因此，現在也到了需要考慮人類與人工智能關系的時刻。現在看來，人工智能和人類兼具伙伴、朋友和競爭對手的關系。核能最初作為恐怖武器曾可能毀滅世界，但最后還是人類的理性戰勝了瘋狂，現在核能基本被關到籠子中，成為了人類伙伴。人工智能也是這樣，發展人工智能肯定面臨風險，但任何技術發展都面臨風險，人類不會因此而不去發展。人工智能是人類文明發展的希望，但發展過程中如果有危險，那我們必須共同去面對，并努力消除它。▲（作者是知名科幻作家，代表作《三體》，本文由吳志偉采訪整理）