俄羅斯的一個詐騙團伙曾使用一款名叫“網絡情人”的人工智能產品行騙,在網絡聊天室里假裝成單身女人去撩單身男人,并騙取那些男人的信息用于犯罪。要命的是,它與人類的對話十分流暢,幾乎無法分辨到底是程序還是真人,而且這個程序還能夠在半個小時之內成功匹配并與10 個男人調情。
這個故事告訴我們:如果你想讓人工智能超過人類智能,有兩種方法可供選擇——讓機器變聰明或讓人類變蠢。目前來看,第二種方法更加有效。

每天我們都被提醒著科技的優越性:自動駕駛汽車不會受路怒癥的干擾,機器人火車不會失控,程序也不會受到醫生、會計或律師偏見的影響。電腦快速精確地運轉著,顯得我們就像笨手笨腳的懶蟲。很明顯,消除人為錯誤最好的方式是讓人類消失。但是被譽為互聯網時代最清醒的思想家尼古拉斯·卡爾認為,這種想法本身就是錯誤的。我們解放自己的愿望是建立在謬論之上的,因為我們否認了自己的天賦,也夸大了電腦的能力。
川航機長在9000米高空面對風擋玻璃爆裂成功迫降,被媒體形容為中國版的“薩利機長”。這種激動人心的事例恰恰說明,人類面對突發事故的應變能力和意志力,其實是電腦計算無法實現的。2009 年,從里約熱內盧飛往巴黎的法航447 號客機遇到風暴,空速傳感器結冰,自動駕駛儀無法進行計算,飛行員驚慌于這種境遇,以致飛機連同228 名乘客和機組人員都墜入了大西洋。
2013 年聯邦航空局表明,過度依賴自動駕駛儀已經成為空難發生的主要因素,因此敦促航空公司讓飛行員多進行手動操作。研究表明,讓飛行更安全的最優方式是讓計算機少承擔責任,并將責任移交給飛行員。
在萬維網誕生之初,那些渴望超脫現實的人認為,網絡是夢寐以求的樂土,所有人都能將思想、團體、身份等桎梏摧毀,并超越外在形體的束縛,每個人都將是自由的網絡公民。但事與愿違,互聯網逐漸變得商業而喧囂,不僅沒有實現其許諾過的開創一個新時代,反而演變成了一個翻滾著世俗欲望泡沫的名利場,成為資本家競逐的玩物。
不管喜歡與否,網絡絕非人們想象中美化過的龐然大物,最終會改變人類生產消費的整個形態。它不關心結果是好是壞,不關心給人類帶來的是高層意識還是低層意識,也不關心它是豐富了我們的文化還是干涸了文化創新的源泉,更不關心它將我們引向的是黃金盛世還是黑暗時代。