夏雨漠
耳邊響起歡快的歌聲,把一臉不情愿的劉曉泉吵醒了。“曉泉同學,別睡了,口水都一枕頭了!”“好了好了,我知道了,你開始準備吧。”“好的,曉泉同學。”不用說,這便是劉曉泉的私人助手,人工智能,曉泉給她起了一個名字叫溪流,與自己的名字一樣都跟水有關。
三分鐘后,劉曉泉穿好衣服起床,開始洗漱,溪流已經為他準備好了一切:一杯水,牙刷上有黃豆大小的牙膏,浸濕的毛巾。當他走出衛生間時,早餐也已經準備好了,保證營養豐富,適合劉曉泉的口味。十分鐘后,劉曉泉下樓,有一輛車“恰好”經過,上車出發。劉曉泉是M國的一名普通大三學生,今天本來也應該是尋常的一天,但那個事件的發生,讓這一天變得不再平常。
劉曉泉正在聽音樂,忽然一個聲音強行插了進來。一般情況下這是不會發生的,除非這件事有極高的優先級。“SS級特大新聞:M國特種部隊隊員、國家榮譽勛章獲得者槍殺M國要員,疑為AI所為?”劉曉泉嚇了一跳,他一轉頭,發現大家都忽然變得驚訝又害怕,想來是都收到了那條新聞吧?“溪流,我要看詳細信息。”“……哦,曉泉,你不會認為真是我們干的吧?”“怎么會,我只是有些感興趣。”“我就知道,曉泉你最好了。”在詳細報道中,那名槍手描述道,當時他忽然感覺控制不住自己,有一種沖動使他不由自主地拿出槍,然后他開始痛哭流涕,不愿再回憶。
“其實以前人們就擔心我們會不會控制人類,但以前從未出現類似事故,所以這種擔心就消失了,我想這次也一定不是的。”“別擔心嘛,溪流,只要查一下槍手AI的無線電記錄不就可以排除嫌疑了嗎?”“這正是我們被懷疑的原因,就在案發前不久,那個AI忽然不實時上傳數據了,這是有可能的,比如更新的時候,所以總部沒有那段時間AI的數據。而在槍殺事件發生后,它私自啟動了自毀程序,所以……”“但自毀程序啟動不是必須要經過使用者同意嗎?”“他同意了,準確的說,是他‘不由自主地同意了。”這下子變得有意思了,劉曉泉想。
接下來,在很短的數周內,接連發生了數百起類似事件,當事人都宣稱當時“無法控制自己的行為”。這種情況在M國、G國、S國、L國等多國相繼發生,造成了大規模恐慌,很多人加入到反對AI的隊伍中。
大學是受影響比較小的地方,所以劉曉泉才能繼續學習。這天,他在圖書館看書,發現一個很可疑的人,他總是跟著一名學生,手里還小心地藏著一本書。第二天,那名被跟蹤的學生出事了。更讓劉曉泉懷疑的是,他在那人不注意時看到了書名是《科學》,便到網上買了下來,且發現上面有一個奇怪的裝置,于是恍然大悟。劉曉泉給這件事的有關負責人發了一封郵件,告訴他自己的發現。
一周后,警方在P市博物館成功抓到一名嫌疑人。通過他的供述,又迅速抓捕了大批涉案人員,至此,這起案件才水落石出。原來,他們使用無線電設備向選定人員發送電信號,模擬生物電頻率,使選定人員被迫接受指令,從而控制他們的行為。

令人驚訝的是,該組織頭目稱他們這么做只是為了制止一些人的瘋狂想法,組織中大部分成員從事與AI相關的工作。“有很多官員想賦予AI肉體,以進一步激發它們的能力,加速科技發展,但我們是研究AI的,所以知道它的危險,雖然現在沒有出事,但賦予它們肉體后,它們同時擁有了思想、人格,將產生無法預知的危險!”這是AI首席科學家在離開法庭時所說的話。