冷江
警長(zhǎng)臉色嚴(yán)峻地走入大島智能制作所,沒(méi)有敲門(mén),動(dòng)作粗魯?shù)刂苯雨J進(jìn)了首席科學(xué)家阿爾摩斯的辦公室。
阿爾摩斯有些不快,冷冷地說(shuō):“警長(zhǎng)先生,難道你不覺(jué)得直接闖入一個(gè)正在工作的科學(xué)家的辦公室,多么不禮貌嗎?”
警長(zhǎng)氣憤地說(shuō):“我們要求退貨!”
阿爾摩斯臉上的肌肉抖動(dòng)了一下,但依然微笑著說(shuō):“沒(méi)有問(wèn)題,我們對(duì)客戶(hù)的要求無(wú)條件響應(yīng)。但是我想知道,你們?yōu)槭裁匆素浤???/p>
警長(zhǎng)像說(shuō)故事一樣說(shuō)出了理由。
上個(gè)月在西格蘭高地的一次解救人質(zhì)行動(dòng)中,警察與被解救的兒童同時(shí)掉入了陷阱,犯罪嫌疑人借機(jī)逃脫。萬(wàn)分危急時(shí),機(jī)器人沒(méi)有第一時(shí)間去追捕逃跑的犯罪嫌疑人,而是立即對(duì)陷阱里的人施救。
阿爾摩斯點(diǎn)了點(diǎn)頭,“這完全在我們既定的程序設(shè)計(jì)中,這符合機(jī)器人三定律之一的救人定律?!?/p>
“可是,他沒(méi)有按照我們的指令行事!”警長(zhǎng)大聲說(shuō)。
阿爾摩斯驚訝地問(wèn):“他當(dāng)時(shí)采取了怎樣的行動(dòng)?”
“我們要求它先救兒童,可是它卻先救了警察,因未及時(shí)救援,導(dǎo)致兒童吸入大量毒氣死亡!你說(shuō),它是不是違背了你們?cè)O(shè)計(jì)的救人定律?”警長(zhǎng)怒氣沖沖地瞪著阿爾摩斯。
“哦,不不不,這依然符合我們的設(shè)計(jì)程序。當(dāng)置身險(xiǎn)境,需要在兩個(gè)救援目標(biāo)中進(jìn)行選擇時(shí),機(jī)器人會(huì)通過(guò)大腦進(jìn)行超級(jí)運(yùn)算,根據(jù)運(yùn)算結(jié)果自動(dòng)作出選擇。像您所說(shuō)的那種場(chǎng)景,根據(jù)我們的模擬測(cè)試,警察第一時(shí)間被救生還的概率超過(guò)68%,而兒童僅為12%,因此機(jī)器人選擇先救警察是完全符合既定程序的?!?/p>
“可是,這難道不違背你們?nèi)芍械牡诙€(gè)定律——服從定律嗎?它沒(méi)有服從我們的指令!”
“錯(cuò),機(jī)器人在程序命令和人類(lèi)指令面前,首先服從程序命令?!卑柲λ蛊届o地回答。
“可是,可是……”警長(zhǎng)竟找不出更好的語(yǔ)言來(lái)反駁。
阿爾摩斯站了起來(lái):“先生,您如果沒(méi)有別的事,那我要繼續(xù)工作了?!?/p>
警長(zhǎng)悻悻地離開(kāi)了。
警長(zhǎng)離開(kāi)后,阿爾摩斯迅速打開(kāi)這款機(jī)器人的遠(yuǎn)程后臺(tái)程序,在其中植入了一個(gè)新的口令。這個(gè)口令要求機(jī)器人在面臨科學(xué)指令和道德指令的兩難選擇時(shí),自動(dòng)啟動(dòng)服從定律。完事后,阿爾摩斯點(diǎn)燃一根雪茄,愜意地躺在旋轉(zhuǎn)椅上,享受這片刻的閑適。
兩周以后,還是那個(gè)警長(zhǎng),再次闖入了阿爾摩斯的辦公室。
“我還是要求退貨!”警長(zhǎng)雙手抱在胸前,有些敵意地盯著阿爾摩斯。
“為什么呢?難道這次還是不服從主人的指令?”阿爾摩斯笑著問(wèn)。
“不是,這次是過(guò)于盲從警察的指令,導(dǎo)致我們警察局遭到法律界、社會(huì)學(xué)家和廣大新聞?shì)浾摰闹肛?zé)?!?/p>
“你能說(shuō)得再詳細(xì)點(diǎn)兒?jiǎn)??”阿爾摩斯皺著眉頭請(qǐng)求。
“是這樣的,上周我們執(zhí)行一次追捕毒販的行動(dòng)。因?yàn)槎矩溸^(guò)于兇殘,警察指令機(jī)器人攜帶無(wú)聲沖鋒槍突然沖入毒販藏身的倉(cāng)庫(kù),在交火中,機(jī)器人對(duì)毒販進(jìn)行了大范圍掃射,導(dǎo)致毒販全部死亡。”
阿爾摩斯揚(yáng)起頭來(lái),說(shuō):“從執(zhí)行程序上來(lái)說(shuō),當(dāng)機(jī)器人遭遇科學(xué)和道德兩種選擇時(shí),會(huì)自動(dòng)選擇聽(tīng)從主人指令,對(duì)預(yù)定目標(biāo)開(kāi)展行動(dòng)。這100%符合您上次要求的對(duì)主人指令的絕對(duì)服從。”
“可是……”警長(zhǎng)一邊尷尬地分辯,一邊往外退。
等確信警長(zhǎng)離開(kāi)后,阿爾摩斯迅速回到電腦前,再次進(jìn)入這款機(jī)器人的遠(yuǎn)程后臺(tái)程序,迅速又植入了一個(gè)口令。這個(gè)新的口令要求機(jī)器人在執(zhí)行極端任務(wù)時(shí),有權(quán)通過(guò)超級(jí)運(yùn)算,確定法律和道德的雙重風(fēng)險(xiǎn)等級(jí),并對(duì)高風(fēng)險(xiǎn)系數(shù)選項(xiàng)作出拒絕。做完這個(gè)補(bǔ)丁后,阿爾摩斯自信地靠在椅子上,長(zhǎng)出了一口氣。
又過(guò)了兩周,阿爾摩斯已經(jīng)有些神經(jīng)質(zhì)了,以前就是這個(gè)時(shí)候,警長(zhǎng)兩次闖入他辦公室的。
可是今天到了這個(gè)點(diǎn),一切都很平靜。這倒讓阿爾摩斯很不適應(yīng)了。他決定去離這里不遠(yuǎn)的警察局進(jìn)行一次上門(mén)回訪。
他興沖沖地走入警察局大院時(shí),發(fā)現(xiàn)院子里放了好多花圈。他有些猶豫地走入大廳,突然發(fā)現(xiàn)所有警察胳膊上都系著黑色的紗巾。大廳正前方桌子上立著一個(gè)白色的大相框,相框上也披著黑色的紗巾。他吃驚地看了一眼相框里的人,馬上大叫起來(lái)“怎么會(huì)是他?"
旁邊一個(gè)警察握著拳頭惡狠狠地沖過(guò)來(lái),朝他怒吼:“我們警長(zhǎng)被你們害死了!等著我們的起訴書(shū)吧!”
“不不不,能告訴我真實(shí)情況嗎?”阿爾摩斯驚恐地問(wèn)道。
“我們警長(zhǎng)患有嚴(yán)重的心絞痛,需要及時(shí)服藥,但是每次服藥他都極為抗拒。而你們?cè)O(shè)計(jì)的機(jī)器人,以前都能強(qiáng)制他服藥,但不知怎么了,最近突然程序紊亂,拒絕給警長(zhǎng)服藥,導(dǎo)致警長(zhǎng)不幸去世!我們將控告你犯殺人罪,法庭上見(jiàn),科學(xué)家先生!”
阿爾摩斯艱難地?cái)D出一絲微笑,辯解道:“這,這,符合我們業(yè)內(nèi)公認(rèn)的機(jī)器人第三定律——自保定律,當(dāng)遇到法律和道德之間的高風(fēng)險(xiǎn)決策系數(shù)時(shí),它會(huì)選擇拒絕,以求自保!”為了不挨警察的拳頭,他狼狽地從警察局逃了出來(lái)。
站在街口,阿爾摩斯一下子茫然起來(lái),不知道下一步是回實(shí)驗(yàn)室,還是回家。
(編輯文墨)