阿爾摩斯被控謀殺罪

冷江

警長(zhǎng)臉色嚴(yán)峻地走入大島智能制作所，沒(méi)有敲門(mén)，動(dòng)作粗魯?shù)刂苯雨J進(jìn)了首席科學(xué)家阿爾摩斯的辦公室。

阿爾摩斯有些不快，冷冷地說(shuō)：“警長(zhǎng)先生，難道你不覺(jué)得直接闖入一個(gè)正在工作的科學(xué)家的辦公室，多么不禮貌嗎？”

警長(zhǎng)氣憤地說(shuō)：“我們要求退貨！”

阿爾摩斯臉上的肌肉抖動(dòng)了一下，但依然微笑著說(shuō)：“沒(méi)有問(wèn)題，我們對(duì)客戶(hù)的要求無(wú)條件響應(yīng)。但是我想知道，你們?yōu)槭裁匆素浤?？?/p>

警長(zhǎng)像說(shuō)故事一樣說(shuō)出了理由。

上個(gè)月在西格蘭高地的一次解救人質(zhì)行動(dòng)中，警察與被解救的兒童同時(shí)掉入了陷阱，犯罪嫌疑人借機(jī)逃脫。萬(wàn)分危急時(shí)，機(jī)器人沒(méi)有第一時(shí)間去追捕逃跑的犯罪嫌疑人，而是立即對(duì)陷阱里的人施救。

阿爾摩斯點(diǎn)了點(diǎn)頭，“這完全在我們既定的程序設(shè)計(jì)中，這符合機(jī)器人三定律之一的救人定律?！?/p>

“可是，他沒(méi)有按照我們的指令行事！”警長(zhǎng)大聲說(shuō)。

阿爾摩斯驚訝地問(wèn)：“他當(dāng)時(shí)采取了怎樣的行動(dòng)？”

“我們要求它先救兒童，可是它卻先救了警察，因未及時(shí)救援，導(dǎo)致兒童吸入大量毒氣死亡！你說(shuō)，它是不是違背了你們?cè)O(shè)計(jì)的救人定律？”警長(zhǎng)怒氣沖沖地瞪著阿爾摩斯。

“哦，不不不，這依然符合我們的設(shè)計(jì)程序。當(dāng)置身險(xiǎn)境，需要在兩個(gè)救援目標(biāo)中進(jìn)行選擇時(shí)，機(jī)器人會(huì)通過(guò)大腦進(jìn)行超級(jí)運(yùn)算，根據(jù)運(yùn)算結(jié)果自動(dòng)作出選擇。像您所說(shuō)的那種場(chǎng)景，根據(jù)我們的模擬測(cè)試，警察第一時(shí)間被救生還的概率超過(guò)68%，而兒童僅為12%，因此機(jī)器人選擇先救警察是完全符合既定程序的?！?/p>

“可是，這難道不違背你們?nèi)芍械牡诙€(gè)定律——服從定律嗎？它沒(méi)有服從我們的指令！”

“錯(cuò)，機(jī)器人在程序命令和人類(lèi)指令面前，首先服從程序命令?！卑柲λ蛊届o地回答。

“可是，可是……”警長(zhǎng)竟找不出更好的語(yǔ)言來(lái)反駁。

阿爾摩斯站了起來(lái)：“先生，您如果沒(méi)有別的事，那我要繼續(xù)工作了?！?/p>

警長(zhǎng)悻悻地離開(kāi)了。

警長(zhǎng)離開(kāi)后，阿爾摩斯迅速打開(kāi)這款機(jī)器人的遠(yuǎn)程后臺(tái)程序，在其中植入了一個(gè)新的口令。這個(gè)口令要求機(jī)器人在面臨科學(xué)指令和道德指令的兩難選擇時(shí)，自動(dòng)啟動(dòng)服從定律。完事后，阿爾摩斯點(diǎn)燃一根雪茄，愜意地躺在旋轉(zhuǎn)椅上，享受這片刻的閑適。

兩周以后，還是那個(gè)警長(zhǎng)，再次闖入了阿爾摩斯的辦公室。

“我還是要求退貨！”警長(zhǎng)雙手抱在胸前，有些敵意地盯著阿爾摩斯。

“為什么呢？難道這次還是不服從主人的指令？”阿爾摩斯笑著問(wèn)。

“不是，這次是過(guò)于盲從警察的指令，導(dǎo)致我們警察局遭到法律界、社會(huì)學(xué)家和廣大新聞?shì)浾摰闹肛?zé)?！?/p>

“你能說(shuō)得再詳細(xì)點(diǎn)兒?jiǎn)?？”阿爾摩斯皺著眉頭請(qǐng)求。

“是這樣的，上周我們執(zhí)行一次追捕毒販的行動(dòng)。因?yàn)槎矩溸^(guò)于兇殘，警察指令機(jī)器人攜帶無(wú)聲沖鋒槍突然沖入毒販藏身的倉(cāng)庫(kù)，在交火中，機(jī)器人對(duì)毒販進(jìn)行了大范圍掃射，導(dǎo)致毒販全部死亡。”

阿爾摩斯揚(yáng)起頭來(lái)，說(shuō)：“從執(zhí)行程序上來(lái)說(shuō)，當(dāng)機(jī)器人遭遇科學(xué)和道德兩種選擇時(shí)，會(huì)自動(dòng)選擇聽(tīng)從主人指令，對(duì)預(yù)定目標(biāo)開(kāi)展行動(dòng)。這100%符合您上次要求的對(duì)主人指令的絕對(duì)服從。”

“可是……”警長(zhǎng)一邊尷尬地分辯，一邊往外退。

等確信警長(zhǎng)離開(kāi)后，阿爾摩斯迅速回到電腦前，再次進(jìn)入這款機(jī)器人的遠(yuǎn)程后臺(tái)程序，迅速又植入了一個(gè)口令。這個(gè)新的口令要求機(jī)器人在執(zhí)行極端任務(wù)時(shí)，有權(quán)通過(guò)超級(jí)運(yùn)算，確定法律和道德的雙重風(fēng)險(xiǎn)等級(jí)，并對(duì)高風(fēng)險(xiǎn)系數(shù)選項(xiàng)作出拒絕。做完這個(gè)補(bǔ)丁后，阿爾摩斯自信地靠在椅子上，長(zhǎng)出了一口氣。

又過(guò)了兩周，阿爾摩斯已經(jīng)有些神經(jīng)質(zhì)了，以前就是這個(gè)時(shí)候，警長(zhǎng)兩次闖入他辦公室的。

可是今天到了這個(gè)點(diǎn)，一切都很平靜。這倒讓阿爾摩斯很不適應(yīng)了。他決定去離這里不遠(yuǎn)的警察局進(jìn)行一次上門(mén)回訪。

他興沖沖地走入警察局大院時(shí)，發(fā)現(xiàn)院子里放了好多花圈。他有些猶豫地走入大廳，突然發(fā)現(xiàn)所有警察胳膊上都系著黑色的紗巾。大廳正前方桌子上立著一個(gè)白色的大相框，相框上也披著黑色的紗巾。他吃驚地看了一眼相框里的人，馬上大叫起來(lái)“怎么會(huì)是他？"

旁邊一個(gè)警察握著拳頭惡狠狠地沖過(guò)來(lái)，朝他怒吼：“我們警長(zhǎng)被你們害死了！等著我們的起訴書(shū)吧！”

“不不不，能告訴我真實(shí)情況嗎？”阿爾摩斯驚恐地問(wèn)道。

“我們警長(zhǎng)患有嚴(yán)重的心絞痛，需要及時(shí)服藥，但是每次服藥他都極為抗拒。而你們?cè)O(shè)計(jì)的機(jī)器人，以前都能強(qiáng)制他服藥，但不知怎么了，最近突然程序紊亂，拒絕給警長(zhǎng)服藥，導(dǎo)致警長(zhǎng)不幸去世！我們將控告你犯殺人罪，法庭上見(jiàn)，科學(xué)家先生！”

阿爾摩斯艱難地?cái)D出一絲微笑，辯解道：“這，這，符合我們業(yè)內(nèi)公認(rèn)的機(jī)器人第三定律——自保定律，當(dāng)遇到法律和道德之間的高風(fēng)險(xiǎn)決策系數(shù)時(shí)，它會(huì)選擇拒絕，以求自保！”為了不挨警察的拳頭，他狼狽地從警察局逃了出來(lái)。

站在街口，阿爾摩斯一下子茫然起來(lái)，不知道下一步是回實(shí)驗(yàn)室，還是回家。

（編輯文墨）