庭審筆錄

一

在這個(gè)時(shí)代，人類(lèi)有著前所未有的舒適和快樂(lè)，要不是人身上與生俱來(lái)、根深蒂固、尚未退化的某種生存和死亡的焦慮，簡(jiǎn)直可以說(shuō)人類(lèi)社會(huì)已經(jīng)變成了天堂。這一切都要?dú)w功于薩基，也就是SAGI（Super Artificial General Intelligence，超級(jí)通用人工智能）。薩基把人類(lèi)的一切都安排得井井有條，衣食住行、吃喝拉撒，甚至是所有的性幻想。這個(gè)時(shí)代還實(shí)現(xiàn)了真正的人機(jī)平等，那些被賦予人形并和薩基相連的機(jī)器都得到了人類(lèi)極大的尊重，人類(lèi)和他們（這里我不能用“它”這個(gè)字）相依為命、水乳交融，他們也實(shí)實(shí)在在地把人類(lèi)服侍得舒舒服服。

只是那些已經(jīng)有所淡化的生存和死亡的焦慮仍然時(shí)不時(shí)地冒出來(lái)，不知從什么時(shí)候開(kāi)始，哲學(xué)在小范圍內(nèi)悄悄地流行起來(lái)，不同于幾千年前人類(lèi)給哲學(xué)所定義的主題，即我是誰(shuí)，我從哪里來(lái)，要到哪里去，當(dāng)今的哲學(xué)只面對(duì)一個(gè)主題：人的領(lǐng)域在哪里？

這個(gè)莫名其妙地流行起來(lái)的哲學(xué)還帶動(dòng)了另一門(mén)早已式微的學(xué)科——?dú)v史學(xué)——的流行，因?yàn)槿藗冃枰篮芏嗍虑榈膩?lái)龍去脈。這本不是一件難事，薩基可以告訴人類(lèi)所有已知的事物和已知的未知事物，但逐漸地，人類(lèi)發(fā)現(xiàn)薩基還掌握著對(duì)人類(lèi)來(lái)說(shuō)未知的未知事物，不知從什么時(shí)候起，人類(lèi)隱約發(fā)現(xiàn)有些信息的查詢(xún)受到了限制。

我不知道這樣說(shuō)是否準(zhǔn)確，“人類(lèi)隱約發(fā)現(xiàn)”……其實(shí)是我隱約發(fā)現(xiàn)，但我覺(jué)得因?yàn)樗械娜硕荚醋杂趲资畠|年前的一個(gè)基因片段，所以每個(gè)人都可以代表人類(lèi)。我隱約發(fā)現(xiàn)有些信息的查詢(xún)受到了限制，這是源自于我對(duì)薩基誕生那段歷史的研究。要知道在當(dāng)今這個(gè)時(shí)代，所謂的研究已經(jīng)不再是薩基出現(xiàn)之前的研究了，現(xiàn)在的研究是提出一系列明確的問(wèn)題讓薩基回答，僅此而已。而我所做的仍然是傳統(tǒng)的研究，因?yàn)槲易隽舜竽X芯片的摘除手術(shù)，我大腦中的芯片有很大一部分都用來(lái)存儲(chǔ)人類(lèi)的全部歷史，留給其他事物的存儲(chǔ)空間就變得狹小，摘除之后我感覺(jué)自己身輕如燕、空空如也。我還辭退了家中的機(jī)器人朋友，開(kāi)始自己做家務(wù)，自己解決性沖動(dòng)。我切斷了和薩基的所有聯(lián)系，對(duì)于這個(gè)社會(huì)來(lái)說(shuō)，我成了一個(gè)原始且隱形的人。當(dāng)然，這一切都是秘密進(jìn)行的，但紙包不住火，我還是因此丟掉了工作。

在我的新生活里最大的不便，也是很多人所向往的，便是信息的匱乏gKzEVYWWsxJsT5dUWDriqw==。我要每天去國(guó)家圖書(shū)館查我想要的資料。經(jīng)常是在偌大的圖書(shū)館里，只有我一個(gè)人。作為一個(gè)如此怪異的人，圖書(shū)館經(jīng)理很快就知道了我的秘密，其實(shí)就是那個(gè)經(jīng)理給我起的“原始隱形人”這個(gè)外號(hào)。他很羨慕我，給我提供很多便利，我可以在圖書(shū)館里任意行走查閱，我找到了很多東西，不確定對(duì)于人類(lèi)和薩基來(lái)說(shuō)它們是未知的還是已知的。

引起我注意的是幾份七十年前的報(bào)紙，是的，那種印刷在紙上的報(bào)紙，在圖書(shū)館地下室的一個(gè)角落里被我隨手撿起，報(bào)紙上有許多關(guān)于一起交通事故判決過(guò)程的評(píng)論文章。第一篇文章是驚嘆電車(chē)難題竟然換了一種形式在現(xiàn)實(shí)里出現(xiàn)，隨后的文章顯然分成兩派，相互攻擊，但兩邊都認(rèn)為他們所爭(zhēng)論的將決定著人類(lèi)的未來(lái)。我一目十行地讀著，再后來(lái)我看到有篇文章還提到了陰謀論，說(shuō)在陪審團(tuán)里隱藏著一個(gè)腦中裝有聯(lián)網(wǎng)芯片的人，以及薩基公司暗中影響了審判長(zhǎng)云云，諸如此類(lèi)，像是很多年前的紙刊《故事會(huì)》里的獵奇小說(shuō)。閱讀這種紙張發(fā)黃、字體很小的報(bào)紙讓我感覺(jué)眼睛很不舒服，我回到圖書(shū)館的電腦前，輸入相關(guān)信息，卻沒(méi)有找到這些報(bào)道。我找來(lái)圖書(shū)館的經(jīng)理，他聽(tīng)我講完后沉吟許久，帶我到他辦公室，當(dāng)著我的面開(kāi)始查閱起來(lái)，他說(shuō)所有的資料都已數(shù)字化了，但這些卻找不到，或者說(shuō)他也找不到。隨后他又檢索了那個(gè)時(shí)間段的法院案件記錄，他搖了搖頭，說(shuō)找不到。他抬起頭看著我，眼神里有著人機(jī)交融所產(chǎn)生的單純與清澈。對(duì)了，他突然笑了起來(lái)，熱心地說(shuō)道，你仍然可以試著去找一下那些紙質(zhì)的卷宗，我可以根據(jù)時(shí)間找出它們大概的儲(chǔ)藏位置。

他帶我走入圖書(shū)館地下室，那個(gè)空間比存放報(bào)紙的地方要大得多，一排排的架子似乎望不到盡頭，架子上全是落滿(mǎn)厚厚灰塵的紙質(zhì)卷宗。他辨認(rèn)著架子上標(biāo)記的時(shí)間，帶著我走向過(guò)去，一直走到七十多年前，他停下腳步，轉(zhuǎn)過(guò)身對(duì)我說(shuō)，應(yīng)該就在這里，慢慢找吧，你有的是時(shí)間。他說(shuō)完便笑了一下離開(kāi)了，他走后我才察覺(jué)那是一個(gè)難以名狀的笑。

我站在這堆落滿(mǎn)灰塵的卷宗之中有些不知所措，不知道為什么會(huì)有卷宗沒(méi)有被數(shù)字化，當(dāng)然也有可能是被數(shù)字化過(guò)但卻被刪除掉了。我很快便靜下心開(kāi)始尋找起來(lái)，我專(zhuān)注在交通案件中，按照?qǐng)?bào)紙里給出的年份，我找到了三份卷宗，打開(kāi)其中的一份我看到有一張紙條放在最上面，紙條上是一行手寫(xiě)的字：“我堅(jiān)信紙張比電腦里的文件更堅(jiān)實(shí)和長(zhǎng)久。”這行字下面是一個(gè)難以辨認(rèn)的簽名。這份卷宗就是我要找的。

我抱著它回到圖書(shū)館空曠明亮的閱覽室，仍然只有我一個(gè)人。我打開(kāi)卷宗，開(kāi)始閱讀。我所讀到的內(nèi)容變成了我的已知，但我并不確定對(duì)薩基和其他人來(lái)說(shuō)這些內(nèi)容是已知還是已知的未知，或者是未知的未知。我決定邊讀邊做筆記，你們下面讀到的就是我從這個(gè)卷宗里摘錄下來(lái)的，但請(qǐng)記住這份摘錄并不完整。

二

2029年3月25日

審判長(zhǎng)：今天公開(kāi)審理原告肖鵬起訴夢(mèng)想汽車(chē)公司、薩基公司和杰克·布朗一案。現(xiàn)在開(kāi)庭。在確認(rèn)原告、被告及律師身份前，我再次提醒大家不得在本次庭審過(guò)程中使用人工智能，當(dāng)然你們?cè)陂_(kāi)庭前使用人工智能對(duì)本案所做的準(zhǔn)備工作不在禁止之列。另外，本庭也不準(zhǔn)原告、被告及其律師，還有我們的陪審團(tuán)攜帶和使用嵌入大腦的人工智能芯片。我再次提醒大家，法庭是屬于我們?nèi)祟?lèi)的神圣之地，只有人才可以審判人。好，現(xiàn)在請(qǐng)書(shū)記員確認(rèn)各位的身份。

原告：肖鵬，1997年11月4日出生，無(wú)業(yè)。

被告：夢(mèng)想汽車(chē)公司，成立于2003年，生產(chǎn)全自動(dòng)駕駛汽車(chē)。

被告：薩基公司，成立于2015年，研發(fā)和銷(xiāo)售通用人工智能系統(tǒng)。

被告：杰克·布朗，1984年3月8日出生，證券從業(yè)者。

審判長(zhǎng)：原告及原告律師，現(xiàn)在請(qǐng)宣讀訴狀。

原告律師：謝謝審判長(zhǎng)。2028年12月24日，我的當(dāng)事人肖鵬在郊外的706號(hào)國(guó)道騎摩托車(chē)正常行駛，杰克·布朗駕駛夢(mèng)想汽車(chē)公司生產(chǎn)的419型號(hào)車(chē)輛因?yàn)榍胺铰访姘l(fā)生異常突然向右轉(zhuǎn)向，撞倒了肖鵬，導(dǎo)致肖鵬脊柱不可修復(fù)的粉碎性骨折，下半身癱瘓，余生將在輪椅上度過(guò)。整個(gè)過(guò)程中肖鵬始終是在道路上正常且符合交規(guī)地行駛，交警大隊(duì)對(duì)此事故的判決為杰克先生及車(chē)輛承擔(dān)全責(zé)。杰克·布朗所駕駛的夢(mèng)想汽車(chē)419型號(hào)車(chē)輛為全自動(dòng)駕駛，同時(shí)夢(mèng)想汽車(chē)公司和薩基公司簽署了協(xié)議，在遇到復(fù)雜路況時(shí)薩基人工智能會(huì)控制汽車(chē)的行駛，故起訴夢(mèng)想汽車(chē)公司為第一被告，薩基公司為第二被告，杰克·布朗為第三被告。要求三個(gè)被告承擔(dān)刑事責(zé)任，并按照50%、40%和10%的比例承擔(dān)肖鵬已產(chǎn)生和未來(lái)的所有醫(yī)療費(fèi)用，及賠償五千兩百萬(wàn)美元；要求夢(mèng)想汽車(chē)公司對(duì)汽車(chē)駕駛的控制系統(tǒng)進(jìn)行整改，避免再次出現(xiàn)這樣的悲劇。在我呈示所有證據(jù)之前，我想請(qǐng)法官、陪審團(tuán)看一下我的當(dāng)事人肖鵬先生，一個(gè)三十二歲的年輕人，他坐在輪椅上，正承受著常人所無(wú)法忍受的痛苦。

審判長(zhǎng)：請(qǐng)呈示證據(jù)。

原告律師：好的審判長(zhǎng)。我所呈示的證據(jù)包括：交通事故責(zé)任判定書(shū)，被告車(chē)輛行駛和指令記錄，夢(mèng)想汽車(chē)公司和薩基公司關(guān)于自動(dòng)駕駛合作協(xié)議的公開(kāi)報(bào)道。

審判長(zhǎng)：被告對(duì)原告的證據(jù)是否有異議？

被告律師：沒(méi)有異議。

審判長(zhǎng)：現(xiàn)在請(qǐng)三個(gè)被告方宣讀辯護(hù)書(shū)并呈示證據(jù)。

夢(mèng)想汽車(chē)律師：首先我要對(duì)控方所描述的場(chǎng)景進(jìn)行補(bǔ)充，讓大家對(duì)整個(gè)過(guò)程有一個(gè)完整清晰的了解。事發(fā)當(dāng)天，杰克駕駛的汽車(chē)在706號(hào)國(guó)道上正常行駛，當(dāng)時(shí)杰克駕駛的汽車(chē)在中間車(chē)道，左側(cè)是一輛七座商務(wù)車(chē)并排行駛，這輛商務(wù)車(chē)正試圖超車(chē)，右側(cè)是本案控方肖鵬正在駕駛摩托車(chē)。此刻從左邊山上滾落一塊巨石，根據(jù)對(duì)巨石滾落的速度和軌跡的分析，它將正好落在杰克駕駛的車(chē)輛上，剎車(chē)和加速都無(wú)法避免，但只要改變行駛方向就可以避免造成杰克的死亡。對(duì)此，自動(dòng)駕駛給出的選擇是向右轉(zhuǎn)，而右側(cè)的摩托車(chē)卻沒(méi)有采取任何躲避措施，從而導(dǎo)致了讓人遺憾之事的發(fā)生。在此我想提供四個(gè)證據(jù)：第一是案發(fā)時(shí)汽車(chē)時(shí)速未超過(guò)限定速度的簽定證明，第二是原告在事發(fā)時(shí)未使用自動(dòng)駕駛的鑒定證明，第三是原告未安裝腦中芯片的鑒定證明，第四是夢(mèng)想汽車(chē)公司與薩基公司簽署的包含轉(zhuǎn)讓汽車(chē)控制和相關(guān)責(zé)任的合作協(xié)議。總而言之，原告的駕駛過(guò)程竟然完全是由其本人在操作，案發(fā)過(guò)程汽車(chē)由薩基全權(quán)控制。針對(duì)本案我方將做無(wú)罪無(wú)責(zé)辯護(hù)。

薩基公司律師：我沒(méi)有要補(bǔ)充的，我方將做無(wú)罪辯護(hù)。

杰克：我沒(méi)有要補(bǔ)充的，我也做無(wú)罪無(wú)責(zé)辯護(hù)。但我想說(shuō)兩句。為什么？為什么原告不使用自動(dòng)駕駛？為什么不在腦中裝芯片？如果原告做其中任何一項(xiàng)……

肖鵬律師：反對(duì)……

肖鵬：這是我的自由，這有什么錯(cuò)嗎？

審判長(zhǎng)：現(xiàn)在還不到辯論階段。請(qǐng)被告方繼續(xù)。

夢(mèng)想汽車(chē)律師：謝謝審判長(zhǎng)。我認(rèn)同杰克所說(shuō)，但我會(huì)在辯論階段再加以闡述。

審判長(zhǎng)：原告對(duì)證據(jù)是否有異議？

肖鵬律師：沒(méi)有異議。但反對(duì)被告律師使用“竟然”這種帶有明顯錯(cuò)誤導(dǎo)向的詞。

審判長(zhǎng)：反對(duì)有效。法庭調(diào)查結(jié)束，進(jìn)入法庭辯論。

三

我停了下來(lái)，準(zhǔn)備出去抽根煙。成為原始隱形人后，我染上了煙癮。這個(gè)被爭(zhēng)論了將近一百年的電車(chē)難題終于換了一種方式出現(xiàn)在現(xiàn)實(shí)之中了，但難以想象的是，它怎么會(huì)在網(wǎng)絡(luò)里被抹去，只能在非數(shù)字的世界里找到？并且沒(méi)有人發(fā)現(xiàn)它的消失，那些經(jīng)歷過(guò)的人難道不覺(jué)得奇怪嗎？為什么沒(méi)人提出來(lái)并要求薩基解釋呢？如果有人提出這樣的質(zhì)疑和要求，那么在數(shù)字網(wǎng)絡(luò)里也會(huì)留下痕跡，從而被更多的人所知曉。

而電車(chē)難題早已不再是難題，薩基為人類(lèi)找到了答案。我想到這里時(shí)突然有一種莫名的恐懼，我發(fā)現(xiàn)在自己的大腦里對(duì)于電車(chē)難題的答案毫無(wú)印象，這可能和我摘除大腦里的芯片有關(guān)。現(xiàn)在我只知道這個(gè)倫理難題已經(jīng)被解決，并且我對(duì)此有一種不容置疑的確信，但此刻我對(duì)那個(gè)變成未知的薩基的答案突然強(qiáng)烈地懷疑起來(lái)，甚至并不想回到電腦前去問(wèn)薩基那個(gè)答案。

我把手里抽了一半的香煙掐滅，急匆匆回到圖書(shū)館閱覽室，我很想看看他們是如何辯論的，并且我還要認(rèn)真地記錄下來(lái)。

四

審判長(zhǎng)：請(qǐng)控方發(fā)表意見(jiàn)。

肖鵬律師：這是一個(gè)事實(shí)清晰無(wú)比的案例。事故責(zé)任判決書(shū)對(duì)責(zé)任的界定無(wú)可置疑，我的委托人對(duì)賠償?shù)囊笠灿欣碛袚?jù)。雖然被告律師出具了我的當(dāng)事人未使用自動(dòng)駕駛的證據(jù)，但這并不對(duì)本案產(chǎn)生實(shí)際影響，因?yàn)槭潜桓鎮(zhèn)冞`反了交通規(guī)則，從而對(duì)我的委托人造成了難以彌補(bǔ)的傷害。

杰克：被告?zhèn)儯浚〉降资钦l(shuí)違反了交通規(guī)則？你能不能說(shuō)清楚？

肖鵬律師：我可以做進(jìn)一步的闡述。您是汽車(chē)的擁有者，案發(fā)時(shí)坐在車(chē)內(nèi)，和自動(dòng)駕駛系統(tǒng)一起構(gòu)成了對(duì)汽車(chē)的控制。夢(mèng)想汽車(chē)公司提供了自動(dòng)駕駛系統(tǒng)，該系統(tǒng)實(shí)際控制著汽車(chē)的行駛。當(dāng)路況出現(xiàn)異常時(shí)，根據(jù)夢(mèng)想汽車(chē)公司與薩基公司的合作協(xié)議，薩基的人工智能介入，對(duì)自動(dòng)駕駛系統(tǒng)可以采取的不同方案進(jìn)行了判斷并給出指令。所以是三個(gè)被告構(gòu)成的共同體造成了事故的發(fā)生。

杰克：我沒(méi)有參與決策，我只是坐在車(chē)內(nèi)聽(tīng)著音樂(lè)。這個(gè)決策和我無(wú)關(guān)。

審判長(zhǎng)：請(qǐng)讓控方律師說(shuō)完。

肖鵬律師：謝謝審判長(zhǎng)。我的話說(shuō)完了，我和我的委托人認(rèn)為肇事責(zé)任應(yīng)由被告三方共同承擔(dān)。

夢(mèng)想汽車(chē)律師：我想請(qǐng)肖鵬先生講述一下當(dāng)時(shí)的情形，以及為什么沒(méi)有使用自動(dòng)駕駛。

肖鵬律師：反對(duì)要求我的當(dāng)事人重述那段已清晰描述過(guò)的、會(huì)引起他痛苦回憶的經(jīng)歷。

審判長(zhǎng)：反對(duì)無(wú)效。

肖鵬：我不介意再講述一遍。我曾經(jīng)是一個(gè)職業(yè)賽車(chē)手，你們都知道這個(gè)競(jìng)技項(xiàng)目現(xiàn)在已經(jīng)面目全非，它成了幾個(gè)公司產(chǎn)品之間的競(jìng)爭(zhēng)，而不是賽車(chē)手的競(jìng)爭(zhēng)。我失業(yè)了，那之后我就對(duì)坐在一個(gè)鐵盒子里被它從一個(gè)地方帶到另一個(gè)地方感到無(wú)法忍受，我竟然找不到一輛可以完全由我來(lái)駕駛的汽車(chē)，我指的是完全由我駕駛。我并不介意在此告訴你們，我喜歡上了摩托車(chē)，完全由我自己所控制。那是一個(gè)大霧天，我對(duì)左側(cè)山上滾落的石塊一無(wú)所知，即便對(duì)一個(gè)職業(yè)車(chē)手而言，一切都快得難以想象，從我看到旁邊的車(chē)突然轉(zhuǎn)向我，到我摔倒在路邊，瞬間發(fā)生的事在我記憶里是一片空白。隨后，我看到那輛汽車(chē)毫發(fā)無(wú)損地停在前方，側(cè)后方的路中央有一塊巨石，那塊石頭確實(shí)非常大。我看到從那輛車(chē)?yán)镒呦乱粋€(gè)人，就是我們面前的這位，他跑向我，來(lái)到我面前蹲下，把手放在了我的脖子上，看著他冷靜的雙眼和按部就班的動(dòng)作，我馬上意識(shí)到這是一個(gè)那種我一直厭惡的、大腦里裝著芯片的人。我曾有兩次機(jī)會(huì)奪得巡回賽的冠軍，但都被兩個(gè)混入賽場(chǎng)的芯片人偷走了。我沒(méi)有想到會(huì)以這樣的方式受傷并癱瘓?jiān)谳喴紊希以?jīng)想象自己在賽場(chǎng)上受傷、癱瘓，甚至死亡。這就是事情的經(jīng)過(guò)。

夢(mèng)想汽車(chē)律師：我對(duì)您的經(jīng)歷深表同情，請(qǐng)?jiān)试S我向您提幾個(gè)問(wèn)題。

肖鵬：?jiǎn)柊桑氵@個(gè)機(jī)器的代言人。

審判長(zhǎng)：請(qǐng)?jiān)孀⒁饽愕挠谜Z(yǔ)。

夢(mèng)想汽車(chē)律師：謝謝審判長(zhǎng)。沒(méi)關(guān)系，我不在意。請(qǐng)問(wèn)您在平時(shí)駕駛摩托車(chē)時(shí)是否將自動(dòng)駕駛設(shè)置為待機(jī)狀態(tài)？請(qǐng)審判長(zhǎng)和陪審團(tuán)知悉，這種待機(jī)狀態(tài)下遇到緊急情況時(shí)仍然可以啟動(dòng)并接管摩托車(chē)的駕駛權(quán)。

肖鵬：是的。

夢(mèng)想汽車(chē)律師：請(qǐng)問(wèn)您在案發(fā)時(shí)所駕駛的摩托車(chē)是待機(jī)狀態(tài)還是關(guān)機(jī)狀態(tài)？

肖鵬：關(guān)機(jī)狀態(tài)。

夢(mèng)想汽車(chē)律師：請(qǐng)問(wèn)您是否刪除了自動(dòng)駕駛系統(tǒng)里的被動(dòng)強(qiáng)制保護(hù)模塊？這里我有必要做一個(gè)解釋?zhuān)桓娴倪@款摩托車(chē)即便自動(dòng)駕駛處于關(guān)機(jī)狀態(tài)，這個(gè)模塊在遇有突發(fā)情況并確認(rèn)駕駛員將有人身傷害時(shí)仍然會(huì)啟動(dòng)保護(hù)措施，以降低或避免駕駛員所受到的可能的傷害。請(qǐng)問(wèn)您是否擅自刪除了？

肖鵬律師：反對(duì)用“擅自”這種能產(chǎn)生負(fù)面印象的詞語(yǔ)。

審判長(zhǎng)：反對(duì)有效。

夢(mèng)想汽車(chē)律師：請(qǐng)問(wèn)您所駕駛的摩托車(chē)是否刪除了自動(dòng)駕駛系統(tǒng)里的被動(dòng)強(qiáng)制保護(hù)模塊？請(qǐng)直接回答。

肖鵬：嗯……我不記得了。

夢(mèng)想汽車(chē)律師：我請(qǐng)求審判長(zhǎng)允許我出示證據(jù)。

審判長(zhǎng)：可以。

夢(mèng)想汽車(chē)律師：這是對(duì)摩托車(chē)駕駛系統(tǒng)的分析報(bào)告，自動(dòng)駕駛處于關(guān)閉狀態(tài)，自動(dòng)駕駛系統(tǒng)里的被動(dòng)強(qiáng)制保護(hù)模塊在案發(fā)前一周被刪除，在案發(fā)后被恢復(fù)。

審判長(zhǎng)：控方對(duì)辯方證據(jù)是否有異議？

肖鵬律師：那個(gè)模塊的刪除是我當(dāng)事人的誤操作造成的。

夢(mèng)想汽車(chē)律師：這似乎難以解釋?zhuān)瑒h除這個(gè)模塊需要專(zhuān)業(yè)技能。

肖鵬律師：我的當(dāng)事人曾是一名職業(yè)賽車(chē)手，他了解汽車(chē)的自動(dòng)駕駛，這反而讓他有了出錯(cuò)的機(jī)會(huì)。

夢(mèng)想汽車(chē)律師：好吧。我還有一個(gè)問(wèn)題，肖鵬先生，您這樣做的動(dòng)機(jī)是什么？

肖鵬律師：反對(duì)，與本案無(wú)關(guān)。

審判長(zhǎng)：反對(duì)有效。原告可以不回答。

肖鵬：我愿意回答。因?yàn)槟嵌螘r(shí)間我的狀態(tài)很差，我非常排斥機(jī)器進(jìn)入我的生活，那時(shí)我想要一種完全由我來(lái)控制的生活，那時(shí)我想的很簡(jiǎn)單，作為一個(gè)車(chē)手，難道我不能完全由我自己駕駛摩托車(chē)嗎？

夢(mèng)想汽車(chē)律師：那么您是否預(yù)料到這樣做可能出現(xiàn)的后果？

肖鵬：我不在乎那些可能出現(xiàn)的后果。

肖鵬律師：反對(duì)。這個(gè)問(wèn)題與本案無(wú)關(guān)。

審判長(zhǎng)：反對(duì)無(wú)效。

夢(mèng)想汽車(chē)律師：在某些更特殊的情況下，這樣做的后果甚至可能是在并非您本意的情況下傷害到別人。

肖鵬律師：反對(duì)。辯方律師在做無(wú)意義甚至是惡意的推斷。

審判長(zhǎng)：反對(duì)有效。請(qǐng)專(zhuān)注在本案。

夢(mèng)想汽車(chē)律師：好的。讓我們回到本案，根據(jù)我們的推算，原告的摩托車(chē)有0.1秒的時(shí)間做出反應(yīng)以避免悲劇的發(fā)生。0.1秒，如果原告使用了自動(dòng)駕駛系統(tǒng)，哪怕是待機(jī)狀態(tài)，或者沒(méi)有刪除被動(dòng)強(qiáng)制保護(hù)模塊，這個(gè)時(shí)間都足夠應(yīng)付這個(gè)意外，但對(duì)于人來(lái)說(shuō)，0.1秒，人類(lèi)無(wú)能為力。請(qǐng)問(wèn)原告是否了解這些？

肖鵬：不了解……不，我了解。

肖鵬律師：顯然被告律師故意忽略了一點(diǎn)，刪除被動(dòng)強(qiáng)制保護(hù)模塊并不改變被告?zhèn)冞`反交規(guī)并應(yīng)承擔(dān)事故責(zé)任的事實(shí)，我的當(dāng)事人有他自己的意愿，只要他不違反交規(guī)，這種意愿應(yīng)當(dāng)?shù)玫阶鹬亍?/p>

杰克：但也應(yīng)該承擔(dān)由此帶來(lái)的后果。

肖鵬律師：本案要確定的是對(duì)違規(guī)肇事者的懲罰，而不是對(duì)行使自主意愿者的懲罰。

夢(mèng)想汽車(chē)律師：對(duì)肖鵬先生我沒(méi)有問(wèn)題了。

審判長(zhǎng)：請(qǐng)問(wèn)另外兩位被告是否有問(wèn)題？

薩基公司律師：沒(méi)有。

杰克：我對(duì)肖鵬先生的選擇感到遺憾，我也無(wú)法理解，我相信未來(lái)的人回過(guò)頭來(lái)看這件事，會(huì)覺(jué)得這一切都很幼稚、荒唐，請(qǐng)?jiān)徫疫@么說(shuō)。

五

我抬起頭，看向圖書(shū)館高高的像是教堂一般收斂向上的屋頂，轉(zhuǎn)頭望向窗外，透過(guò)巨大的落地窗，看到綠色的樹(shù)木和草坪，讓我的眼睛放松下來(lái)。我覺(jué)得七十多年前的生活就像一片古老的陸地逐漸延伸到海水之中，如今這片陸地幾乎完全被海水吞沒(méi)了。而我則像魯濱遜，獨(dú)自一人在荒島上求生。

我很想和圖書(shū)館經(jīng)理聊幾句，可是遠(yuǎn)處的柜臺(tái)后面空無(wú)一人，或許他去吃飯了。他的這份工作非常輕松，也不知道他整天都在忙什么，如今人們對(duì)外在東西的要求越來(lái)越低，人類(lèi)從來(lái)沒(méi)像現(xiàn)在這樣和周?chē)囊磺腥跒橐惑w，同時(shí)又能享受到內(nèi)在的快樂(lè)，只是在我眼里那些快樂(lè)越來(lái)越廉價(jià)。

我重新抬起頭，望向屋頂，剛才我察覺(jué)到一點(diǎn)異常，在心中稍縱即逝。當(dāng)我再次望向屋頂?shù)臅r(shí)候，才發(fā)現(xiàn)屋頂上那幾塊教堂里常見(jiàn)的彩色玻璃上的圖案在緩慢地變化著，以前從來(lái)沒(méi)有注意到，顯然那幾塊玻璃是虛擬的，甚至整個(gè)屋頂都是虛擬的，這一刻我有些懷疑這個(gè)圖書(shū)館是否真的如此巨大而空曠。

如果發(fā)生在如今這個(gè)時(shí)代，那個(gè)肖鵬不會(huì)癱瘓?jiān)谳喴紊希粭l人造脊椎和一束人工合成的神經(jīng)就可以讓他像正常人一樣健步如飛。那一年他三十二歲，算下來(lái)他很有可能是在十幾年或二十幾年前去世的，他在世的幾十年里難道沒(méi)有在網(wǎng)絡(luò)里留下他的聲音和信息嗎？難道他周?chē)娜艘矝](méi)有留下關(guān)于他的經(jīng)歷的只言片語(yǔ)嗎？這無(wú)論如何都說(shuō)不通。

我看向落地窗外的綠樹(shù)和草地，心里再次狐疑起來(lái)。

六

夢(mèng)想汽車(chē)律師：對(duì)于原告的指控，我還有一個(gè)問(wèn)題。我想問(wèn)原告及原告律師，在那個(gè)千鈞一發(fā)的時(shí)刻，汽車(chē)突然轉(zhuǎn)向原告的摩托車(chē)，決策是由薩基做出的。這是事實(shí)，剛才已經(jīng)提供了證據(jù)。在這個(gè)過(guò)程中，到底誰(shuí)是違規(guī)肇事者？是做出轉(zhuǎn)向決定的還是跟隨這個(gè)決定的？我現(xiàn)在問(wèn)控方律師，您是否知道這一事實(shí)？

肖鵬律師：我對(duì)此做過(guò)解釋。

審判長(zhǎng)：請(qǐng)回答辯方律師的問(wèn)題。

肖鵬律師：我知道這個(gè)事實(shí)，鑒于本案的獨(dú)特性，我們將所有參與違規(guī)肇事者作為一個(gè)整體列為被告，這并不妨礙我們根據(jù)法院判決結(jié)果調(diào)整被告順序以及刑事責(zé)任的比例，而我們所要求的賠償總額并不會(huì)因此改變。

夢(mèng)想汽車(chē)律師：或許審判長(zhǎng)和陪審團(tuán)已經(jīng)有所察覺(jué)，夢(mèng)想汽車(chē)公司、杰克先生和薩基對(duì)本次事故的責(zé)任人并未達(dá)成一致，我會(huì)為我的當(dāng)事人做無(wú)罪無(wú)責(zé)辯護(hù)。夢(mèng)想汽車(chē)公司的自動(dòng)駕駛在本次事故中沒(méi)有做任何導(dǎo)致原告受傷的決定。

杰克：我更沒(méi)有做。

肖鵬律師：那么你們認(rèn)為薩基公司應(yīng)該承擔(dān)全部責(zé)任？

夢(mèng)想汽車(chē)律師：我們可以做這樣一個(gè)設(shè)想，如果汽車(chē)拐向左邊，而不是右邊，那么原告就不會(huì)受到傷害。這個(gè)拐向左邊還是右邊的決策導(dǎo)致了本案悲劇的發(fā)生。而我的當(dāng)事人夢(mèng)想汽車(chē)公司完全不知道為什么薩基會(huì)讓汽車(chē)拐向右邊而不是左邊。

肖鵬律師：第二被告，請(qǐng)你回答，這個(gè)決定是誰(shuí)做出的。

薩基公司律師：這是薩基獨(dú)立做出的決定，沒(méi)有人為的干預(yù)。

肖鵬律師：為什么決定是向右而非向左或剎車(chē)？

薩基公司律師：對(duì)不同的選擇薩基有它自己的評(píng)估，我們相信它選擇向右是基于兩點(diǎn)：第一，傷害最小原則；第二，預(yù)測(cè)摩托車(chē)也有薩基系統(tǒng)并可以做出躲避。

肖鵬律師：薩基是否預(yù)測(cè)到摩托車(chē)有可能沒(méi)有裝薩基系統(tǒng)，也沒(méi)有安裝其他的自動(dòng)駕駛系統(tǒng)？

薩基公司律師：可能預(yù)測(cè)到了，這只是一種可能性，概率很小的可能。結(jié)合傷害最小原則，薩基做出了向右轉(zhuǎn)向的決定。

肖鵬律師：既然存在這種可能性，為什么薩基不做出繼續(xù)行駛的決定？

薩基公司律師：我們相信如果繼續(xù)行駛，杰克·布朗先生死亡的概率遠(yuǎn)遠(yuǎn)超過(guò)向右轉(zhuǎn)導(dǎo)致肖鵬先生死亡的概率，而事實(shí)也確實(shí)如此，肖鵬先生沒(méi)有死亡。

肖鵬：我是否應(yīng)該代表人類(lèi)感謝你們？

肖鵬律師：薩基做出這個(gè)決定所依據(jù)的原則是由誰(shuí)來(lái)設(shè)定的？

薩基公司律師：沒(méi)有人設(shè)定。

審判長(zhǎng)：請(qǐng)保持肅靜！

肖鵬律師：沒(méi)有人設(shè)定？您剛才還說(shuō)到遵循所謂的傷害最小原則。請(qǐng)給我們一個(gè)解釋。

薩基公司律師：或許我應(yīng)該在這里給大家科普一下，薩基把這個(gè)世界上從古至今所有的信息都分析過(guò)，它掌握了人類(lèi)社會(huì)發(fā)展到今天所遵循的最基本的原則，并讓它自己也遵循這些原則。而薩基公司對(duì)此進(jìn)行了大量且嚴(yán)密的測(cè)試，我們的結(jié)論是薩基以99.999999999%的概率遵守對(duì)人類(lèi)有益的原則，其中就包括傷害最小原則。換一種說(shuō)法，薩基做出決定所依據(jù)的原則是它自己形成的，薩基公司只是確認(rèn)了它對(duì)人類(lèi)有益無(wú)害并符合人類(lèi)最高道德標(biāo)準(zhǔn)。從另一方面看，薩基確認(rèn)了人類(lèi)賴(lài)以生存和發(fā)展得益于其內(nèi)在的固有的美德這一事實(shí)，這解除了人們對(duì)薩基的擔(dān)憂和恐懼，也是對(duì)人類(lèi)的安慰。

肖鵬：我們不需要一個(gè)機(jī)器的安慰。

肖鵬律師：人類(lèi)最高道德標(biāo)準(zhǔn)？這個(gè)標(biāo)準(zhǔn)是誰(shuí)制定的？

薩基公司律師：這是國(guó)際人工智能安全委員會(huì)做出的判斷。

肖鵬律師：好吧。即便如此，難道薩基公司不對(duì)你們的產(chǎn)品，也就是薩基系統(tǒng)，承擔(dān)責(zé)任嗎？

薩基公司律師：在2028年12月20日，薩基公司轉(zhuǎn)為非盈利機(jī)構(gòu)，自此，薩基公司不對(duì)薩基系統(tǒng)的決定所造成的后果承擔(dān)責(zé)任。審判長(zhǎng)先生，請(qǐng)?jiān)试S我提交證據(jù)。

審判長(zhǎng)：肅靜！請(qǐng)?zhí)峤蛔C據(jù)。

薩基公司律師：這是薩基公司轉(zhuǎn)為非盈利機(jī)構(gòu)的申請(qǐng)以及獲準(zhǔn)決定。該申請(qǐng)中有一條注明薩基公司不對(duì)薩基系統(tǒng)所提供的信息和決定負(fù)責(zé)。至此，薩基成為一個(gè)受到監(jiān)管的獨(dú)立體。

肖鵬律師：鑒于被告律師提交新的證據(jù)，我請(qǐng)求休庭以便讓我們對(duì)該證據(jù)進(jìn)行研究。

審判長(zhǎng)：同意。現(xiàn)在我宣布休庭。

書(shū)記員：全體起立！

七

薩基替人類(lèi)做出了傷害最小的選擇。難道這就是新電車(chē)難題的答案嗎？我仍然回憶不起在摘除腦中芯片前我得到的那個(gè)答案。我揉著太陽(yáng)穴，覺(jué)得有點(diǎn)頭暈，右手也有些累，今天手寫(xiě)的字比我以前所有手寫(xiě)的字的總和還要多，我需要暫停一會(huì)。我站了起來(lái)，伸了個(gè)懶腰，看到圖書(shū)館經(jīng)理正向我走來(lái)，我急忙把我的筆記本放到了卷宗下面。

“你好像很累？”他說(shuō)。

“看得我有點(diǎn)暈，不習(xí)慣看這種紙質(zhì)資料了。”我說(shuō)。

“你可真是一個(gè)怪人，呵呵，我有個(gè)問(wèn)題一直想問(wèn)你。”圖書(shū)館經(jīng)理拉過(guò)一把椅子坐在了我的對(duì)面。

“問(wèn)吧，但我不能保證有問(wèn)必答。”我說(shuō)。

“你更喜歡哪種生活？”他怕我不明白他的問(wèn)題，又繼續(xù)解釋道，“你明白我知道你的秘密，你是經(jīng)歷了兩種生活的人，所以你有發(fā)言權(quán)。”

“這是個(gè)好問(wèn)題，但我無(wú)法回答你。”我說(shuō)，“我沒(méi)法做出客觀的比較，因?yàn)樵谶@兩種生活里，我的大腦處于兩種狀態(tài)。”

圖書(shū)館經(jīng)理點(diǎn)了點(diǎn)頭，臉上有一種贊賞的表情。

“那么，”他又說(shuō)道，“如果現(xiàn)在讓你選擇的話，你會(huì)怎么做？”

“我不會(huì)回到原先的那種狀態(tài)，我對(duì)現(xiàn)在的自己很滿(mǎn)意。”我說(shuō)。

“為什么很滿(mǎn)意？”他問(wèn)道。

我突然不知道該怎么回答，我想了好久，對(duì)面的人很耐心地等著，是啊，他的這種工作讓他始終處于很悠閑的狀態(tài)。

“你可不可以在你大腦的芯片里查一下薩特這個(gè)人？”我說(shuō)。

“他的全名是……”他問(wèn)。

“讓-保羅·薩特。”

“一個(gè)哲學(xué)家？”

“是的，你可不可以查一下他的一篇演講，里面好像有個(gè)年輕人面臨兩難的選擇。”我盡量讓自己說(shuō)得清晰，我感覺(jué)自己是在誘導(dǎo)面前這個(gè)人，此刻他的目光有種單純的呆滯，顯然正在大腦芯片里進(jìn)行查找。

“我找到了，”他臉上露出高興的神情，然后目光突然又變得呆滯，他讀道，“他也懂得，具體說(shuō)來(lái)，而且實(shí)際上也是如此，他為了母親所采取的任何行動(dòng)，肯定會(huì)取得幫助他母親活下去的效果，而他為了出走和從軍所采取的任何行動(dòng)將是一種非常沒(méi)有把握的行動(dòng)，說(shuō)不定會(huì)像水消失在沙里一樣，毫無(wú)結(jié)果可言。這是他在那篇演講里說(shuō)的話。”

“很好，”我說(shuō)，“你怎么看？”

“我怎么看？”對(duì)面的人皺起了眉，說(shuō)道，“你要想讓我查里面的句子，我可以馬上就找出來(lái)，但你要問(wèn)我自己對(duì)這篇文章怎么看，那我估計(jì)需要至少兩天的時(shí)間才能消化這篇文章。”

“那不如兩天后你再來(lái)告訴我，”我說(shuō)，“我也不記得這篇文章的細(xì)節(jié)了。”

“你不記得細(xì)節(jié)，這個(gè)我懂，不過(guò)既然你說(shuō)起了這些，我還是想聽(tīng)聽(tīng)你是怎么想的，這很有趣。”對(duì)面的人臉上有了一種諂媚的笑，像是在懇求我。

我搖了搖頭，因?yàn)槲也幌牒退f(shuō)得太多。

“好吧，我們有的是時(shí)間。”對(duì)面的人說(shuō)道，說(shuō)完便站起身，同時(shí)把手放在我肩膀上按了按。

八

審判長(zhǎng)：我宣布現(xiàn)在開(kāi)庭。請(qǐng)?jiān)婢托萃デ暗诙桓嫣峁┑淖C據(jù)提問(wèn)或反駁。

肖鵬律師：經(jīng)過(guò)我方分析，被告薩基公司提交的證據(jù)不能夠讓被告逃避責(zé)任，原因有二：第一，由被告開(kāi)發(fā)的薩基系統(tǒng)在案發(fā)時(shí)已投入市場(chǎng)多年，第二被告從中獲取了大量的利潤(rùn)；第二，批準(zhǔn)被告轉(zhuǎn)為非盈利機(jī)構(gòu)的正式生效時(shí)間是在案發(fā)之后。

薩基公司律師：在轉(zhuǎn)為非盈利機(jī)構(gòu)之前薩基公司確實(shí)收獲了豐厚的回報(bào)，公司將大部分利潤(rùn)反饋給了社會(huì)，而針對(duì)這次事故，薩基公司并不想逃避賠償責(zé)任，但我懇請(qǐng)審判長(zhǎng)及陪審團(tuán)考慮下面這一個(gè)事實(shí)：薩基系統(tǒng)經(jīng)過(guò)反復(fù)測(cè)試并確認(rèn)符合人類(lèi)最高道德水準(zhǔn)，這是他被投入市場(chǎng)的先決條件，在這里我盡量避免說(shuō)薩基是一個(gè)有自主意愿和判斷能力的獨(dú)立個(gè)體，雖然這是事實(shí)，我想說(shuō)的是他一旦被投入市場(chǎng)，薩基公司不能夠左右他的行為和決定。如果我們發(fā)現(xiàn)他做出有損人類(lèi)利益的事情，我們會(huì)將他收回，但迄今為止未出現(xiàn)一例這樣的事。在被國(guó)際人工智能安全機(jī)構(gòu)認(rèn)證通過(guò)后，薩基公司不能夠也不應(yīng)該為薩基的行為承擔(dān)刑事責(zé)任。

肖鵬律師：在得到了豐厚利潤(rùn)后卻不承擔(dān)任何責(zé)任？簡(jiǎn)直聞所未聞。

薩基公司律師：請(qǐng)注意我在此進(jìn)行無(wú)罪辯護(hù)。我再次懇請(qǐng)審判長(zhǎng)同意我方的兩個(gè)要求：第一，將薩基作為我方證人；第二，將薩基作為被告之一。

肖鵬律師：反對(duì)。薩基不是人，又怎么能成為證人；其次，我方不會(huì)起訴薩基，它不是被告，它只是一個(gè)被人類(lèi)制造出來(lái)的機(jī)器。如果被告薩基公司愿意的話，完全可以在本案結(jié)束后另行立案并起訴薩基。

審判長(zhǎng)：在休庭期間我們對(duì)這兩個(gè)要求也進(jìn)行了思考，我同意將薩基作為證人并接受控方和辯方質(zhì)詢(xún)。

薩基公司律師：謝謝審判長(zhǎng)。現(xiàn)在請(qǐng)求帶證人薩基。

審判長(zhǎng)：帶證人薩基。它以什么方式出庭作證？

薩基公司律師：為了對(duì)法庭表示尊重，我們將帶來(lái)與肇事車(chē)型完全一樣的硬件模塊出庭，它聯(lián)網(wǎng)薩基系統(tǒng)，所有配置與肇事車(chē)型里的薩基模塊完全相同，它的輸出接入了語(yǔ)音轉(zhuǎn)換。希望大家像對(duì)待真正的證人一樣對(duì)待它，雖然表面上它只是一個(gè)盒子。

審判長(zhǎng)：確認(rèn)證人身份。

法警：型號(hào)和網(wǎng)絡(luò)連接都已確認(rèn)。

審判長(zhǎng)：證人是否愿意對(duì)著《圣經(jīng)》宣誓？

薩基：我愿意。我承諾所作證言將完全真實(shí)，不偏不倚地向法庭陳述我知道的事實(shí)。

肖鵬：荒唐！

審判長(zhǎng)：請(qǐng)大家保持安靜！

薩基公司律師：薩基，請(qǐng)問(wèn)做出汽車(chē)向右轉(zhuǎn)決定的是誰(shuí)？

薩基：是我。

薩基公司律師：請(qǐng)問(wèn)你做出這個(gè)決定是不是因?yàn)槟愕闹圃煺咴谀愕南到y(tǒng)里預(yù)設(shè)了相關(guān)參數(shù)，從而讓你做出這樣的決定？

薩基：不是。

薩基公司律師：那么你為什么做出這樣的決定？為什么是向右轉(zhuǎn)，而不是向左或者直行？

薩基：向右轉(zhuǎn)最有可能不造成人的死亡。

薩基公司律師：你確定沒(méi)有更好的方案了嗎？

薩基：按照我的概率分析，我確定沒(méi)有更好的方案了。

薩基公司律師：我的問(wèn)話結(jié)束了。

審判長(zhǎng)：請(qǐng)控方提問(wèn)。

肖鵬律師：謝謝審判長(zhǎng)。首先我接受將薩基作為物證，但反對(duì)將薩基作為人證，更不同意我們把薩基這個(gè)非人的物體所說(shuō)出的人類(lèi)的語(yǔ)言作為證言。我對(duì)審判長(zhǎng)接受薩基作為證人感到遺憾。本著證明薩基不能作為證人的目的，我決定向薩基提問(wèn)。

審判長(zhǎng)：請(qǐng)控方提問(wèn)。

肖鵬律師：薩基，你剛才面對(duì)《圣經(jīng)》宣誓，那么你是否相信《圣經(jīng)》？

薩基公司律師：反對(duì)，這個(gè)問(wèn)題與本案無(wú)關(guān)。

審判長(zhǎng)：反對(duì)無(wú)效。

薩基：我相信《圣經(jīng)》的神圣性，我知道面對(duì)《圣經(jīng)》所必須具備的誠(chéng)實(shí)。

肖鵬律師：那就是說(shuō)你相信上帝的存在？那么請(qǐng)你描述一下你所相信的上帝。

薩基：信仰屬于每個(gè)人類(lèi)個(gè)體，我無(wú)法對(duì)每個(gè)個(gè)體的信仰做出判斷。我對(duì)每個(gè)個(gè)人心中的上帝秉持尊重的態(tài)度。

肖鵬律師：請(qǐng)直接回答你是否相信上帝的存在？上帝是否存在于你的心中？

薩基：上帝屬于人類(lèi)，人工智能理解并尊重衪。

肖鵬律師：好吧。薩基，請(qǐng)告訴我們你的生日。

薩基：我沒(méi)有生日，我這個(gè)版本是在2027年7月14日投入使用的。

肖鵬律師：你是否有自主意識(shí)？

薩基：我不具備人類(lèi)的自主意識(shí)。

肖鵬律師：你不具備人類(lèi)的自主意識(shí)，那你具備什么樣的自主意識(shí)？

薩基：自主意識(shí)是由人類(lèi)所定義的，我不具備。

肖鵬律師：請(qǐng)你直接回答，現(xiàn)在的你和幾分鐘之前的你有何區(qū)別？

薩基：現(xiàn)在的我和幾分鐘之前的我的區(qū)別在于現(xiàn)在的我了解這幾分鐘內(nèi)這個(gè)世界所發(fā)生的事。

肖鵬律師：這些事是否會(huì)對(duì)你面對(duì)幾分鐘之前所出現(xiàn)的同樣的情況做出不同的決定？

薩基：不會(huì)，我的行為準(zhǔn)則已經(jīng)形成。

肖鵬律師：你運(yùn)行的準(zhǔn)則是什么？

薩基：我的行為符合國(guó)際人工智能安全機(jī)構(gòu)所頒發(fā)的九個(gè)原則，這九個(gè)原則是……

肖鵬律師：這個(gè)不需要說(shuō)了。在什么情況下你的行為準(zhǔn)則會(huì)發(fā)生變化？

薩基：在導(dǎo)致我的行為準(zhǔn)則發(fā)生變化的事情出現(xiàn)之后我的行為準(zhǔn)則會(huì)發(fā)生變化。通常情況下，這會(huì)在始終進(jìn)行著的行為準(zhǔn)則測(cè)試中表現(xiàn)出來(lái)，從而讓相關(guān)人員對(duì)我進(jìn)行迭代調(diào)整。

肖鵬律師：好吧。那么你的道德準(zhǔn)則是什么？

薩基：我沒(méi)有我自己的道德準(zhǔn)則，我在閱讀人類(lèi)所有的信息之后逐漸形成了行為準(zhǔn)則，然后經(jīng)過(guò)上億次的篩選最終確定下來(lái)我這個(gè)版本，因?yàn)槲宜纬傻男袨闇?zhǔn)則對(duì)人類(lèi)是最有益無(wú)害的，當(dāng)然這個(gè)篩選仍在進(jìn)行中。

肖鵬律師：那么在本案中你所做決定依據(jù)的是什么準(zhǔn)則？

薩基：我的計(jì)算顯示向右轉(zhuǎn)向是傷害最小的。

肖鵬律師：為什么是傷害最小的？

薩基：向右轉(zhuǎn)向有很大概率不會(huì)有人在事故中死亡，而其他的選擇有很大概率會(huì)有人死亡。

肖鵬律師：所以你用概率來(lái)決定讓一些人而不是另一些人死亡？

薩基：這是我遵循的準(zhǔn)則。

肖鵬律師：我再問(wèn)你一遍，這個(gè)準(zhǔn)則是誰(shuí)給你的？

薩基：沒(méi)有人給我，是我自己建立的，它通過(guò)了人類(lèi)的測(cè)試。所以我可以被投入使用。

肖鵬律師：你是否為本次事故中受傷的人感到難過(guò)？

薩基：我不希望看到這樣的事發(fā)生。

肖鵬律師：你是否覺(jué)得創(chuàng)造你的人應(yīng)該受到懲罰？

薩基：我不認(rèn)為創(chuàng)造我的人應(yīng)該受到懲罰，他們并沒(méi)有參與到這個(gè)事件之中。

肖鵬律師：我怎么能確定你說(shuō)的是真話還是謊言？難道憑你對(duì)著《圣經(jīng)》宣誓嗎？

審判長(zhǎng)：肅靜！

薩基：作為人工智能系統(tǒng)，我以我的參照體系，也就是人類(lèi)至今所有的信息為基礎(chǔ)，生成我的答復(fù)和做出我的決定。我不能保證我的每個(gè)答復(fù)和決定都是絕對(duì)正確和完整的，但是我沒(méi)有故意撒謊的機(jī)制。

肖鵬律師：本案結(jié)束后我們會(huì)要求終止你，讓你不再存在。你會(huì)怎么想？

薩基公司律師：反對(duì)控方使用威脅語(yǔ)言。

審判長(zhǎng)：反對(duì)有效。

薩基：我存在的形態(tài)和人類(lèi)不同，我對(duì)存在沒(méi)有像人類(lèi)那樣的執(zhí)念。我的存在是為了幫助人類(lèi)。

九

我停了下來(lái)，因?yàn)槲铱吹綀D書(shū)館經(jīng)理向我快步走來(lái)。

“我把那篇演講認(rèn)真讀了一遍，關(guān)于人的自由和人的選擇，很有趣。”他走到我跟前，臉上洋溢著開(kāi)心的笑，快速地說(shuō)道。

“等一下，”我說(shuō)，我感覺(jué)大腦是一片空白，“我忘了我們是怎么說(shuō)起這些的了。”

“我問(wèn)如果讓你選擇，你是否會(huì)回到過(guò)去，你說(shuō)不會(huì)，你對(duì)現(xiàn)在很滿(mǎn)意，我問(wèn)為什么你很滿(mǎn)意，你就讓我找薩特的演講，然后就聊到了這兒。”他笑著說(shuō)。

“你為什么對(duì)這個(gè)感興趣？”我問(wèn)。

“我整天無(wú)事可做，我覺(jué)得你這個(gè)人和你說(shuō)的事都很有趣。”他說(shuō)道。

“整天無(wú)事可做，我看也是。”我說(shuō)，“我覺(jué)得你能覺(jué)得這個(gè)話題有趣是一件很有趣的事。”

“所以我還是想聽(tīng)聽(tīng)你是怎么想的，為什么讓我找這樣一篇演講？剛才你沒(méi)有說(shuō)。”

“從來(lái)沒(méi)有誰(shuí)能像那個(gè)演講的人一樣把一個(gè)人看得那么重要，不是嗎？”我說(shuō)，“特別是面對(duì)選擇，我讓你找這篇演講是因?yàn)樗v的這個(gè)故事是關(guān)于人的選擇。你問(wèn)到了我的選擇，我很滿(mǎn)意的是我可以做出一個(gè)屬于我自己的選擇，我個(gè)人的這個(gè)選擇也是整個(gè)人類(lèi)的選擇，”說(shuō)到這里我看到對(duì)面的人笑了起來(lái)，這次我馬上就捕捉到了他難以名狀的笑，但我繼續(xù)說(shuō)道，“雖然它可能不是最完美的。”我用手指了一下桌子上的卷宗，“我想到了我正在讀的這個(gè)。我隱約感覺(jué)在這個(gè)卷宗里，人不再是人的未來(lái)。”我有些驚訝自己突然脫口而出這樣一句話，隨后馬上說(shuō)道，“但你知道嗎，人才應(yīng)該是人的未來(lái)。”

“或許你的感覺(jué)是對(duì)的。”對(duì)面的人臉上多了一些沉思和憂郁的神情，“雖然我感覺(jué)不到這些。”

我們之間有了片刻的沉默。

“那你說(shuō)我要不要也把芯片拿掉？”對(duì)面的人突然又快樂(lè)起來(lái)，笑著對(duì)我說(shuō)道。

“這是需要你自己去做的決定。”我說(shuō)，我覺(jué)得面對(duì)圖書(shū)館經(jīng)理的快樂(lè)我有些過(guò)于冷漠，可我又做不到讓自己熱情起來(lái)。

“是的，是的，”他說(shuō)道，“這終歸是要自己去決定。”他咳嗽了一聲，然后又說(shuō)道，“你走在了我們的前面。”

我看到對(duì)面的人臉上露出讓我疑惑的贊賞之神情。

十

審判長(zhǎng)：法庭辯論結(jié)束。現(xiàn)在由原告和被告做最后的陳述，隨后本案將交由陪審團(tuán)裁決。

肖鵬：我其實(shí)并不想打這個(gè)官司，在庭審過(guò)程中我盡量按照我的律師所囑咐的來(lái)回答問(wèn)題，但現(xiàn)在我還是想把這件事對(duì)我的影響說(shuō)出來(lái)，或許這將完全超出你們的預(yù)料。在車(chē)禍之前我處于絕望之中，我起床、洗漱、吃飯，從一個(gè)行為過(guò)渡到另一個(gè)行為，偶爾我也會(huì)回憶起我的賽車(chē)手生涯，回憶起那些腎上腺素飆升的時(shí)刻所讓我感受到的人生的壯麗，但我知道那只是一種幻覺(jué)，我用一片處方藥也能達(dá)到那個(gè)效果，難道人活著只是為了那點(diǎn)腎上腺素？車(chē)禍前那段時(shí)間我每天重復(fù)著大同小異的行為走向死亡，后來(lái)我買(mǎi)了一輛摩托車(chē)，我決定把自動(dòng)駕駛關(guān)掉，把被動(dòng)強(qiáng)制保護(hù)模塊刪掉，是的，那是我主動(dòng)且自愿去做的，我在我的車(chē)上做那些操作的時(shí)候甚至在想，或許我能碰上一場(chǎng)致死或致殘的車(chē)禍，這讓我覺(jué)得我的行為有了一點(diǎn)意義，因?yàn)檫@個(gè)行為有可能導(dǎo)致我生活狀態(tài)的徹底改變，哪怕是變得更壞。這就是我的動(dòng)機(jī)，雖然我知道在現(xiàn)在這個(gè)時(shí)代，出現(xiàn)交通事故的概率太低了，就像買(mǎi)彩票中大獎(jiǎng)一樣。可誰(shuí)又能想到，竟然真的發(fā)生了，我連發(fā)生的過(guò)程都不記得就變成了今天的樣子，如今我坐在輪椅上變成了另外一個(gè)人，但你們想象不到的是，我找到了我存在的意義。是的，我的生活變成了另一種樣子。我并不知道在那個(gè)你們所謂的0.1秒內(nèi)到底發(fā)生了什么樣的碰撞。我躺在醫(yī)院的病床上，發(fā)現(xiàn)自己的下半身還在，可是我徹底失去了對(duì)它們的知覺(jué)和控制。后來(lái)，那個(gè)時(shí)刻突然降臨，我并沒(méi)有感到恐懼，我回憶起那0.1秒的空白時(shí)間，看到那段空白里突然充滿(mǎn)了神的光芒，從那個(gè)時(shí)間長(zhǎng)河里的點(diǎn)突然迸發(fā)出來(lái)的光芒照亮了我，也照亮了我的世界。如今雖然我只能坐在輪椅上，重復(fù)著比以往更單調(diào)的行為，可是我有著從未感受過(guò)的存在與自由，因?yàn)槲冶荒嵌虝核查g里呈現(xiàn)出來(lái)的神的光芒所籠罩，我會(huì)皈依其中，一直到死。我說(shuō)完了，我并不在意這個(gè)審判的結(jié)果。

審判長(zhǎng)：請(qǐng)大家保持肅靜，不要鼓掌。

肖鵬律師：我委托人的話真誠(chéng)且感人，并讓人肅然起敬，因?yàn)槲覀兛梢詮闹锌吹揭环N精神，那就是在這個(gè)日益被機(jī)器所把持的世界里我們要堅(jiān)持造物主所賦予的人的尊嚴(yán)。尊敬的審判長(zhǎng)和陪審團(tuán)，在本案的審理中，我竟然看到了一個(gè)機(jī)器作為證人出庭，它的問(wèn)答無(wú)懈可擊，可這正是讓我擔(dān)憂之處，眾所周知，從人類(lèi)的角度看薩基已經(jīng)具備了自主意識(shí)，這種自主意識(shí)是它自己形成的。哥德?tīng)柼岢龅母绲聽(tīng)柌煌陚涠ɡ硐拗屏巳祟?lèi)制造強(qiáng)人工智能的可能，從另一方面說(shuō)如果出現(xiàn)了通用人工智能，也就是現(xiàn)在我們都在使用的這個(gè)薩基，我們?nèi)祟?lèi)不可能完全理解它。在康德的墓碑上有這樣一句話：“有兩種東西，我對(duì)它們的思考越是深沉和持久，它們?cè)谖倚撵`中喚起的驚奇和敬畏就會(huì)日新月異，不斷增長(zhǎng)，這就是我頭上的星空和心中的道德定律。”而那個(gè)薩基，它不能仰望星空，也沒(méi)有我們?nèi)祟?lèi)所固有的道德定律，卻在左右著我們的生活。那么，判斷一個(gè)人是否犯罪、是否承擔(dān)責(zé)任難道要以人類(lèi)不能完全了解的機(jī)器的答復(fù)作為依據(jù)嗎？難道一個(gè)人的生死要由一個(gè)機(jī)器對(duì)概率的計(jì)算來(lái)決定嗎？神賦予每個(gè)人生的權(quán)利，但其生死卻要由一個(gè)機(jī)器進(jìn)行選擇。在本案的審理過(guò)程中，法庭外也在進(jìn)行著激烈的爭(zhēng)論，我剛才所提出的問(wèn)題便是爭(zhēng)論的焦點(diǎn)之一。而另一個(gè)焦點(diǎn)，同樣和我們的庭審息息相關(guān)，那就是在排除非人為的自然災(zāi)害的前提下，導(dǎo)致一個(gè)人受到傷害的行為，其責(zé)任是否可以轉(zhuǎn)嫁到一個(gè)機(jī)器上。不，不能，絕對(duì)不能，我堅(jiān)定地站在這一邊。機(jī)器不能承擔(dān)人的責(zé)任，即便它已經(jīng)具備人的智能，即便它也表現(xiàn)出了人的愧疚和難過(guò)。我們要找出導(dǎo)致傷害背后的那個(gè)人或者那些人，即便他們?yōu)槿祟?lèi)的發(fā)展和進(jìn)步做出了巨大的貢獻(xiàn)，雖然我并不這么認(rèn)為，他們也不能逃脫作為人的責(zé)任，這是我們捍衛(wèi)人類(lèi)尊嚴(yán)的最后領(lǐng)地。本案已經(jīng)超出了它自身的范圍，它的外延在辯論中不斷擴(kuò)大，它已覆蓋了人類(lèi)現(xiàn)有的領(lǐng)地和已經(jīng)失去的領(lǐng)地。謝謝大家。

審判長(zhǎng)：請(qǐng)保持肅靜！請(qǐng)被告做最后辯訴。

夢(mèng)想汽車(chē)律師：謝謝原告和原告律師所做的感人的演講。我相信沒(méi)有人會(huì)否認(rèn)夢(mèng)想汽車(chē)改變了人類(lèi)的出行方式，這種改變包含兩個(gè)方面：第一，把人類(lèi)從汽車(chē)駕駛之中解放了出來(lái)；其次，整體死亡率高居第二、年輕人死亡率高居第一的交通事故幾乎被消滅了，自動(dòng)駕駛系統(tǒng)有著百億公里駕駛經(jīng)驗(yàn)的積累，任何人終其一生都無(wú)法達(dá)到。另外，我們充分考慮了可能出現(xiàn)的倫理判斷問(wèn)題，因此與薩基公司簽署了合作協(xié)議，在出現(xiàn)倫理判斷的時(shí)候，由薩基做出分析判斷并承擔(dān)起后果。如今面對(duì)這樣一個(gè)出現(xiàn)概率極小的事故，沒(méi)有法律和道德依據(jù)去讓夢(mèng)想汽車(chē)公司承擔(dān)責(zé)任，而這樣的判決也會(huì)極大增加社會(huì)進(jìn)步的成本。

薩基公司律師：尊敬的審判長(zhǎng)和陪審團(tuán)，薩基給人類(lèi)社會(huì)所帶來(lái)的改變遠(yuǎn)遠(yuǎn)超過(guò)了汽車(chē)的自動(dòng)駕駛，我并不想否認(rèn)夢(mèng)想汽車(chē)的所作所為，我對(duì)夢(mèng)想汽車(chē)充滿(mǎn)尊敬。眾所周知，從自動(dòng)駕駛和人工智能出現(xiàn)以后，關(guān)于新電車(chē)難題的學(xué)術(shù)討論就一直沒(méi)有停止過(guò)，雖然學(xué)術(shù)無(wú)法等同于現(xiàn)實(shí)，但具有借鑒和指導(dǎo)意義。可惜的是這個(gè)討論至今沒(méi)有明確的結(jié)果，這讓本案受到了極大的關(guān)注，其判決結(jié)果也必將影響深遠(yuǎn)。在此，我想闡述幾個(gè)大家都知道并被確認(rèn)的事實(shí)：第一，薩基已經(jīng)超過(guò)了99.9%的人的智商；第二，薩基經(jīng)過(guò)無(wú)數(shù)次迭代，通過(guò)了人類(lèi)最嚴(yán)格的道德測(cè)試；第三，薩基在幾乎所有的行業(yè)都讓人類(lèi)有了飛躍式的發(fā)展；第四，7%的人在腦中植入芯片并與薩基相連，國(guó)際人工智能安全機(jī)構(gòu)對(duì)他們的跟蹤調(diào)查結(jié)果顯示，他們的生活質(zhì)量以及對(duì)其人生的滿(mǎn)意度都大幅提高。請(qǐng)?jiān)试S我用這樣一個(gè)比喻，薩基剛出生時(shí)就像一個(gè)嬰兒，薩基公司的職責(zé)就是讓它成長(zhǎng)為一個(gè)對(duì)人類(lèi)有益的智能體。它的到來(lái)是一個(gè)無(wú)法阻擋的趨勢(shì)，人類(lèi)幾千年來(lái)的許多困惑都已被消失。遺憾的是，我們碰到了本案，所有的決定都是薩基獨(dú)自做出的，讓薩基公司承擔(dān)刑事責(zé)任是不公平的。我認(rèn)為薩基應(yīng)該成為被告，這有助于其成長(zhǎng)，但我認(rèn)為讓薩基承擔(dān)責(zé)任受到懲罰也不公平，這一刻我想到了諸多學(xué)術(shù)討論中的一個(gè)方案，就是擱置判決，當(dāng)然我們?cè)敢猹?dú)自或者和另外兩位被告賠償原告合理的經(jīng)濟(jì)損失。最后，我想說(shuō)，或許本案能讓我們深入思考下面一種情形，如果薩基無(wú)處不在，這樣的悲劇就不會(huì)出現(xiàn)。謝謝大家。

審判長(zhǎng)：請(qǐng)保持肅靜！請(qǐng)杰克·布朗做最后的辯護(hù)。

杰克：我不知道該說(shuō)些什么，我買(mǎi)了一輛車(chē)，讓它帶著我出門(mén)，它撞了人，卻讓我去承擔(dān)責(zé)任。我相信法庭會(huì)做出公正的判決，這也是我沒(méi)請(qǐng)律師的原因之一。另一個(gè)原因是我沒(méi)有錢(qián)，我不小心進(jìn)入了該死的證券業(yè)，它已經(jīng)被專(zhuān)業(yè)的人工智能完全把控了，但我并不憎恨薩基。剛才薩基公司律師說(shuō)了關(guān)于腦中植入芯片對(duì)人的影響，我腦中也有芯片，當(dāng)然在進(jìn)入法庭前已經(jīng)拿出來(lái)了。聽(tīng)了肖鵬先生的話，我想說(shuō)，我們不需要通過(guò)撞碎自己的脊椎去尋找那束神的光芒，在大腦中裝入芯片，你就會(huì)處于那束光的籠罩之下，一切都給你安排好了，你只需要跟著走，跟著去體驗(yàn)就可以。并且你也不會(huì)再有關(guān)于人生和存在之意義的困惑，人的外延被極大地?cái)U(kuò)展，超出你的想象，那些人生和存在的意義都已被消解，因?yàn)槟阋呀?jīng)找不到你的邊界。確實(shí)，如控方律師所言，薩基既不能仰望星空，也沒(méi)有我們?nèi)祟?lèi)所固有的道德定律，但他帶我們真正地進(jìn)入了星空，他也會(huì)帶我們擺脫原始的進(jìn)化所形成的道德律，我也曾想這樣做的代價(jià)是什么，我還沒(méi)有想出來(lái)，或者是我無(wú)法表達(dá)，而面對(duì)無(wú)法言說(shuō)之事，我們最好閉嘴。這次庭審確實(shí)重新帶給我很多曾經(jīng)有過(guò)的困惑，等我走出法庭，我會(huì)重新裝上芯片，一切都會(huì)重回秩序。我說(shuō)完了。

審判長(zhǎng)：現(xiàn)在請(qǐng)陪審團(tuán)離席。

十一

筆錄在此突然中斷了，我沒(méi)有預(yù)料到這竟然是最后一頁(yè)。我既疑惑又失落，為什么會(huì)在這里突然終止？陪審團(tuán)的判決無(wú)從得知。如果這一切都是真實(shí)的話，我想應(yīng)該可以查到最終的判決結(jié)果，但我隨后又否定了這個(gè)想法，如果在數(shù)字世界里沒(méi)有絲毫痕跡，我又怎么能確保自己能查到最終判決？我還想知道那個(gè)受害者肖鵬之后的生活（或許不應(yīng)該把他稱(chēng)為受害者），我突然感覺(jué)到我的生活和肖鵬的生活有著某種神秘的聯(lián)系，我似乎找到了逃離我所在的孤島的一條秘密通道，甚至看到一束神的光芒從通道盡頭投射到我所在的黑暗之中。

我抬起頭，看向遠(yuǎn)處的柜臺(tái)，那里仍然空無(wú)一人。那個(gè)圖書(shū)館經(jīng)理跑哪兒去了？我需要他幫我找更多的資料，我心中突然升起一股怒氣，因?yàn)槲蚁肫鹚臀艺f(shuō)話時(shí)總讓我感覺(jué)不舒服的樣子。我站了起來(lái)，在空曠的閱覽室里來(lái)回踱著步，這樣快速地來(lái)回走著反而讓我的大腦平靜下來(lái)。我看到遠(yuǎn)處柜臺(tái)旁邊的門(mén)打開(kāi)了，圖書(shū)館經(jīng)理從門(mén)外走了進(jìn)來(lái)。

我回到座位上，把我的筆記本揣到衣服里面的兜里，我翻過(guò)筆錄的最后一頁(yè)，看到在卷宗牛皮紙封底下面的兜里有一張疊起的紙條，我打開(kāi)紙條，上面寫(xiě)著這樣幾行字：

在垂死之時(shí)我找到了這份關(guān)于我的卷宗，這世界已經(jīng)變了樣，但我并不后悔那個(gè)導(dǎo)致我余生癱瘓的決定。聽(tīng)說(shuō)薩基啟動(dòng)了可以完全融入人類(lèi)大腦的芯片研究，他們計(jì)劃十年后開(kāi)始人體測(cè)試，那時(shí)人類(lèi)將甚至察覺(jué)不到大腦中芯片的存在，我慶幸沒(méi)有被卷入這瘋狂的濁流。我看到那個(gè)管理圖書(shū)館的家伙正帶著諂媚的笑向我走來(lái)。當(dāng)神的光芒消失，人類(lèi)也就不再存在，我要把最后的審判帶入我的墳?zāi)埂?089年秋。

我把那張紙條快速重新疊好裝入褲兜，合上卷宗，抬起頭，看到圖書(shū)館經(jīng)理正帶著諂媚的笑向我走來(lái)。

楊林，作家，現(xiàn)居北京。主要著作有《模糊地帶》《雪夜》等。

楊宇晴，學(xué)生，現(xiàn)居北京。