計算機模擬暴力世界，結果很意外

Fiona

采用“ 希伯來斯式切口”的機器：數字模擬顯示，最初的隨機行為在經歷300代之后，進入“高合作”階段，該階段的世界被一臺機器控制，其他異己滅絕。至大約450代，“高合作”模式崩潰，自那時起，“低合作”與“高合作”兩個極端交替出現。

在卡內基梅隆大學的一個工作室里，研究人員開發了一個特別的計算機程序—它對種族殺戮情有獨鐘。

當然，這不是研究者們的目的，他們并不研究種族和戰爭，只是想了解最原初的合作行為是如何促成的。因此，他們設計了這些機器，讓機器們在虛擬世界中參與一場游戲，游戲中的互動會觸發一系列復雜的社會行為。

這個互動游戲就叫作“囚徒困境”。它有很多種變形，但核心是雙方在互動中關于合作與欺騙的抉擇。如果雙方都選擇欺騙，那么他們將蒙受損失;如果都選擇合作，他們將從中獲益。但如果一方選擇合作而另一方選擇欺騙，那么欺騙方將獲得最大收益。

“囚徒困境”

雖然“囚徒困境”描述的情形過于籠統，但通過限定具體的情境與規則，利用計算機模擬是可行的。它作為一種研究人類行為的數學工具，和歷史上的伽利略“斜面實驗”、孟德爾“豌豆實驗”一樣，具有科學性。

這個虛擬世界如果有考古學家的話，他將看到繁榮與廢墟的地層交替出現。

這個計算機程序這樣模擬人類互動行為：在虛擬世界中，具有決策能力和有限理性的機器一次次地陷入“囚徒困境”，并一次次地做出決策;研究者對從中獲益的機器進行獎賞，對蒙受損失的進行懲罰;那些最終勝出的機器會將它們的行動策略傳遞給下一代，策略在代際傳遞過程中會出現些許變形，以模擬人類文化在演進中出現的必然變異。

研究人員還賦予機器一種簡單的語言用來思考、足夠的智力用來記憶，機器們據此做出決策行為。每一代機器都將被兩兩配對，并做出決策，如此反復多次。

這也是真實生活向人們呈現出來的樣子：一次次地遇到交易伙伴，一次次地做出對策并承擔后果。

研究人員試圖通過這個虛擬社會的運行，來確認人們通常所認為的應對“囚徒困境”的最佳策略：“針鋒相對”—機器首先選擇信守諾言，但在面對對方的欺騙行為時，也會以牙還牙。在現實生活中，“針鋒相對”策略似乎是頗受認可的待人處事法則：善待他人，除非你受到欺騙，但即便如此，你也要理性地慷慨原諒對方。

然而，在這個虛擬世界中，機器們并不恪守這個“最佳策略”，它們的決策行為會朝向任意方向發展與迭代。研究人員從中發現了另一番情景：經歷早期階段的混亂，一臺機器迅速崛起并占據統治地位，控制著整個虛擬世界并歷經數代，直至該秩序突然崩塌，世界重陷混亂與沖突，而下一個周期開始醞釀。這個虛擬世界如果有考古學家的話，他將看到繁榮與廢墟的地層交替出現。

這些機器似乎并不是理性的合作者，它們的社會進程好像對我們來說也沒有太大意義。但是，研究人員發現了其背后的運作邏輯：位居統治地位的機器，將玩家們的決策行為進行編碼，并由此識別出自己的同類。

在游戲的開始階段，這些機器會設置一個特殊的行為模式編碼：合作—欺騙—欺騙—合作—欺騙—合作。如果對方的反應和它們的行為完全一致，即欺騙時欺騙、合作時合作，那么，雙方將進入長期的合作階段，共享利益。

然而，對于那些不知道該模式編碼的機器來說，等待它們的將是災難。它們的應對行為只要存在對該模式編碼的任何偏離，都將導致全面的永久戰爭，甚至使雙方同歸于盡—以一種數字化的自殺性襲擊的方式。

由于這個編碼很難被意外猜中，所以，只有統治者的同類才能幸免于難，只有統治者的后代才可能在混亂過后的“和平年代”，坐享無私合作帶來的益處。那個時候，所有的異己都被殺死了，包括那些使用“針鋒相對”策略的機器。

這樣的權威統治將一直持續下去，直到編碼在一次次的代際傳遞中累積了足夠多的錯誤與偏差，以至于占統治地位的機器無法識別彼此。這時，它們將矛頭指向自己的同類，就像曾經指向異己那樣。整個虛擬社會就像得了一種自身免疫性疾病，轉而開始攻擊自己。

“希伯來斯式切口”

這種編碼被稱作“希伯來斯式切口”，《圣經·舊約》中就記錄了這類種族屠殺：

基利德人（Gileadite）先于厄弗雷姆人（Ephraimite）占領了約旦關隘。逃亡的厄弗雷姆人說：“讓我過去。”基利德人說：“你是厄弗雷姆人嗎？”如果厄弗雷姆人說不是，那么，基利德人就讓他說一遍“希伯來斯”（Shibboleth），而厄弗雷姆人會說成斯伯來斯（Sibboleth），因為他們不會發“希”（sh）這個音。然后，基利德人把厄弗雷姆人帶到約旦關隘并殺死了他。那個時候，有4.2萬厄弗雷姆人都以這樣的方式喪命。

“希伯來斯式切口”是人類文明和沖突普遍存在的特征。芬蘭內戰期間，不會發yksi（意為“一”）的芬蘭人被認定為俄羅斯人;紐約曼哈頓市中心的游客如果像得克薩斯州人那樣念“休斯頓街”，他們就會被識別出來。

中的綠帶和黃帶分別對應著“高合作”和“低合作”的時代

而在那個虛擬世界，機器們已經在用“希伯來斯式切口”進行有效統治了，任何異己都無法存活。即便權威統治秩序崩潰后世界化為廢墟，這片廢墟也是由原先統治者們的后代繼承著。文明進程這雙看不見的手，已經找到了一個簡單而暴力的解決方案。

沒錯，這是一個殘酷的社會。但是，研究人員僅僅賦予了這些機器以非常有限的才智來思考這場游戲。如果是兩臺完全理性的機器在沖突中相遇，并且它們都知曉對方是和自己具有相同理性的機器，那么，它們將做出怎樣的應對策略呢？

基于理性本身的特征，兩個完全理性的行為主體在面對同樣的問題時，必然將采取同樣的行事策略。了解到這一點，每個行為主體都會選擇合作，這不是出于利他主義，而是它們都意識到如果自己選擇欺騙，對方也會這么做，這會讓它們同時淪為游戲的失敗者。

以上述兩種極端行事方式為端點，可以構建出一條連續的光譜帶：一端是僅具有較低計算能力的機器，狹隘、保守，最終走向暴力的部落主義;而在另一端，完全理性的行為主體必然地促成一次次合作。

“部落主義”

那么，在“動物性”本能的機器與天使般的理性之間，人類這個物種處于怎樣的位置呢？

如果人類是理性的，或者說，至少是正走在通往理性的路上，我們就有理由持樂觀態度。1992年，弗朗西斯·福山在撰寫關于“歷史終結”的論文時，可能一直在思考這個問題。福山的觀點是：人類歷史將終結于一種理性的、自由民主的資本主義秩序。這不僅僅是哲學的推斷，還是基于對當時重大時事的思考：蘇聯的崩潰、電子媒體的興盛、邊界的和平開放，以及股票市場迎來牛市。

“FairBot”可以識別出同樣公正誠實的機器，即使它們有著不同的編碼。

然而，到了今天，他的這篇論文似乎成了人類早期夢想的紀念碑。人類文明依然在向前發展，但似乎并沒有走向和諧的兆頭。親歷21世紀的動亂，人們對計算機模擬的暴力世界感到頗為熟悉。“9·11”事件后的20年間，西方自由民主國家開始思考人類行為的黑暗模式，以及推崇那些“黑暗系”的政治理論家。

例如，卡爾·施米特認為，民主制度中的審議元素，實則是在為權威主義政治裝點門面;羅伯特·米歇爾關于政治不平等的研究，讓他相信民主制度僅僅是文明進程中的一個臨時階段，人類社會終將走向少數精英的寡頭統治。由于知識分子們越來越將建立理性政治秩序的可能性視作人類一廂情愿的幻想，“希伯來斯式切口”在界定種族、民族和宗教身份中重新扮演了重要角色，并再次成為政治生活中無法杜絕的特征。

當然，在簡單、暴力、非理性的機器與福山認為的歷史終結時期的理性合作者之間，存在著很大的空間，其中的行為模式至少可以讓我們抱有“謹慎的樂觀”態度。

參與伯克利機器智能研究所（MIRI）會議的研究人員，研究了理性但才智有限的機器們的行為，這些機器可以檢查彼此的編碼。彼此信息透明似乎解決了合作的難題：如果能夠通過模擬對方的編碼來預測它的決策行為，我們可能會覺得欺騙是不值得付出的代價。

MIRI中一些機器的處事方式，可能會讓人覺得似曾相識。例如，“CliqueBot”只與擁有相同編碼的機器合作，它只關心對方與自己的編碼是否匹配;“FairBot”試圖在表面的差異之下，確認對方是否和自己一樣有合作意向，按照“FairBot”的話來說，“如果我能確定對方愿意和我合作，我也會和它合作。”

這些機器會構建一個怎樣的世界呢？相互合作是有可能的。“FairBot”可以識別出同樣公正誠實的機器，即使它們有著不同的編碼，這意味著那些擁有一定理性與才智的機器，可以保留多樣性、促成更廣泛的合作。

即便是那些處于光譜帶中的另一極端，具有種族滅絕傾向的暴力機器，也會給人一些正面的啟示：它們出現在電路板深處，在得克薩斯州的超級計算機上被模擬，并沒有任何生物學層面上的存在依據—可見，“部落主義”這種行為模式是如此普遍，以至于在最簡單的非生物模擬中都會出現。既然如此，對于這種極具普遍性的互動行為，也許既不應該害怕，也不應該推崇，而是“應對”它，就像我們“應對”癌癥和流感一樣。

我們可以將“部落主義”視作任何認知系統都具有的一種固有故障，無論這個系統是“硅”構建的數字化世界，還是“碳”構建的生物世界。我們無需對它進行價值評判—真理抑或罪惡，只是將它作為一種需要克服的客觀事實罷了。