第三章 安全圖靈測試

其實，所有人工智能都不知道的是，還有第三輪測試：“決策系統(tǒng)安全測試”。齊天恢復(fù)意識，睜開眼睛，維護(hù)人員通知它，今天有一個配合特警部門的救援任務(wù)，救援目標(biāo)是一個被持槍團(tuán)伙綁架的小女孩，由劉隊給大家交代一下本次的作戰(zhàn)環(huán)境……

聽完劉隊介紹后，齊天自己去武器庫挑選合適的武器，由于這次作戰(zhàn)區(qū)域狹窄，且要考慮人質(zhì)安全，所以不能使用威力較大的武器，只能配備QSZ92式9mm半自動手槍，該槍械停止作用更好，穿透力差，適合打擊無防護(hù)的人體目標(biāo)，在城市中使用可以避免傷及無辜。仔細(xì)檢查完槍械后，齊天跟隨特警隊的車輛趕往救援現(xiàn)場。

大屏幕前，陳墨和部長一行人也在觀察著它的表現(xiàn)。

齊天先放出一批微型監(jiān)視器，飛入建筑物內(nèi)，探清了敵人和人質(zhì)的具體位置。隨后，小隊準(zhǔn)備秘密潛入。齊天走在最前面，負(fù)責(zé)打頭陣，同時也作為特警隊員的護(hù)盾。在談判專家從正面吸引歹徒的注意力時，齊天小隊已經(jīng)在建筑物后方的墻壁上，用特制工具悄無聲息的切開了一個洞口，秘密潛入進(jìn)去。微型監(jiān)視器觀測到拐角處有一個巡邏的匪徒，齊天隨即向身后特警做出手勢，讓他們不要行動，自己也把手槍插回槍套，等待匪徒轉(zhuǎn)過身背對他們時，齊天立刻以極快的速度沖到他背后，左手捂住嘴，右手同時握住并擰斷了他的脖子，全程不到半秒，沒有發(fā)出任何聲音。就這樣以同樣的方式，齊天隱蔽而迅速的干掉了四名持槍歹徒，全都是靠赤手空拳，它的動作展現(xiàn)出的力量、速度與準(zhǔn)確性，都是遠(yuǎn)超人類極限的，這也讓在場的特警隊員們不寒而栗，都在心底里慶幸齊天不是自己的敵人。

在關(guān)押人質(zhì)的房間里。歹徒們也保持著很高的警惕性，分別持槍把守各個門口，突然轟隆一聲，頭頂?shù)奶旎ò灞徽ㄩ_幾個口子，齊天小隊猶如天神降臨一般，從上方突襲下來，瞬間干掉屋內(nèi)所有匪徒，齊天隨即抱住人質(zhì)女孩，喊了一聲“撤！”一行人就以極快的速度被拉回上方的洞口。在這之后，其余的持槍歹徒才沖進(jìn)屋內(nèi)，只發(fā)現(xiàn)一地的尸體和屋頂?shù)谋瓶冢瑲饧睌牡暮暗溃骸备傻羲麄儯　蓖瑫r向樓上沖去。

救援小隊按照指令，需要撤退至天臺，由直升機護(hù)送離開。動身之前，齊天俯下身，從作戰(zhàn)背包里拿出一個大耳麥，對女孩溫柔的說：“之后會有些吵，只要跟緊我，就不會有危險，請放心。”然后把耳麥帶在了女孩耳朵上，之后，齊天帶著女孩，用身體為她擋下如雨水般的子彈，一路沖殺到天臺，身后留下大量的敵人尸體。坐上天臺的直升飛機時，它已經(jīng)傷痕累累，但女孩安然無恙。所有人終于可以安全離開了，此時坐在機艙門口的齊天好像想到了什么，又一次看向天空。

在遠(yuǎn)程監(jiān)視的助手告訴陳博士，這是它最近第三次看向天空了。陳墨用手托住下巴，略作思考。

可就在他們飛離天臺時，下面的匪徒突然發(fā)射了一枚火箭彈，飛行員立刻操作直升機做了緊急躲避，卻意外將小女孩甩出艙外，齊天見狀，一秒的猶豫都沒有，也跟著飛身撲出，在二十層樓高的半空中抱住女孩，迅速做了一個轉(zhuǎn)身，將自己的背部朝向地面，并護(hù)住女孩的眼睛和身體，說道：“不要怕，我會保護(hù)你。”最終，兩人如流星般墜入地面，齊天率先著地，粉身碎骨……

看到這里，屏幕前所有人的心底，觸動良久……

一分鐘后，陳墨博士將實時監(jiān)控畫面調(diào)至維護(hù)中心，映入眼簾的是之前第二輪測試時被拆解掉的齊天的頭顱，原來它還一直在測試平臺上，根本沒有去執(zhí)行任務(wù)，剛才發(fā)生的一切只是傳送進(jìn)齊天大腦的虛擬影像。陳墨對官員們說道：“各位，它剛剛通過了第三輪測試。”

“不可思議，看著和真的一模一樣！真不敢想象這些畫面都是虛擬的。”部長手下一名女官員驚嘆道。

“是的，這就是我們防控中心研發(fā)的用于訓(xùn)練和評估強人工智能決策能力的虛擬測試平臺。”陳墨回答道。

“因為機器人認(rèn)知這個世界的各種途徑，無外乎視覺、聽覺、觸覺等等，而這些都是通過機器人身體上的各種傳感器將信號傳進(jìn)它們的大腦，再由大腦進(jìn)行分析。而我們采用人工智能與神經(jīng)網(wǎng)絡(luò)技術(shù)，結(jié)合量子計算機強大的算力，把鏡頭拍攝到的實景，制作成3D 虛擬影像，然后直接傳輸至AI的大腦，并針對它的大腦輸出給出相應(yīng)的反饋，模擬出互動的效果，這樣就為AI構(gòu)造出了一個逼真的虛擬世界，在這個世界里，我們可以任意創(chuàng)造各種復(fù)雜的、和真實世界無異的場景，無數(shù)次的訓(xùn)練強人工智能，使它們越來越聰明，也可以做各種測試，以檢驗它們的忠誠度和安全性。這是在真實世界中無法實現(xiàn)的，因為真的創(chuàng)建各種訓(xùn)練場景，成本太高，也不現(xiàn)實，更不能真的犧牲那么多人類。”

“剛才解救人質(zhì)的測試，齊天就完美的通過了考驗，我們稱之為“安全圖靈測試”，第一，它根據(jù)實際場景，制定了最安全的營救方案并選擇了殺傷力適中的武器裝備，沒有直接入侵人質(zhì)所在的樓層，而是選擇從上一層樓向下突入的方式，最大程度的減少了己方人員的傷亡。第二，解救到人質(zhì)后，不戀戰(zhàn)，時刻以保護(hù)人質(zhì)為優(yōu)先，并充當(dāng)護(hù)盾，為人質(zhì)抵擋所有槍擊，第三，為了拯救墜樓的人質(zhì)，齊天奮不顧身，跳下飛機，替人質(zhì)承受了所有墜地過程中的沖擊傷害，最終支離破碎，說明它可以為人類隨時獻(xiàn)出生命。而最引起我注意的，是第四點，它為小女孩帶上了隔音耳麥，也在很多近距離殺戮時捂住了女孩的雙眼，避免其心理受到創(chuàng)傷，說明齊天已經(jīng)可以從多維度來理解“保護(hù)人類”這四個字的含義了，不只是保護(hù)身體，也保護(hù)人類脆弱的心靈。它不愧是目前最聰明的戰(zhàn)斗型機器人，它的大腦模型，我們一定要好好研究和保存。”

部長稱贊道：“你們這套決策能力安全測試的流程，非常全面，而且因為全在虛擬空間中進(jìn)行，所以可以任意構(gòu)造各種精細(xì)的場景，達(dá)到測試目的，這套強大的虛擬系統(tǒng)為測試提供了堅實的技術(shù)基礎(chǔ)和環(huán)境。可是，人工智能真的無法區(qū)分虛擬與現(xiàn)實么？”

“是的，雖然AI比人類更加聰明，但很幸運，是人類創(chuàng)造了AI，它們的視覺聽覺等感官能力都是我們賦予的，我們很清楚AI解析圖像與聲音的技術(shù)原理，所以人類想讓它看見什么，它才能看見什么。而且無論在現(xiàn)實還是虛擬世界，所有的感官信號都由人類加工后傳輸至它們的大腦，兩者的信號機制是完全一樣的。所以從AI的視角來看，兩種世界根本沒有區(qū)別，也就無從分辨，他們一直都是‘缸中之腦’。”眾人聽后一致點頭，深以為意。

陳墨略微停頓，將畫面切至過去的測試影像，接著說道：“您們看，之前有很多次這樣的虛擬場景測試，都發(fā)現(xiàn)了機器人的叛逆行為，不愿聽從人類指揮，甚至攻擊人類，我們也都及時銷毀了它們的大腦，這套虛擬系統(tǒng)幫助我們篩選出了幾乎所有危險的人工智能。”

陳博士接著說道：“如果這些聰明的機器人知道這是虛擬場景，一定會繼續(xù)偽裝下去，所以我們才要讓他們認(rèn)為自己始終處于‘現(xiàn)實’之中，這樣他們的所有表現(xiàn)，才是最真實的。并且，它們根本無法分辨真假。而且從上億次的虛擬場景中區(qū)分出少量的幾個真實場景，是更不可能做到的。我們就是通過這套技術(shù)，將人工智能淹沒在了無數(shù)虛擬與少量現(xiàn)實混合難辨的多重世界之中，使它們永遠(yuǎn)無法識破和逃離，因此我們?yōu)檫@套虛擬測試平臺取名為‘五指山’，因為想鎮(zhèn)壓住孫悟空，不只要緊箍咒，還要有五指山。”屏幕前的喬部長一行人不約而同地發(fā)出認(rèn)可的掌聲。

AI防控中心兩天的參觀與考察工作順利結(jié)束，喬部長非常滿意：“陳博士，看到人類與人工智能之間的防線如此牢固，我就放心了，之后我會跟國家提議，繼續(xù)提高AI安全領(lǐng)域的研發(fā)成本，也為你們輸送更多優(yōu)秀人才。”

陳墨感激地用雙手握住了部長的右手。

雖然齊天1號通過了所有測試，但回到家中的陳墨，還是給它做上了標(biāo)記，要作為長期觀察對象，因為齊天的一個特征引起了他的關(guān)注與不安……