學習幻肢與神經全景敞視：腦機接口技術應用于教育的主要倫理挑戰

[摘? ?要] 文章對腦機接口技術應用于教育的現狀進行了梳理，在此基礎上分析了該技術應用于教育領域所帶來的主要倫理挑戰，并相應地提出改進策略與展望。研究發現：（1）在腦機接口技術應用于教育實踐方面，主要表現為利用腦機接口智能穿戴設備實現對學習者注意力和情緒的實時監控，并通過干預以增強學習能力;（2）在腦機接口技術應用于教育所帶來的倫理挑戰方面，主要表現為對神經增強設備的依賴導致教學主體的自我認同危機和腦機接口作為超級全景敞視工具對學習者神經隱私的侵犯;（3）在改進策略方面，兩大倫理挑戰所體現的內核是教育實踐領域“人—機”和“我—他”兩對基本矛盾，要想化解這些矛盾，需要從價值觀層面轉向“以人為中心”的教育—技術深度融合，以及通過對教育技術治理場景邊界的劃定并配合立法實現全方位的神經隱私保護。

[關鍵詞] 腦機接口; 全景敞視; 神經隱私; 教育倫理; 教育技術

[中圖分類號] G434? ? ? ? ? ? [文獻標志碼] A

[作者簡介] 朱洪洋（1989—），男，遼寧沈陽人。講師，博士，主要從事教育哲學與教育政策的研究。E-mail：hyz@njnu.edu.cn。

一、引? ?言

新興信息技術與教育的融合成為近年來全球教育改革的主要趨勢。一方面，技術紅利賦能教育變革，既為教育場景提供全新的互動方式，又為教育制度設計提供變革思路;另一方面，相伴變革機遇，新技術給教育理論和實踐所帶來的挑戰也是不容忽視的問題。赫爾辛基大學2018年的一項研究就引起了爭議，研究人員在檢查了2000名芬蘭學生2012—2015年的PISA成績后發現：數字化課堂阻礙學習，數字化學習使得學生更容易被分散注意力。法國國民議會也表決通過一項法案，規定從2018年9月起，禁止3～15歲的學生在校園內使用手機。以上與科技—教育融合發展趨勢背道而馳的研究結論和決策讓我們不得不思考，先進的科技成果迅速普及教育領域是否合理，又帶來了哪些新的挑戰？

近年來，腦機接口（Brain Computer Interface，以下簡稱BCI）技術逐漸開始應用于教育領域并展現出其技術潛力。這是順應科技與教育融合的趨勢，也是變革教育的嘗試。但是，對極為隱私的個體生物腦電信號的系統搜集和分析，也意味著對學習者個體隱私的侵犯逐漸滲透到腦電層面。因此，很有必要對BCI技術引入教育領域所帶來的倫理挑戰進行謹慎的討論。

二、何為腦機接口

（一）腦機接口基本概念和構成

腦機接口是近年來技術領域新興的一種人機交互方式，其研究涉及神經科學、計算機科學、控制和信息科學等多學科領域，意在通過對大腦神經信號的采集、轉換和識別，直接實現人腦和外部設備的通信。第一屆BCI國際會議對BCI的定義為：“腦機接口是一種不依賴于大腦常規的通過外圍神經和肌肉進行輸出通路的通信系統。”[1]其本質是一套交流和控制系統，初代的研究和應用版本主要目的是服務運動障礙患者，如全身隨意肌（除眼睛外）全部癱瘓的閉鎖綜合征[2]。近年來，BCI技術逐漸轉向對一般人群的應用，受到了學術界和資本市場的關注，逐步成為技術發展和商業應用的趨勢領域之一。

一般一套BCI系統包含三個主要模塊：信號采集、轉換算法和信號輸出。信號采集主要通過采集設備搜集腦信號，如慢皮質電位（Slow Cortical Potentials）、P300誘發電位（P300 Evoked Potentials）、感覺運動皮層的μ節律、β節律和運動皮層的單部件活動等;轉換算法通過人工神經網絡、遺傳算法等將搜集的信號進行識別分析，并將加工后的信息輸入信號輸出系統;信號輸出系統接收加工后的信息，進行指令的操作，如打字、移動光標、移動假肢等。BCI通過對腦信號的識別，直接實現對機器的控制，目前在現實生活中已經可以實現一系列人機交互操作，例如：可以通過意念進行打字和機器操控。BCI應用也面臨著一系列難題，其中最為主要的幾個方面是：要排除非腦電信號的干擾;轉換分類體系的規范化;對設計和應用最難的是如何持續采集用戶發出的輸入信號[1]。BCI可分為侵入式、半侵入式和非侵入式三類。侵入式一般采取在大腦中長期植入微電極陣列的方式實現，可以獲取質量相對較高的神經信號，但容易引發免疫反應。非侵入式則一般采取不侵入大腦組織獲取腦電圖信號，如利用外掛式的佩戴裝置進行信號偵測采集，但搜集的信號相對侵入式較為模糊。半侵入式則是介于二者之間，其接口植入顱腔而非大腦灰質，引發的免疫反應相對較少。

（二）腦機接口在教育領域的應用現狀

目前，BCI在現實生活中的應用，除了醫療康復領域外，都與記錄和提升認知能力、識別情緒有關。已有商用產品將BCI應用于教育領域，通過可穿戴設備實時監測學生的腦電信號，并通過配套軟件系統實時進行輸出反饋。

BCI技術的教育應用產品主要通過對學習者腦電信號的監測和干預，提升學習者注意力水平。本質是應用非侵入式BCI技術記錄和分析學習者腦電信號，將信息進行量化處理和呈現，通過反饋實現對學習者的干預。在具體的教學情境中，BCI設備為教師和學習者提供課堂學習狀態、學習態度等方面的評估，并依據腦電信號個體差異提供個性化的學習指導和實時學習干預。配套系統通過對學習者腦電的實時追蹤與大數據檔案化存儲結合，實現對學習生活的全面監控和分析。

BCI應用于教育呈現為軟件和硬件結合的特征。借助硬件實現個人腦電信號的搜集，并通過軟件分析數據和可視化呈現。其設計初衷為使用BCI設備實時分析學生學習參與度以及注意力水平等，通過監測反饋增強學習者的學習能力、發現學習中的困難。對學習者來說，這有利于結合自身認知規律反思并發揮自身認知特長。對于教師來說，可以通過BCI人機交互界面實時獲取學習者注意力和參與度數據，輔助實現某種程度的因材施教，提升教學實踐能力。隨著BCI技術的迭代，其與教育場景和學習者的深度整合也是未來的主要發展趨勢。

三、腦機接口技術應用于教育的主要倫理挑戰

（一）學習幻肢：腦機接口技術對學習者自我認同的重塑

BCI應用于教育帶來諸多倫理挑戰，首先在于對學習者自我認同重塑所帶來的風險。對人腦來說，一項基本的工作就是區分我世界（Me World）和非我世界（Not-me World）。[3]這種區分最終影響自我認同的建構。自我認同關系到個體關于自己有意識或者無意識的心理表征，涉及個體與世界持續互動過程中的一系列問題，例如“我是誰”“我想成為何種人”“我與他人是何種關系”等，是個體依據個人的經歷所反思性地理解到的自我[4]。

在個體與世界的互動過程中，作為互動基礎的身體以及個體與環境的交互方式至關重要。身體是社會個體原始的物理工具，是個體天然的技術對象，也是個體最獨特的技術手段[5]。具身哲學（Embodied Philosophy）認為，人類獲取意義的感知體驗是基于人的身體構造。因此，身體構造在人的自我認同形成中起著基礎性的作用。神經倫理學研究也認同，認知和道德發展都有其自然神經基礎和限度。身體構造既是自我認同的基石，也為自我認同發展設定了自然限度。梅辛格（Thomas Metzinger）提出，我們的自我認同是一種現象自我，其主要內容為透明自我模型（Transparent Self-model）。透明自我模型是不斷形成的過程。現象自我（Phenomenal Self）不是某物，而是一個過程。如果一個有意識的信息處理系統在一個透明的自我模型下運作，那么作為一個人的主觀體驗就會顯現出來[6]。我們是通過自我模型來觀察和理解世界的，但是這個自我模型本身是我們無法意識到的，因此，將其隱喻地理解為“透明的”。

青少年時期是人類個體生長發育的上升期，也是梅辛格所謂“透明自我模型”形成的關鍵期。現代社會的絕大多數人，在青少年時期都長期身處學校教育環境，在此過程中與他人的互動以及學習對自我認同建構影響至深。青少年在此期間形成明確的興趣愛好和生活哲學，學校教育情境與自我認同的形成發展有著密切的聯系。人們的自我認同感通常是與人的身體和記憶聯系在一起的，它與人們的日常生活體驗是一致的[7]。人們的形體存在（Human Corporeality）總是與人們的自我意識緊密相連的。因此，人們的自我認同首先都是源于其對自己的形體存在的知覺和認識[7]。

幻肢（Phantom Limbs）概念由米切爾（Silas Mitchell）提出，指失去肢體的病人有時會感覺到斷肢的存在，“是出了問題的大腦里頭的一種身體表征人造物”[8]。人類在腦中建立關于身體的表征，若長期使用BCI設備，我們對自我身體的表征也會逐漸改變，當人摘取BCI設備時，仍然存在對該部分的表征，產生幻肢感。這會導致不自覺地就采取佩戴BCI設備時的行為模式和策略。這類似于習慣了使用觸屏手機，使用非觸屏設備時也會下意識地劃動屏幕。

長遠來看，BCI技術的引入會對學習者的自我認同以及教育交往產生巨大影響。僅以目前已經商用化推廣的非侵入式教育類BCI設備為例。BCI技術應用到學習情境中，學習者要長期佩戴相關設備，該設備成為學習中的人體增強工具。為獲取完整的周期性數據，不僅在課堂上而且還要在課外學習期間佩戴設備。這意味著BCI設備成為學習期間無法離開的工具，且與人的神經系統聯結。BCI設備作為長期與人體聯結的增強工具會對使用者的軀體自我感（Bodily Sense）產生影響，使用者容易產生設備本身即是身體一部分的錯覺。學習者在長期使用后亦有將BCI設備作為自然身體延伸的意識。當摘掉設備時，是否會出現自身仍然與BCI設備連接的幻肢現象，是否仍然保持著使用BCI設備輔助學習的習慣，這是需要警惕的問題。尤其是當青少年心智發育尚未完善，尚處于自我認同形成的重要階段，BCI在教育中的應用會對其自我認同產生很大影響。學習者會懷疑學習過程中自己是自然軀體的“我”，還是以BCI技術增強加持的賽博格（Cyborg）“我”，哪個才是學習情境中真實的“我”？當失去BCI技術輔助時，“我”是否還是“我”？

在教育交往中，長期佩戴BCI設備也同樣會帶來一系列自我認同挑戰。如學習者的自我認同是使用BCI學習者群體中的一員，當摘掉設備時我是否還屬于這個群體？同時，由于對腦電信號的識別都是以數字指標的形式予以反饋和顯示，這改變了教師和學習者對學習過程甚至是自身的感知方式，無論是對情緒還是注意力水平的反饋，數據能指是否能真實反映學習情況所指，教師以能指來看待學生，是對學生片面的理解，建立在此基礎上的教育交往改變了以現實感知和直覺感知為基礎的交往模式，這改變了自我認同形成的既有規范。倘若一味地在數量化的基礎上尋求實在感，則實在感也就勢必演化成抽象的數量符號。[9]

（二）神經敞視：腦機接口技術對學習者的神經隱私侵犯

BCI技術應用于教育帶來的另一倫理挑戰在于對學習者神經隱私的全面侵犯。隱私涉及隱私權人和其他人的隱私保護、言論表達自由和知情權。隱私權是人們生活中的一個必要條件，如果不保護人們的隱私，就很難保證人們的道德和尊嚴[7]。BCI技術系統搜集學習者神經信息并進行分析與存儲，對個體神經信息的系統掌握，若數據被不法分子利用，甚至可能實現對隱私權人的言論表達和知情權的控制和利用，個體的自我控制也進一步受到威脅。神經隱私既是權利（Rights）的問題，也是權力（Power）的問題。不夸張地說，對神經信息的全面掌握關系到誰能控制未來，擁有未來世界的話語權。

人類正加速步入后工業社會的信息時代，日常生活和社會組織中的技術促進信息傳遞的演變和交往過程的現代化，這成為社會進化的推動力量[10]。信息傳遞方式和交往方式的改變也重塑了整個社會的互動模式和權力關系。波斯特（Mark Poster）認為，信息社會的人類正生活于超級全景敞視（Superpanopticon）之中，個體身份的重構以及日常生活被信息技術和數字話語全面掌控，人處于前所未有的全方位監控之中。全景敞視的英文名詞“Panopticon”源于古希臘神話中的多眼巨人Panoptes，它有許多只眼睛可以觀察世界，即使有一些眼睛是休息的，但總是有一些處于觀察中。全景敞視建筑就像多眼巨人一樣，對被監視者進行不間斷的監視。其提出者邊沁（Jeremy Bentham）設想全景敞視建筑的規劃不僅可以用于監獄的設計建造，也可以同樣適用于學校、醫院等各種社會機構。他認為全景敞視建筑是“迄今未有的通過心靈獲取心靈力量的新模式”[11]，是“一個用來磨礪出無賴的誠實的磨坊”[12]。這暗示全景敞視建筑的兩個特質，其一是實現一種心靈的控制和改造，其二是將被監視者視為需要被時刻鞭策的無賴囚徒。福柯認為，類似全景敞視建筑，我們的社會是一個監督的社會，“在這一社會秩序中，根據種種力量和身體的一整套工藝，個體被仔細地制造了出來”[13]。

超級全景敞視則是基于信息數據庫的新形式現代規訓和控制。隨著人們對信息技術的依賴，人機共生合成體（Symbiotic Merger）實際上正在消解人類實體存在原有的界限，人可以超越時空的限制進行信息符號的交流。在波斯特看來，人類經歷了“口頭媒介—書寫媒介—電子媒介”三個信息交換的演進階段，不同的信息交換模式意味著不同的交往模式，交往模式的改變重塑了主體。口頭媒介階段的特征是符號的互應，書寫媒介階段的特征在于對意義符號的再現，而我們身處的電子媒介階段則是以信息的模擬為特征。在不同的信息方式中，人的存在方式與自我認同也不盡相同，在口頭媒介階段個體處于面對面交流的總體中，到了書寫媒介階段個體則成為處于理性/想象的自律性的中心行為者，到了現今的電子媒介階段“持續的不穩定性使自我去中心化、分散化和多元化”[13]。在電子媒介階段，對個體的支配從語言行為的支配變為了更為復雜和隱蔽的語言形成的支配。

BCI技術與大數據、人工智能技術在教育領域的融合式應用使得對學習生活的監控技術更為全面和隱蔽。在信息技術進入教育領域以前，對學習者的監控僅僅停留在通過“察言觀色”進行解讀，或者通過高頻率的考核測試進行間接監控。在超級全景敞視下，對學習的監控從最初的視頻監控演變為可穿戴設備的全面信息搜集。通過可穿戴設備，學習者的注意力水平和學習情緒都可以通過設備實時呈現，相關數據都以數據形式存儲和分析。即使在學校以外，這種監控也無可避免，成為一種對學習者生命過程不間斷的監控。通過遠程監視獲取學習者的學習狀態，通過數據記錄隨時回溯其學習情況，這呈現出超越時間和空間限制對學習進行規訓的態勢。規訓的一個主要目標就是給人定位[14]。這種超級全景敞視式的規訓給教育生活帶來了新的挑戰。在BCI超級全景敞視中，學習者成為“囚徒”，身處全天候的監視之中。當個體知道自己處于監控之中時，其行為模式也會相應作出調整，以符合監視者的期待。

四、對策與展望：教育技術治理的

價值選擇與場景邊界

當以BCI為代表的新技術應用于教育時，我們既要警惕其威脅既有規范，又要防止對它的審慎演變為新式盧德運動，從而在反思平衡中作出恰當的價值判斷。

（一）“人—機”矛盾的調解：“以人為中心”的教育—技術深度融合

教育與科技融合已經成為當今的趨勢之一，這種融合絕不是表面上教育與科技的簡單疊加，而是需要觸及更深層次。技術作為工具的領域，既可以加速人的衰弱，又可以增強人的力量[15]。但在處理人與技術的關系時，我們往往被技術理性所反噬。當涉及BCI應用于教育所帶來的“人—機”矛盾時，很有必要回到價值觀的層面進行討論。這種思考涉及：在教育中應用BCI技術其初衷為何，應采取何種基本價值觀引導教育與科學技術的深度融合？

“以人為中心”（Human-centered）的理念最初源于工業設計概念，其背后蘊含著人本思想。當以產品設計的思路來展望教育—科技的深度融合時，“以人為中心”的理念具有重要的參考價值。斯坦福人工智能研究中心提出，建構“以人為中心的”（Human-centered）人工智能技術[16]：必須融入更多人類智慧的多樣性、細微差別和深度;應該與對人類社會影響的持續研究相結合，并以此為指導;最終目的應該是增強我們的人性，而不是減少或取代它。

參考以上理念，我們可以思考BCI技術應用于教育時更為妥善處理“人—機”矛盾的方案。從核心的價值觀層面來說，BCI技術應用于教育必須是“以人為中心的”。這種以人為中心的價值選擇，不僅要滲透于技術產品、教學環境和課程設計，還要成為學習者、教師、家庭、教育管理者和產品設計者價值觀的一部分，比如：

（1）在處理人—機關系上，應幫助學習者認識到，采用BCI技術的目的是為了更好地服務于自己的學習。學習者應持續獲得如何理性處理自身與BCI設備關系的培訓或相關幫助。

（2）學習者不應該被視為邊沁所謂的“無賴”或“囚徒”，而是被視為具有基本人權和主體性的獨立個體。教育管理部門及學校應明確規定BCI設備及相關數據采集的空間場景邊界與時間邊界，校外空間與時間應該明確規定不佩戴BCI設備。

（3）BCI設備的使用不應磨滅每一個個體的基本特質，如膚色、性別、種族等。

（4）BCI設備應適配于個體的智能優勢和長項，而非創造千人一面的學習場景。

人類社會并不是一個裝有文化上中性的人造物的容器。那些設計、接受和維持技術的人的價值與世界觀、聰明與愚蠢、傾向與既得利益都必將體現在技術身上[17]。無論如何，我們在教育中對BCI技術設備的應用，都應以增強人性為目的。

（二）“我—他”矛盾的化解：技術治理場景的邊界劃定

羅素（Bertrand Russell）指出：“在柏拉圖那里，倫理與科學最終融合為一。善等同于知識。如果真是這樣，那太令人欣慰了。然而不幸的是，柏拉圖的觀點十足地過于樂觀。那些最富有知識的人，有時也許將知識用于邪惡的利益。”[18]

BCI技術應用于教育領域所造成的“我—他”矛盾主要表現在對個體神經隱私的侵犯與反制。其本質問題在于教育中的技術治理問題，可歸結為：當我們已然采取技術治理時，對個體神經隱私進行搜集和利用的場景邊界在于何處？

在教育中使用BCI設備的確可能為因材施教帶來便利，但這種便利是以學生讓渡個人神經隱私為基礎的。目前的BCI設備皆是由商業公司開發及支持。企業通過產品搜集個體隱私信息，這些神經隱私如何被利用需要得到關注。所謂“三歲看小，七歲看老”，個體的各種決策和行為模式都有其神經基礎。通過對神經信息系統的搜集和使用，甚至可以預測和影響個體成年后的消費行為和婚戀觀念等。在教育領域中使用BCI設備對個體的隱私侵犯將是嚴重且影響深遠的。如果技術趨勢已經不可避免，則應及早重視，并從硬法和軟法的層面予以規制。否則，學校培養和教育出的將不再是公民，“而是完美的消費者，最適合數字經濟的個體”[19]。

當人們提出要隱私權時，他們實際上是在尋求一種選擇和決定權，即選擇與自己分享親密空間、靠近自己的人，劃定自己的個人空間和身體空間的權力。[7]如圖1所示，以空間屬性和信息可識別為坐標維度，技術治理的應用場景可以分為四類：場景1為參與者在場、信息可識別，典型的場景為應用BCI技術的教室課堂;場景2為參與者在場，信息不可識別，典型場景為未應用任何信息采集技術的傳統課堂;場景3為參與者不在場，信息可識別，如佩戴BCI設備的學習者在家進行學習，其神經信息可直接傳輸到網絡云端，并呈現于教師或家長的管理屏幕;場景4為不可識別，不在場，典型場景為傳統上未應用任何信息采集和監控技術時，學習者離開學校后的學習生活。

在場景1和場景3中，均涉及BCI技術在教育生活中的應用。當制定相關管理規定時，應著重對場景1和場景3進行關注，尤其是，是否應在離校學習時也普遍沉浸于場景3，即BCI技術應用于非學校環境中，其合理性與正當性也值得進一步思考。還應注意的是，場景1和場景2，即應用BCI技術和不應用BCI技術的課堂，其時間分配比例應如何側重，也是重要的問題。只有當從硬法和廣義的軟法層面對不同技術治理場景的神經隱私進行保護，以及對不同技術治理場景的時間占比進行合理的分配，我們才能在人體增強技術與個人隱私之間尋找到平衡點，從而防止個人神經隱私和數據被濫用。

可以預見的是，BCI技術應用于教育會帶來許多積極變革，比如在特殊教育領域更好地幫助學生學習;通過成本相對較低的技術為貧困地區學生提供更為優質的教育資源;提升個體的學習效率，激發其進行深度學習;對智慧課堂的輔助強化。BCI遠遠未達到科幻電影中的技術水平，還不足以威脅人的生存或已在日常生活中普遍使用，仍有許多技術問題亟待解決。可以預見的是，BCI技術應用前景是廣闊的。BCI技術應用于教育，可以實現學習者能力的增強，但學習者是否完全具有支配自我意念和腦信息的能力和權力，在何種程度上可以使用BCI技術？

就像黑板的發明和使用使得對孩子的學習和內心生活的監督變得越來越有可能，腦機接口技術是否是下一塊黑板？

[參考文獻]

[1] WOLPAW， JONATHAN R， et al. Brain-computer interface technology： a review of the first international meeting[J]. IEEET transaction on rehabilitation engineering， 2000， 8（2）： 164-173， 172.

[2] TOWNSEND G， et al. A novel P300-based brain-computer interface stimulus presentation paradigm： moving beyond rows and columns[J]. Clinical neurophysiology， 2010， 121（7）： 1109-1120.

[3] 帕特里夏·丘奇蘭德. 觸碰神經：我即我腦[M]. 李恒熙，譯. 北京：機械工業出版社，2015：28.

[4] 安東尼·吉登斯. 現代性與自我認同[M]. 趙旭東，方文，王銘銘，等譯. 北京：三聯書店，1998：275.

[5] 馬塞爾·莫斯. 社會學與人類學[M]. 佘碧平，譯. 上海：上海譯文出版社，2003：306.

[6] METZINGER T. Being no one： the self-model theory of subjectivity[M]. Cambridge： MIT Press， 2004： 24， 1.

[7] 范梅南，萊維林. 兒童的秘密：私密、隱私和自我的重新認識[M]. 北京： 教育科學出版社，2014： 108，114，73，81.

[8] 阿拿瑟斯旺米. 不存在的人：從自閉、幻肢到出體經驗，一場“自我”的科學壯游[M]. 何明憲，譯. 臺北：究竟出版社，2016： 99.

[9] 張鳳陽.技術理性與現代人的經驗方式[J].南京大學學報（哲學社會科學版），1995（2）：104.

[10] HILBERT M. Digital technology and social change[EB/OL].（2017-06-01）[2019-05-01].https：//canvas.instructure.com/courses/949415.

[11] BENTHAM J. Panopticon， constitution， colonies， codification， liberty fund[M]// The Works 4， Edinburgh： William Tait， 1843： 39.

[12] BENTHAM? J. Memoirs part I and correspondence， liberty fund [M]// The Works 10， Edinburgh： William Tait， 1843： 84.

[13] 馬克·波斯特. 信息方式：后結構主義與社會語境[M]. 范靜嘩，譯. 北京： 商務印書館，2014： 127，13.

[14] 米歇爾·福柯. 規訓與懲罰[M]. 劉北成，楊遠嬰，譯. 北京： 生活·讀書·新知三聯書店，2012： 245.

[15] 赫伯特·馬爾庫塞. 單向度的人[M]. 劉繼，譯. 上海： 上海譯文出版社，1989： 211.

[16] FEI-FEI L， ETCHEMENDY J. Humanity： the next frontier in AI[EB/OL]. （2018-10-22）[2019-10-12]. http：//airesearch.com/tag/human-centered-ai.

[17] STAUDENMAIER M. Technology's storytellers： reweaving the human fabric[M]. Cambridge： MIT Press， 1985：165.

[18] 伯特蘭·羅素. 西方的智慧[M]. 瞿鐵鵬，譯. 上海： 上海人民出版社，1992： 434.

[19] 馬克爾·杜甘，克里斯托夫·拉貝. 赤裸裸的人： 大數據，隱私和窺視[M]. 杜燕，譯. 上海： 上海科學技術出版社，2017： 76.

[20] 呂德文. 治理技術如何適配國家機器——技術治理的運用場景及其限度[J]. 探索與爭鳴，2019（6）：61.