情感計算的應用困境及其法律規(guī)制

文/王祿生

我國是世界范圍內(nèi)情感計算技術(shù)最為主要的研發(fā)與應用國之一。人臉識別、語音識別等前置感知智能技術(shù)的大面積應用為情感計算技術(shù)在近年來的迅速發(fā)展鋪平了道路。相較于豐富的實踐，我國法律界對于這一技術(shù)的關(guān)注尚不充分，因此有必要對其技術(shù)邏輯、實踐應用、現(xiàn)實困境和法律規(guī)制等重要方面展開專門的探討。

情感計算的技術(shù)邏輯

情感計算（affective computing）意指“與情緒或其他情感現(xiàn)象有關(guān)的、產(chǎn)生于或有意影響情緒或其他情感現(xiàn)象的計算”。從語詞原意來看，“情感”（affect）包括“情緒”（emotion）和“心情”（mood）兩個部分，前者主要是短期的，可以通過表情來體現(xiàn)，如憤怒、悲傷、愉悅；后者則具有一定的延續(xù)性，比如好心情、壞心情。所以“情感計算”實際上是一個寬泛的概念，它包括任何與個人情緒、心情狀態(tài)相關(guān)的計算機程序，“情緒識別”是“情感計算”的有機組成部分。隨著人工智能技術(shù)的發(fā)展，情感計算日益與AI結(jié)合。典型的比如“AI+情緒識別技術(shù)”之后形成的“情緒識別智能技術(shù)”。該技術(shù)利用人臉識別、語音識別等“遠程生物特征識別系統(tǒng)”（remote biometric identification system）提取表情、語音、步態(tài)、姿勢等各類生物特征（biometric data）信息，從而識別對象的情緒狀態(tài)。本文正是在人工智能的視域下探討情感計算技術(shù)，意指感知、識別、模擬、影響人類情感狀態(tài)的各類智能技術(shù)的統(tǒng)稱。

情感計算的技術(shù)邏輯大致可以分為感知（sensing）、識別（recognition）、模擬（simulation）、影響（influence）四個環(huán)節(jié)。具體而言，情感計算的第一步是通過各類傳感器（sensor）實現(xiàn)對自然人各類生物信息的“感知”，這種感知可以通過非接觸式的遠程識別的方式來實現(xiàn)，也可以通過接觸式的傳感器來實現(xiàn)。現(xiàn)階段情感計算在感知階段的數(shù)據(jù)源具有多樣性，主要是聲音、表情、肢體語言、姿勢等各類生物信息。在完成各類信息感知的基礎之上，情感計算技術(shù)將進入“識別”環(huán)節(jié)。“識別”要借助各類情感識別模型。識別模型的生成主要采用有監(jiān)督學習的方式。具體而言，就是依托各類基本情感理論，人為地將特定的生物信息與情感狀態(tài)關(guān)聯(lián)。在實操層面即通過人工標注，為各類“提取特征”添加情感標簽，如語速快速、響亮可能對應恐懼、憤怒或喜悅的情感狀態(tài)。在完成了足夠多的標注之后，深度學習技術(shù)可以通過模型訓練形成對各類自然人生物信息特征對應情感的識別模型。在此基礎上，當有新的聲音、表情等生物信息進入系統(tǒng)后，系統(tǒng)可以根據(jù)情感識別模型進行識別。當然，“識別”只是初級的應用。該類技術(shù)的終極目標是在“識別”基礎之上使得計算機具備“模擬”自然人情緒的能力，并且能夠根據(jù)不同情境，采取相應策略來“影響”自然人的情緒，也就是讓機器具備情感智能，能夠以最佳的方式識別和調(diào)節(jié)（自己或他人）情感的能力。

情感計算的應用觀察

情感計算主流應用有兩類：其一是情感計算的結(jié)果作用于被識別者本人，通過改變其情感狀態(tài)而治療疾病、提高體驗，典型的例子是利用情感計算治療自閉癥；其二是情感計算的結(jié)果作用于被識別者之外的第三人，提供各類決策輔助，比如在招聘環(huán)節(jié)使用情感計算。在醫(yī)療領域，許多心理和生理狀況，包括自閉、抑郁和中風，都會影響理解、控制或交流情感的能力。情感計算已被用于評估和治療各種疾病，并改善與情感有關(guān)的交流。在教育領域，情感計算技術(shù)可以通過面部表情的識別來判斷學習者的情況和學習狀態(tài)。與此同時，該技術(shù)還可以讓教師了解學生的內(nèi)心感受，從而制訂更具個性化的教學方案。隨著在線教學的日益擴展，情感計算被認為可以提升師生互動質(zhì)量，改善因為缺乏傳統(tǒng)課堂學習氛圍而導致的厭學情緒。在就業(yè)領域，情感識別的使用也出現(xiàn)了激增，例如在求職者或員工不知情的情況下進行工作能力判斷。系統(tǒng)利用求職者的電腦或手機攝像頭分析他們的面部動作、用詞和說話聲音，然后根據(jù)自動生成的“就業(yè)能力”得分，將求職者進行排名。商業(yè)領域的情感計算應用旨在根據(jù)情感的識別為顧客提供更為優(yōu)質(zhì)的服務。商店可以通過軟件分析購物者的實時圖像，以檢測情感，進而有針對性地提供服務。此外，情感計算也開始應用于邊境檢查、案件偵查等執(zhí)法領域，利用對不特定公眾情緒的識別，發(fā)現(xiàn)異常情況、鎖定嫌疑人。

情感計算應用的多維困境

（一）情感計算應用的法律問題

情感計算與人臉識別等知名的生物識別應用不同，后者旨在識別個人，而前者則是在識別個人的基礎之上進一步推斷一個人的內(nèi)在情緒。因此，情感計算的應用會對公民基本權(quán)利造成不成比例的風險。首先，由于與人臉識別等感知智能技術(shù)在邏輯上具有前后承接性，情感計算技術(shù)的應用對人臉等生物識別信息的處理將直接與個人信息的諸多權(quán)能形成沖突。其次，情感計算的應用還可能對個人隱私權(quán)形成直接的侵犯。在公眾場合通過非接觸式的感知智能技術(shù)對公眾情感隱私的分析具有“窺探”的意味，相較于人臉識別而言具有更強的“侵入性”（invasive），大大超出了公眾在公開場合可以保持個人情感隱私的預期。盡管基于明顯表情推斷情緒可能不足以上升到“窺探”隱私的程度，但微表情或者因刺激而短暫出現(xiàn)的面部表情則是非自愿的情感泄露（暴露真實的情感），具有明顯的隱私意涵。更不要說借助面部血流、瞳孔擴張等更加細微的表征而完成的對情感的“刺探”。最后，情感計算的部分應用還與人格尊嚴、平等保護等形成沖突。在智慧招聘推行過程中，通過情感計算，將受聘人群劃分為“高情緒控制力”和“低情緒控制力”，這種帶有價值導向的分類無疑會對人格尊嚴形成侵犯。更為重要的是，相關(guān)情感計算應用實質(zhì)上需要根據(jù)計算結(jié)果對不同分類的人群采取差異化、個性化的策略。此種差異化對待可能對特定人群形成歧視。

（二）情感計算應用的倫理沖突

基礎倫理學高度重視人類情感，影響情感的情感計算技術(shù)被認為會影響人的道德標準及自由意志。在經(jīng)驗主義倫理學中，情感被視為道德判斷的根源。在大衛(wèi)·休謨和亞當·斯密看來，所謂的錯事，就是一種我們“道德情感”無法接受的狀況；在功利主義倫理學的視野中，基本的道德義務是使幸福感最大化。換言之，情感是我們成為道德人的核心。在上述將情感視作道德基石的哲學流派看來，情感計算應用在影響了情感的同時也就影響了人類的道德標準。與基于情感的道德理論相比，康德認為道德的基石是根據(jù)理智原則而不是感情來行使自由意志。按照這種觀點，情感計算因為可能影響情感，進而影響自由意志，因此具有深遠的道德意義。具體而言，情感計算旨在模擬并影響人的自由意志，而自由意志在基礎道德哲學中具有神圣不可侵犯的地位。從這個角度看，情感計算影響情感的嘗試就顯得“不道德”。

（三）情感計算應用的技術(shù)瓶頸

情感計算技術(shù)的底層依據(jù)來自“基本情感理論”（Basic Emotion Theory， BET）。該理論由心理學家保羅·埃克曼（Paul Ekman）在1970年提出，認為人們可以從面部表情中可靠地辨別出情緒狀態(tài)，并且此種表情與情緒的關(guān)聯(lián)具有跨文化的普遍性。不過，在情感計算的發(fā)展過程中，對上述假設的質(zhì)疑始終持續(xù)。第一，外在表達與內(nèi)在情感之間的關(guān)聯(lián)存在不確定性。情感計算在技術(shù)邏輯上的根本問題在于它基于反向推理，即一個特定的生理信息被用來表示一種情緒體驗。從計算的角度來看，所有這些來源都是生理信號，具有分析和解釋上的共同困難。一方面，相同的生理信息可能表達了不只一種情緒，而實際上理解情緒需要更多的情境細節(jié)支撐。另一方面，在強烈刺激的環(huán)境下，受試者的生理信號和情緒之間可以建立較為明確的關(guān)聯(lián)。但是現(xiàn)有技術(shù)尚未證明在微妙和自然的情況下可以可靠地檢測到這種反應。第二，人們在不同文化、不同情況下，甚至在同一情況下，在溝通他們的情緒狀態(tài)時，存在著大量的差異。綜上所述，正是因為外在表達與內(nèi)在情感之間的不確定性、多樣性，以及數(shù)據(jù)標注的主觀性，現(xiàn)階段情感計算技術(shù)在準確性上難以得到充分保障。

情感計算應用的法律規(guī)制

（一）以“輕推”為限度的底線規(guī)制

情感計算應用的法律規(guī)制需要調(diào)和倫理學對情感自主性的強調(diào)與情感計算以影響情感為終極目標之間的張力。簡言之，就是在綜合考量倫理困境與技術(shù)困境的基礎上，通過法律設定情感計算技術(shù)對個人情感影響的限度，進而有效避免情感計算技術(shù)被濫用的風險。筆者認為，可以借鑒行為經(jīng)濟學與行為科學成熟的理論框架，以“輕推”為限度構(gòu)建一套情感計算應用的底線規(guī)制體系。“輕推”對應的英文“nudge”的原始含義是指輕輕推某人，尤指用肘輕輕推某人，以引起他們的注意。它是指通過正向強化（positive reinforcement）和間接建議（indirect suggestions），影響群體或個人的行為和決策，但個人仍然有選擇自由。

按照上述理論框架，應通過法律明確規(guī)范情感計算技術(shù)對人類情感的干預限度和方式。（1）情感計算應用中施加的影響情感的措施只能以“輕推”為限度，不得直接“操縱/控制”（manipulate）情感。那種通過腦機接口（BCI）的方式直接作用于神經(jīng)進而影響情感的方案與“輕推”的法律要求根本沖突。（2）情感計算應用中施加的影響情感的措施不得妨礙人們的自由選擇，不禁止其他選項。（3）情感計算應用中施加的影響情感的措施不能顯著增加選擇者的負擔，并且可以通過低成本的方式輕易避免。（4）情感計算應用中施加的影響情感的措施原則上只能是“積極助推”，禁止“負面助推”。（5）對于未成年人、精神病人、殘疾人等易受傷害人群，作為法律保留事項，需要更為嚴格的限制和專業(yè)指導。通俗來講，情感計算的“輕推”就是發(fā)現(xiàn)特定主體情緒存在一定問題，用各種策略“輕推一把”，讓他/她能夠回歸正軌。當然，在特定情況下，比如醫(yī)療領域應用情感計算時，可以適當超越“輕推”的范疇，但需要更加謹慎的態(tài)度和專業(yè)的論證。

（二）以風險為基礎的差異規(guī)制

情感計算技術(shù)的法律規(guī)制除了以“輕推”為底線之外，還應當按照以風險為基礎的比例原則構(gòu)建一套法律規(guī)制體系。申言之，就是根據(jù)情感計算應用可能產(chǎn)生的風險強度來動態(tài)調(diào)整法律規(guī)制的類型與內(nèi)容。一方面，要合理考慮情感計算應用對權(quán)利與倫理的影響強度與范圍；另一方面，嚴格按照風險的等級差異，等比例提供規(guī)制方案。對于“不可接受”的應用直接禁止，對于“可接受”的風險則分為“高風險”“中風險”“低風險”三類進行差異化規(guī)制。

所謂的“不可接受的風險”是指觸碰倫理禁區(qū)和價值底線的情感計算應用。根據(jù)該技術(shù)現(xiàn)有的發(fā)展態(tài)勢來看，主要有以下三種情形：（1）試圖直接操縱、控制他人情緒的情感計算應用；（2）追求不正當目的的情感計算應用，比如旨在激起特定人群積極情緒（暴力、好戰(zhàn)）的應用；（3）濫用技術(shù)，利用人性的弱點，比如未成年人、精神病人在年齡、身體或精神上的脆弱性，扭曲個人情感的情感計算應用。上述三種情形的情感計算應用產(chǎn)生的風險在法律上屬于“不可接受”的范疇，因此應當完全禁止。

所謂“高風險”是指那種可能嚴重影響個人權(quán)利，尤其是教育、健康、安全等基本權(quán)利的情感計算應用。這里的“嚴重影響”是指基于情感計算的結(jié)果直接決定個人教育、社會保障、醫(yī)療、就業(yè)、安全、健康等基本權(quán)利的有無。也就是說，情感計算結(jié)論成為“剝奪”個人基本權(quán)利的直接依據(jù)。按照情感計算技術(shù)發(fā)展的趨勢來看，主要有以下四種情形：（1）在教育系統(tǒng)中使用情感計算技術(shù)，用于確定進入教育機構(gòu)的資格，或?qū)μ囟ㄈ巳呵榫w控制能力的評估作為接受教育的一部分或者前提；（2）在就業(yè)領域使用情感計算技術(shù)，用于人員的招募和甄選，決定晉升或解雇；（3）在公共服務領域使用情感計算技術(shù)決定個人是否獲得和享受某些必不可少的公共服務，如獲得公租房、電力、電信服務等；（4）在執(zhí)法領域使用情感計算技術(shù)判斷特定公眾的危險程度或供述的可信度，以決定是否采用非羈押措施、緩刑等。此類應用可能會對個人的教育、職業(yè)等權(quán)利產(chǎn)生極為深刻和廣泛的影響。加之情感計算在技術(shù)上的不穩(wěn)定性，對其應用還可能導致特定群體被排斥在享受特定基本權(quán)利之外。這實際上侵犯了尊嚴和不歧視的平等與正義價值觀，導致特定群體在整個社會交往環(huán)境中處于特別被動的地位，并將此種歧視以技術(shù)形式固化。對于這類“高風險”應用需要嚴格限制，原則上禁止，只有公共服務機構(gòu)基于公共利益而展開，且需要配合以全流程的監(jiān)管措施。

所謂的“中風險”是指那種中度影響個人權(quán)利的情感計算應用，具體而言就是對個人權(quán)利產(chǎn)生實質(zhì)影響，但并不決定特定權(quán)利有無的狀態(tài)。盡管如此，考慮到對個人權(quán)利影響的實質(zhì)性以及現(xiàn)有技術(shù)的不穩(wěn)定性，我們?nèi)匀恍枰獙⑺麄儦w并為“中風險”應用。比如智慧教育中基于學生的情緒識別而采用差異化的教學策略雖然影響了不同學生的受教育權(quán)，但并未作為教育的準入資格條件而存在。對于“中風險”的情感智能技術(shù)，原則上可以應用，但是要構(gòu)建一套全生命周期的監(jiān)管措施。（1）風險管理機制：構(gòu)建完備的情感計算應用風險評估系統(tǒng)，從倫理、法律和技術(shù)三個維度綜合審查已經(jīng)發(fā)生或者可能發(fā)生的各類風險，并對各類風險發(fā)生的應對措施做提前預案。同時，風險評估要在全生命周期內(nèi)不斷迭代與更新。（2）數(shù)據(jù)治理機制：構(gòu)建數(shù)據(jù)獲取、標注、訓練的治理機制，提升質(zhì)量，將風險和歧視的結(jié)果降至最低。比如在情緒識別的樣本選擇時需要考慮不同性別、民族的人群構(gòu)成，保障訓練樣本的代表性；在數(shù)據(jù)標注時需要統(tǒng)一培訓，按照一致的標準。（3）技術(shù)保障機制：情感計算應用的開發(fā)者應當保障技術(shù)具有實現(xiàn)開發(fā)目的的準確性、穩(wěn)定性與安全性；要引入獨立第三方對各項技術(shù)的性能指標進行充分的測試與驗證。（4）流程備份機制：對應用的全過程進行記錄以保證可追溯性。（5）信息透明機制：使用者應當向用戶提供清晰、充分的信息，包括技術(shù)的現(xiàn)有準確性、安全性等內(nèi)容都需要在使用說明中聲明。（6）信息備案機制：將應用的相關(guān)信息提交相關(guān)主管機構(gòu)備案。在應用發(fā)展過程中，要及時更新。

所謂的“低風險”是指輕度影響或者不影響個人權(quán)利的情感計算應用。比如在情感聊天系統(tǒng)中，根據(jù)對用戶情緒的識別自動調(diào)整聊天方式。對于低風險的應用，法律上原則上不施加明顯的規(guī)制，只是作出最基礎的透明義務要求，比如明確告知用戶正在與具備情感識別功能的系統(tǒng)交互。在此基礎上，相關(guān)企業(yè)可以按照企業(yè)自律的方式合理選擇全流程監(jiān)管措施中的一項或者多項，以提升企業(yè)的合規(guī)能力。