情緒識別技術的倫理風險及其規(guī)避

【摘要】情緒識別技術主要通過收集表情容貌、身體動作、語言內容等人類個體特征來解讀人類心理活動。這項技術的應用可以在多領域推進人類社會進步，但是也給人類帶來潛在的倫理風險問題。情緒識別技術有其理論基礎，而從其應用特征來看，導致技術風險的原因主要在于情緒識別技術仍處于初步發(fā)展階段和相關技術管理規(guī)定上的空白，正是由于對該項技術風險管控的認識不足，才導致情緒識別技術的倫理風險。問題的解決，需要從該技術倫理觀念的更新、對于該技術市場的有效管控和完善已有倫理制度等出發(fā)；而從管理者的角度來看，進一步規(guī)避該技術應用所帶來的倫理風險，一方面需要構建以民眾為基礎的知情同意機制，另一方面也需要提高情緒識別技術倫理失范的代價，更需要對該技術進行風險分級管控。

【關鍵詞】情緒識別技術；倫理風險；技術倫理

【中圖分類號】B82 【文獻標識碼】A 【文章編號】2096-8264（2024）31-0133-04

【DOI】10.20024/j.cnki.CN42-1911/I.2024.31.037

基金項目：江蘇師范大學研究生科研與實踐創(chuàng)新計劃項目“生物醫(yī)學道德增強的倫理可行性研究”（項目編號：2024XKT1063）。

情緒識別是一種新的識別技術，可以收集人類個體的表情容貌、身體動作、語言內容等人類個體特征來進行解讀人類心理的活動，這項技術可以通過人類的這些細節(jié)來解讀人類內心的情緒，從而通過計算機的算法來理解人類復雜的情緒。這項技術可以提升機器與人類的互動能力，使得人機交互體驗得到進一步優(yōu)化；同時也可以在一些領域內幫助人類，如醫(yī)療、商業(yè)領域等。情緒識別技術在很多領域透露出來的潛力，一方面使得人類對未來發(fā)展前景持樂觀態(tài)度，另一方面也產生了很多擔心的情緒。未來情緒識別技術廣泛運用后，其倫理風險問題必將十分突出，因此人類需要早日思考其產生原因，制定規(guī)則規(guī)范其使用界限，在此基礎上為規(guī)避情緒識別技術潛在的風險提供方案，這是人類必須聚焦的問題。

一、情緒識別技術的理論基礎與技術特征

比之常見的AI技術，情緒識別技術擁有其獨特的生物理論基礎：高級動物在自然界進化過程中，往往都形成了情緒的穩(wěn)定表達機制。在《人與動物的情緒表達》中，達爾文就提到像諸如害怕、喜悅、生氣等情緒都有著一些穩(wěn)定的情緒表達，一方面體現在臉上的表情，另一方面體現在聲音的變化。從表情上來看，不同種族的人都會有相似的表情來傳達內心的情緒；從聲音上來看，不同的聲音也代表著各種各樣的情緒，爽朗的笑聲代表著內心的愉快，一些年輕人在很高興的時候通常會大笑不止，當一些動物十分難受時，它們則會痛苦地呻吟或者“流眼淚”；所以人類或者一些高等動物都有著比較穩(wěn)定可以識別的情緒表達。

對于這種現象，達爾文的解釋是：情緒表達對于動物乃至人類的生存交往具有重要作用；從人類或者動物個體的視角來看，人類或者動物如果處在一定的狀態(tài)下，內心的情緒會有所反映，此時如果采取一定的行動就可以有效的舒緩一些感覺和欲望。例如說人在不開心的時候，身體中一些激素和酶會異常分泌，而哭泣這種特定行為則有助于使人回歸常態(tài)，緩解人的不適情緒。

人類和動物的很多基本情緒是刻在基因里的，有助于人們穩(wěn)定的保持生活習慣生存下去，這些情緒是全人類共有的。在人類的語言文字被創(chuàng)造以前，人們是通過情緒來交流和傳遞信息的，這一切都需要情緒表達是可繼承的和不易變化的。保羅·埃克曼作為心理學家也同意達爾文的看法，他認為大自然的進化過程，使得人類具有統一的基本情緒表達。他們對于情緒表達的觀點對后世情緒識別技術有著深遠的影響，為此奠定了生物學基礎。

要想更好地使用情緒識別技術，就必須了解此項技術獨有的特征和當今的狀況。首先，當下的情緒識別技術較為重視人類情緒的傳達，而不是那么重視語句和情境的作用。情感計算的先驅羅莎琳德·皮卡德（Rosalind W·Picard）曾將情緒識別技術界義為：“通過觀察情緒表達以及對情緒產生的情境進行推理，計算機可以像人類一樣準確地推斷（人）的情緒狀態(tài)。”[1]

機器可以對人類的情緒進行綜合識別，不斷學習、不斷優(yōu)化。但是當今的技術不夠發(fā)達，人類情緒也較為復雜，所以當下的情緒識別技術主要還是著力于識別人類特有的情緒，而不是著重于語句和情境的分析。[2]

人們的情緒傳達到體外主要是通過兩類渠道，一類是情緒動作，如人類的表情，人類的說話語氣等；另一類是通過一些生理體征來傳達，如呼吸急促、心率加快等。與之對應的是，人工智能對人類情緒的識別方法也主要分為以下四類：第一類是識別人類的面部表情；第二類是識別人類的語氣特征；第三類是識別人類生理的特有信號；第四類則是將前面三類綜合起來，采用多進路的識別方式，所以第四類也是當下的熱門情緒識別方法。

情緒識別技術的應用主要是在審訊、駕駛、教育、商業(yè)決策和醫(yī)療等領域，在這些實際運用中，該項技術一方面提升了這些領域的工作效率、優(yōu)化了使用者的實際體驗，但另一方面也帶來了許多不確定的風險。德國著名社會學家烏爾里希·貝克指出：“風險是不可見的。 暗含的因果關系常常維持著或多或少的不確定性和暫時性。”[3]27人類必須在充分了解技術風險預期的情況下，才能充分地使用這項技術，不然可能會造成無法預知的后果。

二、情緒識別技術倫理風險的基本表現

（一）倫理關系失調風險

正如康德所言：“人，實則一切有理性者……在他的一切行為上，總要把人認為目的。”[4]一切的技術的發(fā)明和使用，首先要基于人的使用，要保證人的主體地位；如果一種技術將人奴役了，把人變成了工具，那這項技術一定不會被人歡迎。如果放任該項技術隨意發(fā)展，人與人之間的交往關系就會因其而產生異化：一方面，情緒識別技術會使得人失去其主體性的地位，一些人會利用這樣的技術去檢測控制其他人的情緒行為，這會使得弱勢群體喪失其主體地位，變成處于不安全狀況下的異化的人，使得人與人之間的關系產生很大的倫理問題；另一方面這項技術可能會使得人喪失其自身的社交尊嚴，如果一個人的情緒在機器的檢測下一覽無余，喜怒哀樂毫無秘密，那這個人的主體尊嚴蕩然無存，如果人與人之間的交往關系變成了各種機器識別的結果，那人就沒有了人應該所處的地位。除此之外，情緒識別技術還會使得人類恐懼進行交往，人一旦開始交往可能就會被機器偷偷地監(jiān)視著，機器可以在人完全不知情的情況下分析和判斷人的情緒變化，這會使得所有人都處于懷疑和被懷疑的狀態(tài)，人在這樣的狀態(tài)下十分焦慮，不知如何是好。

（二）倫理價值失衡風險

情緒識別技術目前仍然只被少數人所使用，這會導致擁有這些技術的人壓迫沒有這些技術的人，這就會導致情緒識別技術對于社會上的處于相對弱勢的群體產生一定的負面影響。靠著情緒識別技術，有可能一些使用該技術的優(yōu)勢群體會利用“科學”將弱勢群體打上一些充滿歧視的標簽，用“偽科學”來不當獲利。與此同時，弱勢群體不斷提供著海量的情緒信息以供機器學習和進化，但個體化的弱勢群體則是被忽視掉了，相對于海量的數據而言。這無疑隱藏著壟斷的風險，檢測者利用此不斷獲利。在未來，隨著該項技術的不斷發(fā)展，人類的所有情緒都可能被解讀出來，上位者利用這些去控制弱勢群體，這也就是德勒茲所預言的“控制社會”[5]。人們被技術所控制和制約，人通過技術統治其他人，人與人的關系也就發(fā)生了異化。

（三）倫理行為異化風險

美國技術哲學家唐·伊德開創(chuàng)的后現象學技術哲學深入討論了人、技術、世界三者之間的四種關系，即“具身關系”“解釋關系”“它異關系”“背景關系”。[6]這四種關系可以為我們思考情緒識別技術的潛在風險提供理論基礎。從“具身關系”的角度出發(fā)，情緒識別技術一定程度上讓人們與世界互動的方式發(fā)生了變化，原來人們通過自身的生活技能和經驗來做出獨立判斷，現在則是技術加入其中，人們可能在這個過程中被技術支配，喪失人的理性，做出一些不當行為；從“解釋關系”的角度出發(fā)，人們對于情緒識別技術的依賴，可能會出現很多錯誤，例如情緒識別技術如果對人的情緒解釋出錯，那人們看到的結果也是錯誤的，甚至可能被有心人所利用，產生不良的后果；從“他異關系”的角度出發(fā)，情緒識別技術可能會使人陷入技術的控制，使人變?yōu)榧夹g的對象物，人類的情緒將會成為控制人的工具，人與人之間變得異化，人處于這種唯一的世界中無法逃離；從“背景關系”的角度出發(fā)，該項技術會構成人類的生活背景，以不被注意到的方式影響人類的生存狀態(tài)，這種情況會讓人類無比依賴這項技術，自我束縛于其中。

三、情緒識別技術倫理風險的成因

情緒識別技術的應用是一把雙刃劍，既會為人類社會帶來發(fā)展的機遇，也會對人類文明產生一定的威脅。人類的存續(xù)與人工智能發(fā)展之間的關系需要被謹慎思考。[7]人類應該對于情緒識別技術帶來的潛在威脅加以關注，并提前思考和反思。

（一）識別界限問題

情緒識別技術在使用中可能會遭遇識別界限的問題：一方面從情緒識別技術的生理學基礎來看，情緒識別技術的理論基礎是基本情緒理論，只能夠識別人類的動物的基本情緒。一些設計者在此基礎上越界應用該項技術，比如使用振動圖像技術記錄受試者的頭部運動情況，通過分析頭部運動的數值測試受試者的心理狀態(tài)。這項技術本身的原理可能是正確的，但是其應用場景可能會存在一些問題：一些警察可能會將可疑人群進行情緒識別測試，如果可疑人群沒有通過該項測試，就可能會被審查和限制人身自由，對其生活產生了重大影響。但在沒有其他證據的情況下，該項技術并不具有足夠的效力證明可疑人群犯罪，明顯是對該項技術的不合理的運用。另一方面，一些商業(yè)開發(fā)者，會使用模糊的語言誘導消費者情緒識別機器可以完全識別人類復雜行為等，夸大該產品的功能，將情緒識別擴大化，產生不好的影響。

（二）算法問題與風險

情緒識別技術背后的邏輯是AI算法，可能會遭遇如算法可解釋性等問題：人類的情緒是可以通過語言來闡述的，而機器算法背后的緣由則是比較難以判斷的，所以在一些公眾決策上，人類很有可能會質疑機器算法的合理性。

除了算法的可解釋性，機器情緒識別不夠準確和過于準確也會帶來一些風險。如在識別產生問題不夠準確的情況下，機器情緒識別會產生很多的問題。原因可能是機器情緒識別的時間過短，在有限的時間內情緒識別機器只能采集到極其有限的信息，可能會對其判斷產生誤導；與此同時，機器情緒識別主要基于機器的深度學習，深度學習就意味著這是一種統計學的可能性，不可能做到百分之百準確，仍舊有失誤的可能性；還有就是機器情緒識別可能會面臨數據來源過于狹窄的問題，如都采用了美國人的表情特征，就會導致數據過于集中，在美國人情緒的識別上準確率較高，對于亞洲人則不是很適用的問題；除了上述的原因，目前的情緒機器識別只會側重于人類的生理表情，而不會結合當時的情景加以推理，如此就會出現很多問題，例如一個人如果喜極而泣的情況下，人類會識別為情緒過于激動，十分喜悅，而機器則可能被人所“欺騙”，做出這個人十分難過，從而哭泣的錯誤判斷，從而人們可以故意去欺騙機器，做出與內心相反的表情動作，產生一些風險，影響識別效果。

四、情緒識別技術風險規(guī)避基本措施

面對情緒識別技術可能導致的諸多倫理風險，人類要未雨綢繆，行動起來主動應對，提出行之有效的應對措施，以規(guī)避未來的不良后果。

第一，建立良好的知情同意機制，保證公眾的情緒隱私權利不受侵犯。雖然現在的情緒識別技術仍在快速發(fā)展，但人類的情緒十分復雜，是不能完全被情緒識別技術解讀和準確傳達的，而且人與人之間也需要隱私和距離，不需要這樣完全的情緒解讀。公眾需要對情緒識別技術有著正確的認知，才能夠有效地維護自身的權利，不被技術所控制。首先，這項技術的開發(fā)者要盡可能保證公開公正，在技術的使用過程中，要明確告知技術的受體正在被這項技術所檢測，征得對方同意后方可使用此項技術。其次，在技術使用的過程中，要盡可能尊重人的主體地位和價值，引導技術使用者尊重他人，告知他這項技術只是對人類情緒的簡單解讀，保證人和人之間的關系。最后，在技術使用完成時，要及時告知技術受體識別的結果及結果的可能用途以及可能產生的影響，將權利交給技術受體本身，獲取被檢測者的支持和理解。

第二，進一步研究和明確倫理規(guī)范的邊界，加大對倫理失范的懲戒力度。在情緒識別技術中，參與投資和研發(fā)的人員都是為了逐利而進行活動，所以可以通過提高倫理失范代價來調節(jié)市場，從而提高他們的風險防范意識。首先要進一步完善該項技術市場的進出機制，從而維護該市場的良好環(huán)境，一方面要鼓勵遵守市場規(guī)則的該項技術的研究機構，另一方面要加大進入該市場研發(fā)機構的審查力度。其次是要針對情緒識別技術設立專門的監(jiān)督機構，負責該項技術研發(fā)及應用的倫理審查工作，與市場參與者溝通好要承擔的風險。最后是要大力宣揚個人的職業(yè)道德，通過樹立榜樣和打擊違反者來提高該行業(yè)從業(yè)者的個人素質，同時加強社會監(jiān)督舉報機制，強化社會對于情緒識別技術的潛在風險意識。

第三，建立健全法律法制，明晰約束不當技術行為所需的司法依據。法律是倫理道德的底線，要通過架構與該項技術匹配發(fā)展的法律體系，來優(yōu)化該行業(yè)的法律環(huán)境。情緒識別技術對于公眾情緒的竊取已經突破了傳統法律體系的制約，所以我國需要架構更為合適不斷進步的法律體系，針對性地對其進行約束和治理。一方面要令行禁止，對于情緒識別技術的不當行為做出禁止性規(guī)定，依法追責；另一方面要充分保護被該項技術檢測者的權益，以法律保護民眾的權益不受損害。

相比上文的應用場景而言，人與機器的互動倫理風險較低。如果能成熟使用這項技術，提升情緒識別的準確性，同時做好民眾隱私權益的保護，這項技術就可以帶來很多好的后果，這些收益將遠遠超過其隱含的風險。

例如已經普及壓力識別功能的智能手表，可以幫助管理好個人的情緒和健康，有助于個人提升生活幸福感。整體來看，情緒識別機器只是提供了一些與情緒有關的識別因素，而被試者的情緒水平則是由人來參考因素做出判斷的。

雖然這樣的思路加入了人的因素，能夠較大程度上減少該技術帶來的潛在風險，但是這也很大程度上限制了該技術的進步和發(fā)展，機器只是一個記錄的功能，而喪失了核心的判斷功能，和情緒識別技術發(fā)明的愿景不一致。

所以更好的方案是在中間找到適中的點，可以將機器判斷的結果作為一個優(yōu)先參考的結果，是一個提高效率的做法，再輔以使用者和被測試者的雙重確認，但這種確認也要考慮人力和經濟成本，這仍是需要進一步商榷的。

還可以依據具體情況來判斷在多大程度上依賴機器的判斷結果，如果情況越嚴峻、越復雜，就越要依賴于人做出最終判斷；反之則交給機器就可以。這樣的風險評級可以和多大程度上使用機器判斷相輔相成，綜合作用。

這種方案的優(yōu)勢首先是保留了情緒識別機器的核心功能，無論人類在多大程度上信賴機器的情緒評估結果，機器仍是在不斷學習的，仍在做著真正的情緒識別工作，是在不斷發(fā)展和進步的，而不是只是一個記錄數據的工具。其次是確保了人在統治機器，決策權在人，人來做最后的決策，糾正機器可能出現的錯誤，這樣可以有效降低情緒識別機器的倫理風險。

最后是可以將風險分級制度與情緒評估的可信賴度很好的結果起來，根據不同的風險級別，有針對性地治理和權衡，提升效率。情緒評估的可信賴度可以根據著風險分級的大小來同步變化，在高風險的情況下使用較弱的情緒評估可信賴度，更多相信人的判斷，避免可能出現的倫理風險；在中風險的情況下使用適中的情緒評估可信賴度，由人來做決策，較大程度上參考機器的情緒評估結果；在低風險的情況下則以節(jié)省人力為主，通過不斷的機器學習，提高機器情緒識別的準確度和速度。

除了上面制度管理的方案外，情緒識別技術更需要技術的改進和根據實際情況的不斷修正，要增加情緒識別數據的來源廣泛性，不斷提升其算法的準確度；多應用多模態(tài)綜合判斷的情緒識別技術，根據不同場景、不同設備動態(tài)調整識別策略和動態(tài)評估算法的準確度。

五、結語

情緒識別技術是新時代革命性的科技成果，可能會改變人類和機器互動的傳統模式，有著十分廣泛的應用愿景。人類要一方面利用好情緒識別技術帶來的優(yōu)勢，推動社會進步；另一方面更要注意情緒識別技術潛在的倫理風險，做到防患于未然。人類要堅持科學的態(tài)度對待它，要在擁有科學證據的前提下判斷其可信度，既不盲目迷信它，也不盲目抵制它。

對于情緒識別技術的管理，要整體全面推進，頂層進行原則上的指定，中層則是負責推進規(guī)定，底層則要靈活運用好規(guī)定；頂層可以著重于維護弱勢群體的權益，中層可以根據情緒識別技術的實際應用過程和應用后果來區(qū)分不同的應用場景，底層可以根據中層判斷的不同場景，來判斷在何種程度上信賴情緒識別的結果以及如何保護自身的權益。

人類的目標始終是利用好新的情緒識別技術，一方面讓其為人類社會的進步做出應有的貢獻，另一方面提前避免其帶來的風險和問題。在這條路上，人類還有很遠的路要走，不斷摸索，不斷改進。

參考文獻：

[1]阮凱.情緒識別技術的問題、風險與規(guī)治[J].自然辯證法通訊，2023，45（02）：82-90.

[2]謝小飛，吳家華.論情緒識別技術的倫理風險及其防控[J].學術交流，2022，（11）：151-160.

[3]貝克.風險社會[M].何博聞譯.南京：譯林出版社，2004：27.

[4]康德.道德形而上學探本[M].唐鉞譯.北京：商務印書館，1957：42.

[5]德勒茲.哲學與權力的談判[M].劉漢全譯.南京：譯林出版社，2012：191.

[6]伊德.技術與生活世界——從伊甸園到塵世[M].韓連慶譯.北京：北京大學出版社，2012：95.

[7]王東，張振.人工智能倫理風險的鏡像、透視及其規(guī)避[J].倫理學研究，2021，（1）：109.

作者簡介：

李仕琦，男，江蘇徐州人，碩士研究生，主要從事科技倫理方面的研究。