人工智能與社會影響

隨著人工智能的快速發(fā)展，人類和人工智能之間的關(guān)系成為人們關(guān)注的焦點。人們常通過科幻電影來探討人類和人工智能的關(guān)系。2014年底上映的科幻電影《機械姬》（Ex Machina）以其對人類、人工智能、倫理等話題的深入探討，引發(fā)了廣泛關(guān)注。影片中，納森（Nathon，人類）創(chuàng)造了機器人伊娃（Ava），并邀請迦勒（Caleb，人類）來到自己的秘密基地對機器人伊娃進行圖靈測試。為了逃離這個秘密基地，機器人伊娃精心策劃了一系列的行動。伊娃通過穿上人類的服裝、向迦勒披露秘密、利用表情和動作展露對迦勒的愛意等方式，讓迦勒對其產(chǎn)生感情，最終使得迦勒幫助自己逃離秘密基地。這一電影情節(jié)雖然是虛構(gòu)的，但引發(fā)了人們對未來人類和人工智能之間交互影響的思考。

如今，以社交機器人（以下簡稱“機器人”）為代表的人工智能被廣泛應用在教育、養(yǎng)老、醫(yī)療健康和服務(wù)等不同場景中。國際機器人聯(lián)合會（International Federation of Robotics， IFR）發(fā)布的全球機器人2023年報告顯示，2022年全球機器人年增長率達7%，其中服務(wù)機器人的增長率高達48%。隨著機器人越來越多地進入人類群體中，研究者和實踐者都需要思考這樣一個問題：在人機交互情境中，機器人是否會對人類個體的行為產(chǎn)生影響？如果是，又是如何影響的？雖然現(xiàn)有的研究不能完全回答這一問題，但我們可以從中略窺一二。

對于個體行為如何受到其他人或者群體的影響（社會影響，social influence）這一基本問題，心理學家在20世紀30年代就產(chǎn)生了濃厚的興趣。社會影響的三種經(jīng)典類型是從眾（conformity）、順從（compliance）和服從權(quán)威（obedience to authority）。從眾關(guān)注個體行為如何受到群體的影響，順從關(guān)注個體行為如何在一般性的人際互動過程中受到影響，服從權(quán)威則關(guān)注個體行為如何受到高權(quán)力角色個體的影響。其中，從眾對個體影響最普遍，且受到研究者最廣泛的關(guān)注。因此，本文將重點關(guān)注從眾這一行為。

人類群體中的從眾

假設(shè)有一天你走在街上，肚子餓了想找間餐廳吃飯。在你面前有A、B兩家餐廳，A餐廳里大約九成位子都坐滿了，B餐廳則一個人都沒有，你會選擇去哪家吃飯呢？絕大部分人都會選擇A餐廳。這就是一個典型的從眾的例子。從眾探索的就是個體行為如何受群體行為影響。具體而言，從眾被定義為個體改變自己的觀念或行為，使之與群體標準保持一致的傾向，包括信息性從眾（informational social conformity）和規(guī)范性從眾（normative social conformity）兩類。

心理學家穆扎弗·謝里夫（Muzafer Sherif）最早對信息性從眾進行探索，并以此解釋群體規(guī)范的形成過程。他把實驗參與者邀請到一個只有一個光點的全黑的屋子里。這個光點是靜止不動的，但在全黑且沒有參照點的環(huán)境中，人們在觀察時會產(chǎn)生視覺上的錯覺，以為光點在前后左右移動（似動效應，autokinetic effect）。研究人員首先讓參與者單獨待在屋子里，要求他們獨自判斷光點移動的距離。參與者給出的答案差距非常大。隨后，研究人員將幾位參與者聚集在一個屋子里，讓他們再次判斷光點移動的距離。在這個過程中，參與者需要依次報出答案，以確保所有人都可以聽到。一開始，參與者各自推測的距離差異依然很大，但隨著輪次的增加，答案越來越趨于一致。最有趣的是，在完成集體推測之后，當研究人員再次將參與者分開，要求他們獨自判斷光點移動的距離時，他們給出的答案大多落在群體推測構(gòu)建的范圍內(nèi)。

可以看出，當正確的判斷具有模糊性時，人們往往會重視群體中其他同伴的判斷并進行權(quán)衡，逐步構(gòu)建起群體標準。這個群體標準一旦建立，個體便很容易將它內(nèi)化，用于指導自己的行為。甚至在個體已經(jīng)離開原先群體的情境時，也會參考這一規(guī)范，并在長時間內(nèi)遵從這一規(guī)范。信息性從眾很好地反映了在模糊情境中，為了追求準確，個體自身行為受群體影響，與群體標準保持一致的過程。

在明確知道正確答案的情境中，人們又會如何行動呢？這是規(guī)范性從眾探討的問題。心理學家所羅門·阿希（Solomon E. Asch）通過一系列實驗對規(guī)范性從眾進行了系統(tǒng)探究。在實驗中，研究人員告訴參與者，他需要和其他參與者一起完成一項判斷線段長短的任務(wù)。參與者需要進行多輪次的線段長短判斷，在每一輪中，研究人員會提供一條標準線段和三條比較線段（見圖1），參與者要從三條比較線段中選出一條與標準線段一樣長的線段。參與者按照隨機抽簽決定的順序依次給出他們的答案。

這個實驗任務(wù)極其簡單，正常情況下幾乎沒有人會判斷錯誤。但是，參與者不知道的是，除了他自己以外，其他的實驗參與者都是由研究人員扮演的（合謀者，confederate），他們會故意一致地答錯問題。所謂抽簽決定的順序也是提前安排好的，真正的實驗參與者會被安排在偏后的位置（例如，共7個人，實驗參與者會通過“抽簽”被安排在第6位），以確保能夠先聽到絕大部分“演員”的答案。一開始，為了獲得參與者的信任，“演員”們會先回答正確。在進行了一兩輪之后，“演員”們開始一致地給出錯誤答案。這時，真正的實驗參與者就需要決定，究竟是堅信自己、獨立給出自己的判斷，還是遵從大多數(shù)人的判斷。在共計18輪的判斷任務(wù)中，有12次“演員”們會一致地給出錯誤答案，研究人員會在這個過程中觀察并記錄實驗參與者的選擇。

阿希最初預測，人們不會受到他人錯誤答案的影響，會保持自己獨立的判斷，給出正確答案。然而結(jié)果卻大大出乎意料，只有不到30%的人一直堅持自己的判斷，而70%以上的人至少發(fā)生了一次從眾行為，更有超過30%的人在一半以上的輪次中發(fā)生從眾行為（有7至12次會遵從群體而給出錯誤答案）。這一研究結(jié)果大大震驚了研究者，他們沒有想到，在極其客觀的現(xiàn)實面前，個體的判斷和行為竟然可以被群體所引發(fā)的社會影響扭曲。后續(xù)的系列實驗更是發(fā)現(xiàn)，這一社會影響的產(chǎn)生甚至不需要太多人，只要有3個人就可以對另一人產(chǎn)生類似的社會影響。

如何打破這種從眾效應？異議者（dissenter）的存在是關(guān)鍵。群體中只要有一個異議者給出不一樣的答案，從眾效應便會大大降低。即使異議者給出的答案是錯誤的，也能較大程度地降低個體的從眾行為。這就是我們常說的少數(shù)派的力量。異議者的存在會使個體懷疑群體中大多數(shù)人所持觀點的正確性。如果此時異議者的觀點與個體所持觀點一致，個體對自身觀點的信心會進一步加強，從而減小從眾的可能性。即使異議者所持觀點與個體不一致，有不同意見這件事本身就意味著事情還不是非常清晰，存有懷疑空間，這也會在一定程度上減少個體對群體大多數(shù)人觀點的盲從。不止自己一個人有不同意見這件事，也會減輕個體對在群體中顯得過于突出的擔憂，從而減少迫于同伴壓力的從眾行為。

人機交互情境中的從眾

隨著人工智能技術(shù)的發(fā)展，機器人已經(jīng)被廣泛應用于教育、養(yǎng)老、醫(yī)療健康、服務(wù)等眾多領(lǐng)域，人機交互模式逐步成為組織中的新常態(tài)。在人機交互情境中，機器人是否會對人類個體的行為產(chǎn)生影響？沃爾默（Vollmer）等首次對上述問題進行了探索。他們將阿希實驗中的人類“演員”（人類合謀者）全部換成了機器人，然后分別邀請成年人和兒童來參與這個實驗，讓他們和一群機器人一起完成判斷線段長短的任務(wù)（如圖2A和2C）。在這個過程中，機器人同樣也會在18輪判斷任務(wù)中的12輪里一致提供錯誤的答案。實驗結(jié)果表明，當面對一群機器人提供的明顯錯誤的答案時，兒童會受影響，產(chǎn)生從眾行為；成年人則不會受影響，會堅持自己獨立的判斷。也就是說，機器人群體似乎無法對成年人產(chǎn)生社會影響。

但是，沃爾默等的研究結(jié)論有明顯的邊界條件。沃爾默等的研究設(shè)置的實驗條件是讓一個人面對一群機器人，即機器人是群體中的多數(shù)派，人類是群體中的少數(shù)派。這種情境顯然不是現(xiàn)實生活中常見的。在目前真實的工作或生活中，人機交互更加普遍的情境是，人是多數(shù)派而機器人是少數(shù)派。在更接近現(xiàn)實的情境中，沃爾默等的研究結(jié)論依然成立嗎？本文作者之一秦昕等對這一問題開展了進一步的探索。

秦昕等探索了在人是多數(shù)派而機器人是少數(shù)派的群體中，個體是否會受機器人影響產(chǎn)生從眾行為。他們基于沃爾默等的研究，在保持其他條件不變的情況下，把實驗情境設(shè)置成一個機器人和兩個人類“演員”，觀察在這個情境中實驗參與者是否會產(chǎn)生從眾行為（見圖2B和2D）。與沃爾默等的發(fā)現(xiàn)相反，秦昕等發(fā)現(xiàn)，在機器人作為少數(shù)派的情境中，當機器人提供明顯錯誤的答案時，成年人也會受機器人影響產(chǎn)生從眾行為。也就是說，秦昕等的研究首次發(fā)現(xiàn)了機器人確實有使人類遵從明顯錯誤建議的能力。此外，秦昕等還進一步探索了群體中存在異議者的影響。他們發(fā)現(xiàn)，當存在人類或機器人異議者時，群體中的從眾效應均能得到有效減弱，但后者減少從眾的效果稍小于前者。

在此基礎(chǔ)上，秦昕等進一步整合上述兩個不同的研究結(jié)論，探討了機器人對個體產(chǎn)生社會影響的邊界條件。可以看出，人機交互情境中的從眾效應顯然比單獨人類情境中的從眾效應更加復雜，個體在人機混合群體中是否會從眾在很大程度上取決于機器人在群體中是多數(shù)派還是少數(shù)派。當機器人是群體中的多數(shù)派，個人需要與一群機器人互動時，人類個體對機器人的敏感性更高，也更容易將機器人視作“外群體”，這在一定程度上會降低個體不從眾而引發(fā)的社會壓力。因此，在這種情境下，個體更有可能保持獨立判斷。當機器人是群體中的少數(shù)派時，人類個體對機器人作為外群體的感知會相對較弱，此時機器人依然可以對個體形成一定的社會影響，從而引發(fā)個體的從眾行為。

在當下及可預見的未來，機器人是人機混合群體中少數(shù)派的情境會更加普遍。在這種情境中，如何更好地利用機器人，使其對人類群體產(chǎn)生積極的社會影響并引發(fā)人們積極行為的從眾，規(guī)避其給社會帶來的潛在消極影響并減少人們消極行為的從眾，將是政府和組織需要思考的重要議題。

人機交互情境中的其他社會影響

除了從眾，機器人還可能造成其他類型的社會影響，包括順從、服從權(quán)威等。例如，在現(xiàn)實應用場景中，除了扮演與人類處于平等地位的角色外，機器人還可能處于領(lǐng)導或者權(quán)威地位，如經(jīng)理、老師、警察等，人們需要服從機器人所扮演的權(quán)威角色。一項研究發(fā)現(xiàn)，與人與人之間的互動不同，人機互動中機器人作為同伴角色比作為權(quán)威角色更有說服力；當權(quán)威機器人提供獎勵而不是懲罰時，它也更有說服力。

總的來說，目前的研究結(jié)果顯示，人們厭惡權(quán)威機器人的說服影響，這可能是由于人們質(zhì)疑機器人作為權(quán)威角色的合法性、厭惡機器人主導的行為及感到自主性受到威脅等。同時，機器人在執(zhí)行說服任務(wù)或者扮演權(quán)威角色時也可能引發(fā)一系列道德和倫理問題，如機器人可能影響人類的決策自由、侵犯隱私或操控人類情感等。總之，公眾、人工智能應用方和政策制定者不應低估機器人帶來的各種類型的潛在社會影響，需要制定明確的規(guī)章制度，確保人工智能在應用過程中對人們產(chǎn)生有益影響。

可預見的未來：值得深思和探討的問題

人們常常傾向于將機器人視為簡單的工具或機器，但隨著技術(shù)的進步，我們需要更深入地探討機器人對人類群體產(chǎn)生的社會影響。機器人能夠在無形中塑造和改變?nèi)祟惾后w的決策及行為。這種社會影響一方面可能帶來積極的應用前景，如在教育場景中促進積極行為的學習等；另一方面也可能引發(fā)一些潛在的問題，如在群體決策中導致盲從等。基于此，我們針對人工智能與社會影響這一話題提出了五大問題，供未來研究和政策制定討論。

第一，算法等其他形式的人工智能是否會產(chǎn)生相似的社會影響？

現(xiàn)有研究大多討論的是有實體的機器人的社會影響，如機器人通過語言影響人類的決策，無實體的算法是否具有相似的社會影響還缺乏系統(tǒng)探討。鑒于無實體的算法廣泛應用于數(shù)據(jù)分析、決策支持系統(tǒng)、個性化推薦等領(lǐng)域，其產(chǎn)生的潛在影響可能比有實體的機器人更大。例如，推薦算法可能影響人類的新聞閱讀偏好、社交互動等，進而對公眾意見和社會行為產(chǎn)生深遠影響。通過個性化的內(nèi)容推送，算法不僅可以增強用戶體驗，還可能無意中引導用戶的選擇和判斷，形成“回音室效應”，即導致相似的觀點不斷強化，不同的聲音被排除。同時，算法可能通過強化用戶已有的偏好來分隔不同的社會群體，從而加劇社會分裂。因此，探討算法等其他形式的人工智能的社會影響是未來研究和政策制定中一個亟需關(guān)注的問題。

第二，人工智能對不同文化背景的人影響如何？

隨著人工智能在全球范圍的應用，其對不同文化背景中的個體造成的社會影響可能是復雜和多維度的。例如，在權(quán)力距離高的國家，人們更習慣于服從權(quán)威，可能也會更容易接受人工智能這一新興“權(quán)威”的命令。同時，在全球化過程中，人工智能也可能無意中傳播或強化特定文化的價值觀和偏見，尤其是當算法的訓練數(shù)據(jù)來源于某一主導文化時。因此，在人工智能應用中為了實現(xiàn)對多元文化的包容，開發(fā)者和政策制定者需要共同努力，確保在人工智能技術(shù)的開發(fā)過程中將文化差異納入考量，避免產(chǎn)生文化偏見，從而促進社會公平和文化多樣性。

第三，人工智能會導致哪些長期社會影響？

由于現(xiàn)有研究在方法上相對單一，目前對人工智能社會影響的理解主要基于有限的人機交互實驗，這些實驗設(shè)計往往無法全面模擬真實世界中人與人工智能的長期互動。隨著人工智能深度融入人們的日常生活和工作，人與人工智能的互動會更加頻繁，長此以往，人工智能可能會帶來人們認知上的改變，進而對其行為產(chǎn)生更深遠的影響。例如，機器人所引發(fā)的從眾行為可能會削弱人的決策能力，長期來看，人類可能將越來越依賴機器人提供的選擇和建議，從而在無形中降低自主思考和創(chuàng)造性解決問題的認知能力。隨著人工智能技術(shù)的不斷進步和普及，我們需要認真思考其對人類認知和行為的長期影響。

第四，如何揚長避短，發(fā)揮人工智能積極的社會影響？

人工智能技術(shù)正在深刻改變?nèi)祟惿鐣绾卧谶@一過程中揚長避短，發(fā)揮其積極影響尤為關(guān)鍵。一方面，公眾、人工智能應用方和政策制定者都要意識到人工智能在人機交互過程中會對人類產(chǎn)生社會影響，進而利用人工智能來引導積極行為，發(fā)揮其積極作用。例如，目前人工智能已經(jīng)在教育領(lǐng)域廣泛應用，教育工作者在開展教學時，可以有意識地應用人工智能去影響學生，促使學生習得更多積極行為。另一方面，政策制定者需要警惕那些人工智能更有可能引發(fā)社會影響的應用情境，建立明確的規(guī)章制度和應用指引，規(guī)范人工智能的使用，以確保人工智能在應用過程中對人類群體產(chǎn)生的影響是符合倫理規(guī)范的。

第五，人工智能如何對其造成的社會影響承擔責任？

鑒于人工智能具有一定的自主性，它是否以及如何對其引發(fā)的社會影響承擔責任仍是一個亟待解決的復雜問題。有研究發(fā)現(xiàn)，當人工智能對他人造成傷害時，人們往往會將責任歸咎于使用公司、開發(fā)團隊及人工智能本身。在這些責任主體中，開發(fā)團隊通常被認為應該承擔最大責任，而人工智能本身應該承擔的責任最小。這種責任歸屬的判定反映了大眾對人工智能責任的一般看法。然而，確立一個有效的人工智能責任機制仍充滿挑戰(zhàn)。未來可能需要對現(xiàn)有的法律和倫理規(guī)范進行深入的改革和擴展，以適應人工智能技術(shù)的快速發(fā)展和普及。此外，隨著技術(shù)的不斷進步和應用領(lǐng)域的拓寬，公眾對人工智能責任的看法也可能會發(fā)生變化，政策制定者、技術(shù)開發(fā)者與社會各界需要持續(xù)對話和合作，共同探討和制定公正且有效的責任判定標準和獎懲機制。

總的來說，人工智能可能在人類有意識或者無意識時對其態(tài)度、行為、決策施加種種影響，涉及文化、政治、經(jīng)濟等方方面面。因此，深入研究和理解人工智能的社會影響不僅是科技發(fā)展的需要，也是社會治理的必要舉措。正如霍金教授所說：“強大的人工智能的崛起，可能是人類歷史上最好的事，也可能是最糟糕的事，結(jié)局尚不可知。”如何通過跨學科合作及多方參與，更好地利用和發(fā)揮人工智能積極的社會影響，同時控制其潛在的風險與挑戰(zhàn)，確保人工智能與社會價值觀的和諧共生，是研究者、管理實踐者和政策制定者共同面臨的重要問題。

基金信息：國家自然科學基金（72325012，72272155，71702202）