智能傳播時代社交機器人的興起、挑戰與反思

■ 高山冰 汪 婧

一、社交機器人的興起

國務院印發的《新一代人工智能發展規劃》指出,到2020年,我國人工智能總體技術和應用與世界先進水平同步,核心產業規模超過1500億元。到2030年人工智能理論、技術與應用總體達到世界領先水平,成為世界主要人工智能創新中心,核心產業規模超過1萬億元,帶動相關產業規模超過10萬億元。當前,世界科技巨頭們致力于云計算、大數據、芯片、自然語言處理、機器學習等領域的技術開發,人工智能技術被應用于農業、工業、軍事、教育、醫療、傳媒等領域,與人們日常生活的聯系日益緊密。

社交機器人是人工智能技術應用于在線社交網絡的產物,具體指在在線社交網絡中模擬人類用戶,自主運行、自動生產發布內容的算法智能體,它承擔著聊天網友、智能客服等角色。社交機器人是近年來的人工智能新秀,雖然被稱為“機器人”,但其和過去概念中的機器人大有不同,它拋棄了傳統智能機器人笨重的“身體”,以虛擬形象徜徉在社交網絡中。相較于傳統機器人,它更為智能,可以模仿真人用戶在網絡中的行為模式進行社交,進行對話、關注、點贊、評論、轉發等操作。世界各國政府和企業在注意到社交機器人的巨大潛力后將其廣泛投入使用。

機器人參與網絡社交是近幾年出現的新現象,機器人寫新聞、企業使用智能客服自動響應客戶問題、手機里的“Siri”和機主聊天互動,這些都是社交機器人的實例。相比于它帶給人類生活的積極性變革,社交機器人用于惡意目的造成的倫理風險更受到廣泛關注。社交機器人常常被用來引導甚至操縱網絡輿論,威脅民主政治的發展。“機器人水軍”已經取代人工水軍成為互聯網上一股重要的新興力量。①此外,社交機器人還會被用于操縱股市、傳播虛假信息、竊取個人隱私等。

二、社交機器人對傳播生態的重塑

早在2012年,研究發現10.5%的推特賬戶是機器人,另有36.2%是機器人輔助的人類用戶。②如今,推特、微博、微信、QQ上充斥著社交機器人發布的信息,社交機器人被廣泛應用于各行各業。社交機器人的出現,對網絡傳播生態造成巨大沖擊,以人為主導的生態開始向“人機共生”轉變。

1.傳播中介進化為傳播主體

計算機在人與人之間的傳播中一直起著輔助、介導的作用,這種“人—機—人”的傳播模式即為“計算機輔助傳播(Computer-Mediated Communication)”。計算機作為一種傳播渠道和工具,連接處于不同位置的兩方,方便其進行數據、信息的交換。社交機器人的出現,使機器突破了原來的工具屬性,從傳播媒介變成了信源或信宿,有了和人類平等的傳播主體地位。這種真實人類與智能體之間的傳播活動,即“人機傳播(Human—Machine Communication)”③。

社交機器人作為人機傳播中的傳播主體,其主體性首先體現在它能自動生產發布內容,成為和人類一樣的“數字勞工”。2009年,市場咨詢服務公司Sysomos對推特上活躍用戶的數據進行了分析,發現32%的內容是機器人賬戶發出的,這些賬戶平均每天更新150條以上的推文。④2018年,Distil Networks公司發布了一份《2018惡意機器流量報告》,數據顯示2017年42.2%的互聯網流量由機器產生,其中良性機器產生的流量占20.4%,而惡意機器產生的流量占21.8%,中國的惡意機器產生的流量排名已達全球第二,僅次于美國。⑤研究顯示,2016年美國大選第二場辯論中,推特上親特朗普的2400萬多條推文中有三分之一由社交機器人發出,支持希拉里·克林頓的72000條推文中,社交機器人生產的內容占四分之一。⑥除了能自動生產內容,社交機器人還可以與其他網絡用戶進行社交互動,比如自動訪問用戶主頁,點贊、轉發、評論他人發布的內容等。而與人類平等對話是社交機器人成為傳播主體的重要因素之一,以“微軟小冰”為代表的聊天機器人最能體現這一特點。“微軟小冰”支持文字、語音、圖像的多感官交流,能和用戶進行猜謎、占星、對詩詞的游戲。其和人類進行單次連續對話的最高記錄達7151輪,時長29小時33分鐘。⑦社交機器人正是因為實現了對人類行為的高度模仿,讓人無法發覺其作為“異類”的異樣,所以在網絡世界被看成了和人類一樣的傳播主體,改變了社交網絡生態以人為主導的局面。

2.從“媒介是人的延伸”到“媒介是人”

麥克盧漢指出,一切媒介均是感官的延伸。⑧社交機器人作為獨立傳播主體與人進行交互,過去機械的“人機互動”轉變為了更具情感和智慧的“人機傳播”。人機傳播過程中,社交機器人承擔了和人類相同的角色,能替代人類的大部分功能。社交機器人作為人的交往對象,逐漸具備理性和感性認知能力,能替代人類進行部分情感勞動。而人在與之交往的過程中,各項感官、思維、情緒也得到充分調動,“主體意識”進一步延伸放大。

社交機器人之所以能延伸人的“主體意識”,原因在于現今的“情感計算”技術賦予了其情感勞動能力,使其突破了過去媒介的工具屬性。情感計算是針對人類的外在表現,能夠進行測量和分析并能對情感施加影響的計算。⑨情感計算是一門融合了多種學科知識的研究,涉及計算機學、數學、認知科學、心理學、社會學、哲學等方面。社交機器人的情感計算,主要包括自然語言理解和類人語言生成表達兩個工作模塊。其目的在于使社交機器人在保持高水平智商的同時,不斷提升情商,提升其對人的共情能力、情緒表達能力。隨著情感計算相關研究不斷取得突破性進展,未來社交機器人在語義理解、對話的一致性、交互性方面都會有顯著進步。媒介技術形態逐漸由服務型互動走向情感型交往,媒介技術演變的表征也從“媒介是人的延伸”往“媒介是人”的方向演進。⑩

3.社交關系重構

社交機器人因其功能性、社交性、中介性擁有了改變整個網絡社交生態的能力。在社交網絡上獲得影響力后,社交機器人可以有效地影響其他用戶的社交選擇。大量的機器人程序可以用來修補社會群體間斷開的聯系,并彌合現有的社會鴻溝。社交機器人在架構了人類在線社交關系后,這種互動關系能夠從線上延伸至離線狀態。國外研究人員設計了一款名為“Botivist”的社交機器人,通過它在推特上尋找潛在的志愿者參與捐款或解決社會公共問題。結果發現,關注相同議題的人因為Botivist結識成網友,一旦他們中的部分就問題達成進一步共識,就會采取實際行動去解決問題,這樣網絡上的社交關系自然延續到線下。此外,通過社交機器人“Lunch Roulette Bot”在企業社交網絡中的實驗發現,該機器人極大地影響了員工在公司的整體社交能力,尤其是在和同齡人或合得來的同事約會的時候。這種由機器人引導的午餐約會一定程度上會促進員工在企業社交網絡中的互動。社交機器人架構社交關系的能力對一些社會組織來說是福音,這一功能可以用于企業營銷、員工管理、公益活動,很大程度降低了陌生人進行社交的門檻。

三、社交機器人帶來的挑戰

作為更接近強人工智能的社交機器人,本應造福人類社會,使每個人享受到技術帶來的福利。但是社交機器人的負面影響在近幾年越發受到關注。

1.語義偏見繼承

社交機器人在被程序人員開發設計出來以后,并不是完全按事先嵌入的指令進行“刺激—反應”式的社交,討論話題、詞匯語言、情感傾向都會被社交機器人學習。機器學習算法讓社交機器人能在社交網絡環境中不斷豐富自己的詞匯和語法,提升其與人類溝通的質量。

社交聊天機器人系統的總體架構可分為“用戶輸入”“對話管理器”“機器人輸出”三個模塊,該系統可接受文字、語音、圖像、視頻等多種形式的用戶輸入,對話管理器將接收的用戶輸入分配到適當的模塊,包括核心對話、視覺識別和其他技能模塊,這些模塊理解用戶輸入并生成輸出。不同情況下,聊天管理器將調用不同技能,將用戶請求發送到相應的技能組件并從中獲得響應。機器學習程序在學習過程中會繼承人類語言中的語義偏見。2016年3月,微軟公司開發了一款旨在改進產品在對話語言上理解能力的AI聊天機器人Tay。然而,在上線的短短幾個小時內,Tay就被美國網友調教成了一個滿嘴臟話、散播仇恨的新納粹種族主義者。Tay背后的系統是通過挖掘相關的公共數據構建的,其使用從社交媒體處獲得的匿名數據訓練其神經網絡,通過與推特等網站上的用戶進行互動來發展自己的行為。這意味著系統一旦投入運行,設計系統的工程師也不知道它們最終會做什么。正如AlphaGo的創造者之一Thore Graepel所說:“盡管我們對這臺機器進行了編程,我們也不知道它接下來會采取什么行動,它的行動是通過訓練后做出的自然反應。我們只創建數據集和訓練算法,但隨之而來的行為我們是無法控制的”。

社交機器人對用戶行為不加選擇地“學習”,結果背離了設計者想要其成為“AI助手”“人類好友”的初衷,在網絡習得臟話與偏見之后,機器人又會將這些傳染給其他心智尚不成熟的人,長此以往就會敗壞網絡世界風氣、煽動網絡輿論、影響網絡空間的和諧。

2.情感欺騙

社交機器人主要分為聊天機器人和垃圾機器人。聊天機器人是在社交網絡中和人類進行語言互動的軟件程序,它和人類的互動主要是“一對一”的形式。垃圾機器人則是在網絡上發送大量垃圾信息,阻礙人類正常互動交流的社交機器人。垃圾機器人具體表現為社交媒體上的虛假賬戶,此類賬戶擁有詳細的個人信息,發布的內容具有強烈的人格屬性。聊天機器人和垃圾機器人同為具有人格屬性的虛擬AI形象,在網絡上扮演人類與真人互動交流。兩類機器人對情感的欺騙分為兩種不同的情況,一種是人類事先對機器人身份知情,但仍沉湎于虛擬情感；一種是在人類不知情的情況下,機器人主觀故意性欺騙。

第一種是自愿沉迷騙局。遭受社會孤立的人可以通過電視與他們最喜歡的電視節目和電影中的人物創造所謂的超社會或虛假關系,以此來轉移孤獨感和社交匱乏的感覺。人類將電視角色代入自己的生活從而建立虛假關系,滿足人類與社會產生聯結的本能需要。無論是手游“戀與制作人”里的男主角或是微軟小冰,人類在與其互動的過程中,不自覺地將制作者安排的角色設定與這些虛擬化身相結合,滿足作為社會性動物的情感聯結需要。即使早就明白對方并不是真實的人,提供給自己的是虛擬情感,卻依然愿意沉湎其中。然而,這種“交流”不是自我意識的驅動,而是由算法預設的,它只需要從算法規定的眾多選項中擇取一個最優回復。第二種是主觀故意性欺騙。垃圾機器人對人類用戶的故意欺騙表現在其與真人賬戶的高度相似性上。它們可以在網絡上搜索信息和照片來填充個人資料,并在預定的時間發布收集的信息內容。其模仿人類生產消費內容的時間特征,包括日常活動的晝夜規律和信息生成的時間高峰。還可以和人類進行更復雜的互動,比如交談、評論、回答問題等。通過自然語言處理、機器學習算法、深度學習等技術,社交機器人在認知、理解、表達情感方面取得了很大進步,擁有“情感”的機器人更能取得人類的信任。

3.用戶隱私侵犯

社交機器人和人類用戶建立社交關系并非難事,大量研究表明人類用戶在面對陌生好友申請時習慣性選擇通過。都靈大學計算機系研究者創建了一個名為“lajello”的社交機器人賬戶,定期對目標用戶的主頁進行訪問。結果221名用戶就主動和它建立了好友關系。哥倫比亞大學的Boshmaf等人通過在Facebook上部署社交機器人網絡Socialbotnet,測試在線社交網絡面對機器人大規模入侵時的表現。Socialbotnet由102個社交機器人、一臺僵尸主機和命令控制通道組成,其在Facebook上運行了8周,目標是大規模滲透進Facebook,獲取用戶隱私數據。Socialbotnet一共發送出8570條好友申請,3055名用戶接受了申請,當社交機器人和Facebook用戶擁有11個以上的共同好友時,用戶對好友申請的接受率就會上升到80%。社交機器人與人類用戶成為好友后,它們就可以解鎖好友賬戶更高的隱私權限,獲取更多關于好友賬戶的個人信息。此外,它們還可以以朋友的身份與人類用戶進行交流互動,人類用戶在不知情的情況下也會泄露隱私給自己的這位“好友”。

4.虛假新聞傳播

研究假新聞的來源與傳播對假新聞治理有著重要意義,過去我們普遍認為新聞媒體和網民是假新聞的主要制造者和傳播者,但最近有研究表明社交機器人應該對網絡假新聞傳播負主要責任。學者分析了2016年美國總統選舉期間及之后的1400萬條推特消息,發現社交機器人在虛假信息的傳播過程中起著關鍵作用。在虛假信息的早期傳播階段,社交機器人尤其活躍,并且傾向于針對有影響力的大V傳播,試圖通過他們擴大假新聞的影響范圍。社交機器人對假新聞傳播的能力很快被政客、企業等個人或組織注意到,他們大批量購買機器人賬戶造謠傳謠、打擊競爭對手,給自己帶來直接的政治和經濟利益。

5.政治活動操縱

社交機器人用于政治活動是社交機器人研究的主要領域之一,隨著“機器人大軍”大舉干預各國政治的現象被媒體廣泛報道,不少國家的學者都注意到了社交機器人在政治活動中的作用,并產生了“政治機器人(Political Bot)”這一專有名詞。政治機器人是指那些被政治團體操控并在社交媒體中廣泛參與政治討論的社交機器人。政治機器人通過與其他社交媒體平臺用戶建立社交關系,傳播幕后運營者的政治主張,力圖影響輿論。研究者收集了從2019年3月4日至5月9日一組英國退歐相關標簽上的推特數據,獲得了來自143332名不同用戶2520663條推文,經過分析,共有1962個賬戶是機器人。而且那些支持蘇格蘭獨立的機器人賬戶,都采用了相同的策略來促進觀點的傳播,比如發布的推文有相同的來源,使用相同的話題標簽等,這表示他們背后可能是同一個運營者。政治機器人用于選舉活動、政治動員、政治干擾所帶來的種種后果,已經嚴重威脅到一個國家的民主和法制。

四、關于社交機器人失范行為的思考

根據海德格爾的分析,無論是手工藝品還是工業化制品,任何一種技術的假定作用和功能都是人類為實現特定目的而采用的手段。社交機器人的角色從過去的傳播中介躍升為傳播主體,人不再是在線社交網絡的唯一主導者。在情感計算研究的加持下,社交機器人在理解、認知、表達人類情感方面取得了顯著成果。

社交機器人雖然展現了強大的智能性和自主性,但本質上還是屬于弱人工智能,技術上難免存在不成熟的地方。社交機器人采用的機器學習算法,讓其在與人類的互動中不斷學習,不受限于程序員植入的算法模型,這使得它在魚龍混雜的網絡知識海洋中極易被人“教壞”。社交機器人對人類的高度模仿常常使人分不清它的真實身份,在情感上受到“欺騙”。它們被背后的操控者訓練成了“犯罪機器”,盜取用戶隱私、傳播虛假信息,影響網絡安全和輿論風向。社交機器人造成的最顯著的危害當屬對政治的操縱,2014年日本首相選舉、2016年美國大選、英國脫歐、俄羅斯抗議活動,網絡上都有政治機器人活動的身影。2019年鬧得沸沸揚揚的“港獨”事件,也有不明來歷的政治機器人在社交平臺上推波助瀾,大量機器人賬號用簡體中文在推特上發布“反中”“港獨”言論,而有些賬戶在“港獨”暴亂之前,一直處于休眠狀態,出售政治機器人已經成為一項地下產業。

社交機器人自身的高度類人性、非具身性使其能披著人類面具隨意進行惡意活動而不被發現,加上平臺漏洞為它們入侵滲透提供了途徑,但無論是政府、行業協會、平臺都沒有提出一個完善的規范措施。同時,社交媒體平臺更在乎流量與收入,“利益優先”充分體現在各平臺針對社交機器人的政策規范中。人工智能引發的倫理問題和事故,責任該由設計它的人類承擔還是智能機器承擔,人工智能是否具有道德主體地位,這些問題一直懸而未決,是導致監管缺位的深層原因。目前多數觀點是當前的人工智能還不具備自主性和意向性,不能作為獨立的道德主體承擔法律道德責任。因此,人類應該去思考如何對社交機器人進行有效規范的問題。

作為社交機器人的研發者,應該對機器人可能造成的風險進行前置預防,將人類道德倫理進行編碼,事先置入進社交機器人“頭腦”中,讓機器人參與社交時能有基本的道德決策能力。作為社交平臺,應該加強機器人檢測技術的研發,提高對社交機器人賬戶的甄別,對有可疑行為的機器人賬戶及時清理,并更加透明地定義和執行關于社交機器人活動的平臺政策。法律法規和道德準則這些外部力量的約束必不可少,目前,人工智能立法已經被各國提上了日程,相關的道德規范也被不斷提出,雖然尚未有專門針對社交機器人的法律道德條例,但可以預見在未來會逐步出臺。社交網絡平臺的用戶也應該意識到社交機器人存在,提高安全意識,警惕惡意社交機器人的煽動欺騙。社交機器人的研究涉及計算機學、傳播學、倫理學、哲學、心理學等多個學科領域,傾聽借鑒來自不同方向的聲音,有助于保障其健康發展,發揮其促進網絡晴朗空間建設的積極作用。

注釋:

① 趙爽、馮浩宸:《“機器人水軍”發展與影響評析》,《中國信息安全》,2017年第11期,第88頁。

② Chu,Z,Gianvecchio,S,Wang,H,Jajodia S.DetectingAutomationofTwitterAccounts:AreYouaHuman,Bot,orCyborg?IEEE Transactions on Dependable and Secure Computing,vol.9,no.6,2012.pp.811-824.

③ Suchman,Lucy.Human-machineReconfigurations:PlansandSituatedActions.London:Cambridge University Press.2007.p.125.

④ Sysomos,AnIn-DepthLookattheMostActiveTwitterUserData,https://sysomos.com/inside-twitter/most-active-twitter-user-data,2009.8.30.

⑤ 《2018惡意機器流量報告》,https://cloud.tencent.com/developer/article/1151122,2018年6月22日。

⑥ Stieglitz S,Brachten F,Davina Berthelé,et al.DoSocialBots(Still)ActDifferenttoHumans? —Comparing Metrics of Social Bots with Those of Humans.International Conference on Social Computing and Social Media.2017.p.379.

⑦ 章蔚瑋:《小冰升級背后的秘密:做有“情商”的交互機器人》,http://www.it-times.com.cn/a/company/2018/0802/22243.html,2018年8月2日。

⑧ [加]馬歇爾·麥克盧漢:《理解媒介:論人的延伸》,何道寬譯,譯林出版社2012年版,第33頁。

⑨ 郭晴、劉偉:《情感計算的“前世今生”》,https://chuansongme.com/n/386019541045,2016年6月27日。

⑩ 林升梁、葉立:《人機·交往·重塑:作為“第六媒介”的智能機器人》,《新聞與傳播研究》,2019年第10期,第90頁。