社交機器人的負面影響應引起重視

趙蓓

在社交媒體中，數以百萬的社交機器人“居住”其中，它們模仿著人類用戶行為習慣，遵循特定的算法規則，傳遞信息并與人類用戶進行交互。南加州大學報告顯示，推特中高達15%的活躍用戶是社交機器人。社交機器人通過制造輿論共識、傳播虛假信息、營逾虛假人氣與更多人建立連接等手段影響網絡輿論形成和發展，甚至可能左右人們選擇。在美國大選、英國脫歐、新冠肺炎疫情、俄烏沖突等國際重大事件中，社交機器人占比均在20%至30%,成為干預網絡輿論走向的重要變量。

第一，擴大信息規模，制造輿論共識。比如在推特中，不到1%的社交機囂人通過大量轉發支持脫歐的推文產生約33%的流量。還有約7.7萬個機器人“簽署”了關于英國脫歐第二次公投的在線請愿書，企圖營造支持脫歐的虛假跡象。這些社交機器人的行為，在很大程度上影響了公眾對議題的判斷

第二，傳播虛假信息，煽動極化情緒。社交機器人往往與虛假信息聯系在一起。牛津大學報告顯示，2020年有81個國家在利用社交媒體進行計算宣傳和傳播虛假信息，其中就包括社交機器人的使用。例如，在新冠肺炎疫情肆虐的背景下，社交機器人傳播新冠病毒來源、種族仇恨、政治陰謀論拿相關內容,與人類用戶關注公共健康和福利形成鮮明對比。社交機器人還可以增加負面或煽動性內容的曝光量。在2017年加泰羅尼亞公投期間，社交機器人生成并宣傳針對獨立主義者的暴力內容，最終加劇了在線社區的極化。

第三，組織協調行動，加強網絡連接?！皡f調”指的是多個不真實的賬戶或角色一起工作以推動某個項目或主題。作為一種計算機程序，社交機器人群體之間具有超高的聯通性，在算法的統一指揮下可以執行復雜的協調行動。北師大新媒體傳播研究中心研究顯示，在俄烏沖突相關推特討論中社交機器人占比在20%左右，產生近30%的內容。大量社交機器人在短時間內重復使用或轉發標簽內容；通過部署批量意見領袖型賬號，確保社交機器人在網絡中的中心位置，加強與其他用戶的連接等來引導輿論。

社交機器人因其在社交網絡中的影響力引起越來越多的關注，但這并不是說它帶來的都是威脅，也有機會。例如，社交機器人可以幫助人們快速獲取信息、參與政治表達、推動公共議程的形成等。社交機器人是一把雙刃劍，一方面為人機傳播帶來新的可能，另一方面被惡意使用成為操縱輿論的工具。

面對惡意社交機器人的威脅，首先要建立科學的識別系統。現有社交機器人識別工具主要是針對推特，其他社交媒體平臺如Facebook、YouTube等尚未有成熟的工具。為有效應對國際輿論風險，需要建立多平臺社交桃器人識別系統。從用'戶基本信息、網絡結構特征、推文內容、時間線等多個維度建構指標體系，打造基于機器學習、自然語言處理等技術的智能識別系統。

第二，制定完善的應用規范。政府作為國家治理者，需要針對社交機器人制定完善的應用現范，出臺相應政策或法律確保使用目的、程序開發、應用場景的正當性，從源頭上防止社交機器人被惡意使用。

第三，加強社交媒體平臺治理。社交媒體平臺是社交機器人得以存在和生長的基礎設施，同時也是掌握算法和用戶數據最為全面的責任主體。因此，社交媒體平臺在應對社交機器人威脅時發揮關鍵作用。一方面加大對異常行為賬號的管理和處頁力度，另一方面要在賬號創建時進行嚴格的人機審查，對于機器人創建的賬號進行后臺或前臺標注。

第四，培養公眾的算法素養。算法素養是指“用戶能夠意識到算法的存在，并用批判性思維來理解算法帶來的影響”。公眾是否能夠辨認出社交機器人的存在,對其持有什么樣的態度，是決定社交機器人產生多大影響的重要因素。北師大新媒體傳播研究中心調查顯示，67.8%的中國網民對社交機器人有所了解，但只有1.2%的人非常了解；并且與美國相比，40.7%的中國網民對社交機器人持積極態度。這說明我國網民雖然對社交機器人有一定認知，但還停留在初級階段，對社交機器人負面影響感知并不明顯。因此要重點培養公眾的算法素養，使公眾正確認識社交機器人的存在，警惕虛假信息與輿論操縱。▲（作者是北京師范大學藝術與傳媒學院博士后）