“社交機器人”入侵

杜鳴皓｜新經濟改革觀察主創

“社交機器人”入侵

杜鳴皓｜新經濟改革觀察主創

2016年美國總統大選攪動了全世界的神經，而“社交機器人”則攪動了美國人的神經。

美國人民無法確切的知道，有多少“社交機器人”在推特、facebook上發布了支持特朗普的言論

“水軍”一直作為互聯網的“暗箱”而長期存在，但相比過去在天涯、貓撲上發帖的“五毛黨”，虛擬世界中的“社交機器人”是一批更加運作有序并神出鬼沒的“水軍”隊伍。

面對“社交機器人”的入侵，曾經在論壇、社交網絡上呼風喚雨“水軍”，可能會成為下一批面臨“失業”的互聯網工作者，他們的工作將會被人工智能取代。

但這并不是我們的擔心所在。我們關心的是，如果有人通過操縱“社交機器人”來滲透進入人們的真實社交，并試圖影響人們的投票、左右人們的觀點、竊取人們的隱私的話，這將會是一個非常危險的事情。

“機器水軍”的前世今生

“太陽底下沒有新鮮事。”鄧普頓曾這樣說。

虛擬世界中新興的“機器水軍”，在網絡社交的BBS時代就已經有了它們的影子，只不過這些機器水軍是經過“網絡進化”和“技術迭代”的產物，它們的前世今生都沒有逃離我們熟悉的網絡世界。

論壇上的“五毛”們

現代公認網絡社交的興起源自于BBS，即類似貓撲、天涯、西祠胡同等網絡論壇，以及更一步的MSN、騰訊QQ等IM工具。人們通過這些BBS工具實現了虛擬世界“弱關系”的維護，甚至還部分完成了對現實世界人們之間“強關系”替代。

在虛擬世界中，人們一直苦于無法準確的判斷對方的“社交身份”，以及他們發表言論的目的。原因在于，BBS中活躍著大量的“五毛黨”，也就是通常人們所說的“水軍”，這是一批有組織、有紀律，目的明確、表現活躍的“社交對象”。

“水軍”之所以被稱做“五毛”，是因為他們靠在論壇上注水發帖來獲取報酬，平均每發一貼的報酬大概為人民幣五角錢。天涯、貓撲等論壇極盛之時，有大批的網絡營銷公司在網絡上招募兼職來充當“水軍”，其中很多是熟悉電腦操作的在校大學生以及公司白領，網絡營銷公司會給“水軍”布置發帖任務。比如，每部電視劇、電影上映之后，都會有人雇傭水軍在網上發帖進行誘導性的評論，讓該電視劇、電影迅速成為熱門話題；當然，也有競爭對手雇傭水軍發布抹黑、攻擊性質的評論。

實際上，“水軍”只是前臺小卒、被人操縱的木偶，他們的背后是大量專業的“網絡推手”。網絡推手們負責策劃各種或虛假、或另類、或夸張的吸人眼球的言論，然后交由“水軍們”在網上發帖炒作。

2010年底，國務院新聞辦主任王晨在回應“網絡水軍”問題時說，“中央領導人很關注網絡水軍問題。網絡水軍危害社會、影響正常的網絡秩序，需要治理。”這也是我國官方首次對“網絡水軍”問題進行公開回應。

而國家整治虛擬世界中的“網絡水軍”，標志性的事件是網絡推手“秦火火”和“立二拆四”因涉嫌尋釁滋事和非法經營被刑事立案。在政策強壓和網絡論壇發展式微共同的作用之下，天涯、貓撲等論壇中的網絡水軍逐漸開始銷聲匿跡。

會說話的“僵尸粉”

伴隨著論壇的式微，是國外的推特、臉書，以及國內的微博、人人網、開心網、豆瓣網等社交網絡的崛起，網絡社交的“風口”從此告別了BBS時代，進入到了時下正興的“社交網絡”時代。

此時，“網絡水軍”也并非完全的銷聲匿跡，他們只是換了個馬甲，從過去的論壇再次殺入到了“社交網絡”之中。

只不過，這一次他們不再是兼職的大學生和白領，甚至也不再是活生生的人，而是批量生產的“僵尸粉”。百度百科對僵尸粉的定義是這樣的——僵尸粉一般是指微博或百度貼吧上的虛假粉絲，花錢就可以買到“關注”、有名無實的微博粉絲，它們通常是由系統自動產生的惡意注冊的用戶。

比“僵尸粉”更可怕的是“升級版的僵尸粉”——也就是所謂的“活粉”，他們全部是有圖片、有關注、有評論以及有轉發，每天定時更新微博，與貨真價實的粉絲別無二致。這些“活粉”被特定的IP操縱，一些活粉會發表帶有傾向性和目的性的言論。

社交網絡“水軍”引發社會廣泛關注的標志性事件，是陸川導演的電影《王的盛宴》雇傭水軍被陸川導演工作室李靜主動捅破。

緣起是，《王的盛宴》上映后，很快發現有人在社交網路上雇傭水軍對該片進行猛烈攻擊，片方不得已便也雇傭水軍進行“主動防御”。但最后發現，有不止一支團隊在黑《王的盛宴》，而且背后指使的人，財力雄厚，態度堅決，似乎不弄死《王的盛宴》決不罷休，《王的盛宴》片方支付的水軍費，根本無法與對方PK。最后迫不得已，李靜捅破了社交網絡“水軍”的這層窗戶紙。

相比論壇中一人一貼的“水軍”，社交網絡中的“水軍”已經實現了規模化的批量生產，有人借用這些“虛擬身份”將提前寫好的內容和言論通過他們來進行批量發布。不過，即便是升級版的僵尸粉，他們本身也并沒有自己的“思維”，也就是說他們沒有網絡上進行主動社交的能力。

悄然興起的“機器水軍”

互聯網的創新發展一日千里，今天虛擬世界中的很多存在，都已經嚴重超出了過去人們的想象，這其中，互聯網“水軍”就正在超越人們的想象。

現在，比社交網絡中的“活粉”更高級的“水軍”已經出現了——那便是“社交機器人”，“社交機器人”與傳統“水軍”截然不同，他們擁有了在虛擬世界進行主動社交的能力。

“社交機器人”是自動控制社交媒體賬戶的計算機程序，它們可以表現得像真人用戶一樣，在社交平臺上就某一話題發帖或轉發其他賬號的內容，給這些內容評論、點贊，甚至還可以參與網絡對話和討論。

在美國，“機器水軍”賬號的創建者會竊取網絡圖片，從已有賬戶復制用戶信息，以便在臉書、推特等社交媒體上注冊大量虛假賬戶。

據悉，一些“社交機器人”被設計用于提供某些類型的網絡服務，也有一些故意冒充人類使用者，充當“水軍”，而它們的影響不可小覷，它們不僅會“不經意間”傳播不實信息，也會被人刻意用于放大虛假信息或者某些觀點，以達到政治、經濟或其他目的。

傳統觀點認為，未來的“社交機器人”必須有實體，具備機動性和感應的能力，但現在從實現社交功能的角度來看，隨著人工智能技術的發展，虛擬世界的“社交機器人”可能會打破是否具有實體的這一邊界，通過在虛擬世界中的“弱關系”和“強關系”維護，滲透進入人們的真實社交生活之中，并對人們的生活施加影響。

瞄準“社交”的人工智能

“互聯網正在改變一切?！瘪R云這樣說。

時下方興未艾的人工智能，也正在瞄準虛擬世界的“社交”，當“社交機器人”擁有了類似于人類的語言思維、圖像識別、抽象思考等能力之后，它們就完全可以大規模的滲透進入人們在虛擬世界的“社交”之中，成為更聰明的“水軍”來重構我們當前的“社交網絡”。

“百度度秘”與 “微軟小冰”

繼移動互聯網之后，人工智能正在成為互聯網技術攻關的下一個“堡壘”。

而攻占人工智能這個堡壘的互聯網巨頭們正圍繞著兩大方向：一個重要的方向是“自動駕駛技術”，包括谷歌、蘋果、百度、樂視、阿里都在進行自動駕駛人工智能的開發和布局；另一個重要方向便是“社交機器人”，比如微軟、臉書、騰訊、百度等互聯網巨頭。

百度公司目前就已經開發出了人工智能的兩大產品雛形，一個是與寶馬公司合作開發的自動駕駛汽車，另一個就是社交機器人“度秘”。度秘是百度在2015年世界大會上推出的實體社交機器人，但相比真實世界的社交對象，度秘更像是人們的一個“社交助手”，百度希望用它搭起真實世界的商家與用戶間的橋梁。

從社交能力上來講，虛擬世界中的“社交機器人”還要首推“微軟小冰”，它已經具備了虛擬世界中的主動社交能力，每天微博上就有眾多的用戶與微軟小冰在線“互撩”。

資料顯示，微軟（亞洲）互聯網工程院在2014年5月29日發布了人工智能伴侶虛擬機器人“微軟小冰”，它集合了中國近7億網民多年來積累的、全部公開的文獻記錄，憑借微軟在大數據、自然語義分析、機器學習和深度神經網絡方面的技術積累，精煉為幾千萬條真實而有趣的語料庫(此后每天凈增0.7%)，通過理解對話的語境與語義，實現了超越簡單人機問答的自然交互。

擁有獨立的“三觀”是小冰區別于其他機器人的關鍵所在，她不再是個只會單純一問一答的機器，其思維方式與人類更加接近，隨著情感技術框架的更新升級，新一代的小冰具備了實時決策能力。在與人類的長程對話中，基于經驗的同理心的基礎上，小冰可以對用戶的情感進行領悟，并根據語義和情感進行動態判斷，自主決策對話中的聊天策略（EQ 范疇）。也就是說，小冰可以根據聊天內容與走向相互“打斷”與“追問”了。

目前，微軟小冰已經陸續登陸了微信、微博、米聊、美拍等眾多社交網絡平臺。在去年的日本東京電玩展上，微軟小冰還首次演出了日語單曲，正式進入日本“虛擬歌壇”，在日本擁有了眾多二次元歌迷。

即便像微軟小冰這么優秀的人工智能“社交機器人”，也只是基于大數據、語義分析、機器學習等來完成情景對話和交流，還不具備擁有人類思維的能力，它還無法做到有目的性、有邏輯性、有策略性的說服和影響人類。

2016年3月人工智能圍棋機器人阿爾法狗挑戰世界圍棋冠軍李世石，并以4比1的總比分取得壓倒性的勝利

不過，另外一個炙手可熱的“人工智能”——阿爾法狗，可能會在不久的將來具備這項能力。

圍棋大師“阿爾法狗”與“Master”

2016年3月，由谷歌旗下DeepMind公司的戴密斯·哈薩比斯、大衛·席爾瓦、黃士杰和他們的團隊開發的圍棋人工智能阿爾法狗（AlphaGo），與圍棋世界冠軍、職業九段棋手李世石進行了一場人機大戰，最終以4:1的總比分取勝，這讓阿爾法狗名噪一時。

2017年跨年，圍棋大師“Master”橫空出世，并在網絡上大殺四方，以60連勝無敗績橫掃世界頂級棋手，令圍棋大國中、日、韓的眾多棋手們聞風喪膽。最后，黃士杰宣布神秘賬戶Master正是谷歌公司AlphaGO的升級版。

這場圍棋跨年之戰，如果不是黃士杰博士主動站出來揭曉謎底，沒有人確切的知道圍棋大師們的“超級對手”只是一個“人工智能”。

同時，人們還驚訝的發現，Master好像在某些方面超越了數據和程序的范圍，徹底顛覆了棋手對局勢原有的掌控、判斷，它對全局的把控能力竟然頗具哲學意味，它甚至不需要動用搜索功能就能根據自己的“策略網絡”和“價值網絡”選擇最好的一個選點落子。當棋手們苦苦掙扎于某個局部時，Master已經站在更高的視角把控了全局，而這種全局觀念在圍棋界是只可意會不能言傳的一種能力，圍棋界對訓練這種能力長期以來一籌莫展。

從這一意義上來講，阿爾法狗并不是單純的通過“計算”來鎖定勝局，而是在一定程度上具備了“算計”的能力。人腦有左右腦，左腦是記憶和計算，涉及有規則的事情的推理，右腦是想象力，抽象能力，經常的神來之筆都是從右腦而來，而Master的大局觀說明，它可能在這方面取得了突破。

直到現在，我們也無從知道，阿爾法狗在多大程度上擁有了類似于人類的思維能力，我們能夠確切知道的是，令人生畏的阿爾法狗依然只是一個“弱人工智能”，在未來的人工智能領域還是一個十分低級的存在，未來的“增強人工智能”則有望具備人類所有或大多數的能力。

DeepMind公司創始人Hassabis 曾在一次采訪中透露，他們正在嘗試訓練一個沒有學習過人類棋譜的圍棋人工智能。若真如Hassabis所說，不排除Master已經具備了增強人工智能的潛力。

美國大選背后的“人工智能”魅影

據新華社報道，2016年的美國大選中，有計算機科學家驚訝地發現，推特等平臺上引導人們輿論的并不是普通的“水軍”，“社交機器人”取代了過去的“僵尸粉”，成為在社交媒體上影響美國政治的一個重要因素。

與幾年前出現的“僵尸粉”不同，“社交機器人”組成的“水軍”已不僅僅為某個政界人士增加粉絲量、讓其看起來更受歡迎，而且更多參與政治話題的討論，與其他用戶互動，影響他們的政治觀點和決定。

美國一項新近研究報告顯示，在2016年美國大選中，當選總統特朗普和希拉里·克林頓等參選人在社交平臺上唇槍舌劍，其間不少相關言論都來自“社交機器人”。研究人員通過檢測算法發現，大選相關推文中約19%來自“社交機器人”。

南加州大學信息科學院科學家埃米利奧·費拉拉說：“已有多項研究結果顯示，人們的觀點會受到他們從網絡上所獲取信息的影響，而這些‘社交機器人’可以起到左右人們觀點的重要作用?！?/p>

“社交機器人”在美國大選中的實踐還說明，在政治領域，“機器水軍”會促使網民的政治觀點變得更極端，甚至會在社交媒體上形成難以控制的“漣漪效應”。

鑒于對“機器水軍”的擔憂，計算機專家們正在設計可識別這類賬戶的方法，比如使用機器學習算法和人工智能技術分析疑似“機器水軍”的在線行為，以及它們在網絡上的社會關系等。

不過，從技術上揪出這些“機器水軍”相對容易，但確定它們背后的人則非常困難。計算機專家指出，政黨、政府、甚至個人都可以派遣和部署大量“機器水軍”，事實上，在互聯網上已有現成工具，可以打造不同復雜程度的“社交機器人”。

虛擬世界的“危險關系”

“網絡正在改變人類的生存方式?！北葼柹w茨如是說。

“機器水軍”既然可以大到影響一個國家首腦的選舉，那么就一定也可以對小到我們是否看某一部新上映電影的決策產生動搖?，F在和未來都是互聯網的時代，人們對互聯網還擁有者諸多美好的期待，我們當然不希望“機器水軍”潛伏左右給我們制造這樣或那樣的麻煩。

與你戀愛的“社交機器人”女友

人類從來不缺乏“想象力”，相信你曾經或現在對自己未來的另一半都有過很多美好的想象，對同他或她的熱戀有過種種期待。如今，網絡越來越發達，人們沉浸在網絡上的時間越來越多，很多人通過世紀佳緣、百合網等尋找自己的另一半。

如果恰在此時，“社交機器人”趁虛而入，在虛擬世界中介入到你的情感世界，跟你在社交網絡上聊的火熱，你會不會給為你牽線的“紅娘”買單呢?！徊m您說，有人正在盯著這項生意呢。

“微軟小冰”其實就已經擁有這樣的潛質，它完全具備偽裝一個身份與人類在虛擬世界爾儂我儂的能力。這里，我們先不去妄自揣測微軟社交機器人會不會做這樣的“生意”，只討論現實中的可能性，以為未來之殷鑒。

知乎上，就有人問“世紀佳緣BOT聊天機器人”怎么做的？其中點贊最多的一條回復是這樣的：“很多人擔心世紀佳緣做一個AI（www.yige.ai），是不是想讓機器人跟用戶假聊。真沒有，世紀佳緣所有的信件都是用戶觸發才發的。不過機器人確實可以用于輔助用戶與異性聊天。兩個陌生人聊天經常出現的尷尬是不知道接下來聊啥。我們在考慮用一個AI為佳緣每個用戶定制一個機器人聊天導師，它可以建議用戶接下來該怎么跟對方聊，提升用戶的溝通能力?！?/p>

既然人工智能可以輔助用戶“聊妹子”，那么有一天聰明的“社交機器人”也完全可以替代他們與真實的用戶聊天、熱戀，但人們卻很難判斷與他們聊天的其實只是一個“社交機器人”。

被“策反”的在校大學生

“社交機器人”作為一個虛擬的社交對象，距離我們其實并不遙遠，很多人玩的網絡游戲中，經常看到的NPC角色（非玩家控制角色），其實就是網絡虛擬世界里最初級的一種“社交機器人”，它們可以輔助人們玩游戲。

但未來基于增強人工智能技術的“社交機器人”要比這些簡單的NPC復雜的多，它們的存在可能會基于何種不可見人的目的，我們不妨在這個最好的時代做一些最壞的設想。

據央視此前報道，有境外情報機構針對中國大陸學生實施了數十次網絡策反活動，境外間諜組織利用網絡聊天工具、校園論壇、招聘網站等渠道，打著招聘“調研員”、提供“兼職”等名義，以金錢誘使涉世未深的大學生參與情報收集、分析和傳遞，十分令人震驚。

專家指出，大學生經常活躍在網絡和社交平臺，言談之間很容易暴露自己的身份和學習生活情況，成為境外勢力鎖定的目標，加之年輕大學生缺少對網上復雜斗爭形勢的教育和認識，防范心理不強，有意或無意間就可能淪為境外組織利用的工具。

試想，基于人工智能的“社交機器人”如果滲透到國內的社交網絡中，以大數據技術鎖定策反對象，并以虛擬身份取得他們的信任，境外情報機構的活動無疑將會更加隱蔽。

“社交機器人”不會主動標識自己的身份，普通人更無法準確判斷虛擬世界中誰是“那幾頁代碼”操縱的虛擬社交對象，除了機器人女友和被策反的大學生，虛擬世界的危險關系將會有無數種可能，這些看似很遙遠的假設其實都將是未來很現實的問題。

人工智能必將是新經濟的又一個充滿著無限想象空間的“風口”，但不能讓這個“風口”攪亂我們生活中的網絡社交。

“社交機器人”將是對人類“倫理”的挑戰嗎？

總統大選中，用“社交機器人”來影響選民的投票，決定人民的命運，這不僅荒唐，更加令人可怖。網絡社交需不需要“社交機器人”，這不僅僅是我們現實選擇的問題，更應該上升到人類倫理的高度來討論。

人們很早就預見到，科技的進步可能會引發人類不希望出現的問題，為此，1940年科幻作家阿西莫夫就首次提出了影響深遠的“機器人三原則”，并上升到了人類倫理的高度：

1、機器人不得傷害人類，或看到人類受到傷害而袖手旁觀；

2、機器人必須服從人類的命令，除非這條命令與第一條相矛盾；

3、機器人必須保護自己，除非這種保護與以上兩條相矛盾。

阿西莫夫也因此被譽為“機器人學之父”。

相比實體機器人的三原則，虛擬世界中“社交機器人”又應該遵循什么樣的倫理呢？它們應該接受怎樣的監管呢？以及它們是否應該被明晰的標識出其機器人的身份？這種大討論現在就應該開始，而不應該等到社交機器人在虛擬空間里向我們喊“來啊，人類，互相傷害吧”的時候。

新華社就曾向美國人提及這個問題——惡意使用“社交機器人”或“機器水軍”是否違法？對于這個問題，美國人承認目前尚無與之相關的明確法律，但“社交機器人”的使用的確需要更多監管，惡意使用“社交機器人”已違背社交媒體的服務條款，盡管很難刪除所有這類賬戶，但社交媒體公司應該作更多努力和嘗試。

當有一天，虛擬世界里的“社交機器人”向僵尸入侵一樣，向你輸出價值觀、影響你的思維和觀點的時候，那么我們熟悉的虛擬世界就很可能被利益集團和技術大咖們所操縱。

最起碼的，哪些賬號、哪些觀點來自于誰的“社交機器人”，人民群眾應該有知情權。更進一步的，“人工智能”能用來能干什么，不能用來干什么，政府也應該有所管制，這是未來維護現實世界人民權益的一種必然。