正在消失的主體性

徐梅

跟大多數人一樣，我也是從2017年開始關注人工智能，“阿爾法狗”連克李世石、柯潔，使得“AI”、“奇點”迅速成為熱詞兒，誰都能聊上幾句?！叭斯ぶ悄軙粫屪呶覀兊墓ぷ?？”“AI如果具備了超人的智能，會不會毀滅人類？”

但很快，我們就厭倦了這樣的討論。

一方面，專業人士很不耐煩地提醒人們，AI只是一項技術，技術取得突破并不容易，那個機器勝過人類、甚至對人構成威脅的“奇點”可能百年以后才會到來。技術大牛吳恩達說，整天討論這些“好比是討論火星上人口是否會過剩一樣”。

另一方面，對于普通人來說，AI技術并沒有那么容易理解，AI威脅論說來說去也就那么幾句，這一類題材的新鮮勁兒一過，連科幻作家都不愛寫了。

從2017年開始，每年我都會寫一篇關于人工智能的報道，最初是想通過對圍棋產業這個被AI選中顛覆的第一落點持續觀察，看看人工智能如何改變一個職業、一個行業，以及行業中的人，同時延展到對幾個AI創業公司的持續觀察。

必須承認，創業者的勇氣、智慧，以及AI產業的急速發展是極其吸引人的，我自己從開始的警醒好奇，迅速被技術樂觀主義“洗腦”，重新看這些稿子時，發覺當時更多看到技術“喜大普奔”，較少看到人。

技術大過了人，這本身就是問題了。即便“奇點”遠遠未至，但AI發展所帶來的倫理與法律挑戰已經無法回避，更何況交叉學科不斷帶來技術的躍遷，“奇點”越發不可預測。

“十一”假期前后，我因為采訪，集中看了三本書——哲學教授何懷宏的《人類還有未來嗎？》、日本學者的論文合集《AI聯結的社會》、美國計算機專家斯圖爾特·羅素的新書《AI新生》。

斯圖爾特1995年出版的《人工智能》多年來不斷再版，被128個國家的1400多所大學作為教材使用。他在《AI新生》中反思，從2014年開始，“我便公開承認，我的研究領域對我自己所屬的物種構成了潛在危險?！?/p>

他強烈反對業界關于人類智慧有限、AI“奇點”不會到來這種“技術否定主義”，稱這就像一位公共汽車駕駛員載著全人類說，“是的，我正盡我所能往懸崖邊開，但是相信我，在開到懸崖邊之前，我們的汽油會用完！”

“與人類的聰明才智打賭是魯莽的，尤其是在我們的未來岌岌可危的時候?！备螒押暌粯?，斯圖爾特對AI有可能造出的“遠比人類強大的實體”充滿警惕，呼吁整個社會，尤其人工智能研究領域，將“可證明有益的人工智能系統”作為超級智能機器的研究目標，“只有目標確保完整且正確，或者可以很容易地重置機器的情況下，這種模式才有效?！?/p>

這一目標的技術實現路徑是復雜的。坦白說，這本書的后幾章，我讀得半懂不懂，并且最終放棄了成稿，因為無法在這個關鍵問題上與作者深入討論。

學習的收獲很大，對于未來繼續觀察、報道AI對社會生活和個人尊嚴的影響會極有裨益。

這三本書里還有一個共通之處，技術已經對我們的社會產生巨大影響和控制，我們的主體性已經在消失——

比如，內容推薦算法在社交媒體中通過“投其所好”，對我們既有偏好的強化和改變;人機協同的工作環境中，算法對人的控制和倒逼（快遞小哥、與機器人協同工作的倉庫分揀員等）;還有AI招聘系統通過抓取分析應聘者的社交媒體賬戶信息完成畫像分類，對個人過度監控，將復雜豐富的人格簡單類型化等等……

人工智能所塑造的社會和系統同我們每個人都深度相關，對于我們這些不具備專業知識的普通人來說，討論AI，除了末日危機，還有上述那些現實關切。

而你我，都不應該因為懶惰或者懈怠，甘于沉默。