徐梅
跟大多數人一樣,我也是從2017年開始關注人工智能,“阿爾法狗”連克李世石、柯潔,使得“AI”、“奇點”迅速成為熱詞兒,誰都能聊上幾句?!叭斯ぶ悄軙粫屪呶覀兊墓ぷ??”“AI如果具備了超人的智能,會不會毀滅人類?”
但很快,我們就厭倦了這樣的討論。
一方面,專業人士很不耐煩地提醒人們,AI只是一項技術,技術取得突破并不容易,那個機器勝過人類、甚至對人構成威脅的“奇點”可能百年以后才會到來。技術大牛吳恩達說,整天討論這些“好比是討論火星上人口是否會過剩一樣”。
另一方面,對于普通人來說,AI技術并沒有那么容易理解,AI威脅論說來說去也就那么幾句,這一類題材的新鮮勁兒一過,連科幻作家都不愛寫了。
從2017年開始,每年我都會寫一篇關于人工智能的報道,最初是想通過對圍棋產業這個被AI選中顛覆的第一落點持續觀察,看看人工智能如何改變一個職業、一個行業,以及行業中的人,同時延展到對幾個AI創業公司的持續觀察。
必須承認,創業者的勇氣、智慧,以及AI產業的急速發展是極其吸引人的,我自己從開始的警醒好奇,迅速被技術樂觀主義“洗腦”,重新看這些稿子時,發覺當時更多看到技術“喜大普奔”,較少看到人。
技術大過了人,這本身就是問題了。即便“奇點”遠遠未至,但AI發展所帶來的倫理與法律挑戰已經無法回避,更何況交叉學科不斷帶來技術的躍遷,“奇點”越發不可預測。
“十一”假期前后,我因為采訪,集中看了三本書——哲學教授何懷宏的《人類還有未來嗎?》、日本學者的論文合集《AI聯結的社會》、美國計算機專家斯圖爾特·羅素的新書《AI新生》。
斯圖爾特1995年出版的《人工智能》多年來不斷再版,被128個國家的1400多所大學作為教材使用。他在《AI新生》中反思,從2014年開始,“我便公開承認,我的研究領域對我自己所屬的物種構成了潛在危險?!?/p>
他強烈反對業界關于人類智慧有限、AI“奇點”不會到來這種“技術否定主義”,稱這就像一位公共汽車駕駛員載著全人類說,“是的,我正盡我所能往懸崖邊開,但是相信我,在開到懸崖邊之前,我們的汽油會用完!”
“與人類的聰明才智打賭是魯莽的,尤其是在我們的未來岌岌可危的時候?!备螒押暌粯?,斯圖爾特對AI有可能造出的“遠比人類強大的實體”充滿警惕,呼吁整個社會,尤其人工智能研究領域,將“可證明有益的人工智能系統”作為超級智能機器的研究目標,“只有目標確保完整且正確,或者可以很容易地重置機器的情況下,這種模式才有效?!?/p>
這一目標的技術實現路徑是復雜的。坦白說,這本書的后幾章,我讀得半懂不懂,并且最終放棄了成稿,因為無法在這個關鍵問題上與作者深入討論。
學習的收獲很大,對于未來繼續觀察、報道AI對社會生活和個人尊嚴的影響會極有裨益。
這三本書里還有一個共通之處,技術已經對我們的社會產生巨大影響和控制,我們的主體性已經在消失——
比如,內容推薦算法在社交媒體中通過“投其所好”,對我們既有偏好的強化和改變;人機協同的工作環境中,算法對人的控制和倒逼(快遞小哥、與機器人協同工作的倉庫分揀員等);還有AI招聘系統通過抓取分析應聘者的社交媒體賬戶信息完成畫像分類,對個人過度監控,將復雜豐富的人格簡單類型化等等……
人工智能所塑造的社會和系統同我們每個人都深度相關,對于我們這些不具備專業知識的普通人來說,討論AI,除了末日危機,還有上述那些現實關切。
而你我,都不應該因為懶惰或者懈怠,甘于沉默。