智能的背面是智“否”

周云龍

智能時代，智能技術的邊界在哪里？當人們剛剛出發起跑的時候，也許就要“心里有底”“腳下有數”，否則走得越遠，方向越偏。最近看一檔青年創業服務類節目《創投合伙人》，某自動化科技公司董事長的講述，引人入勝。其中談及團隊創業初期刻骨銘心的一段插曲，有點意思。

浙江一家企業，生產鵝肝，銷往世界各地。據介紹，在中國，這種奢侈食材，一年大概有300億元的市場份額。那個企業老板，試圖從“流程再造”切入搶占市場，他想新上一套智能化設備，專門給鵝喂食。所謂的智能化，就是把鵝分別關到一排緊身的籠子里，不給騰挪的空間，然后有設備瞄準鵝的嘴部，自動填飼。老板四處打聽，找到了這位董事長，邀請他們團隊定向研發一種新型填飼機。董事長應約而去，但在了解用戶訴求之后，他們給出明確的答復：技術上，肯定可以做，而且可以實行智能控制，但是，從倫理上來說，從動物福利的角度，不能做，“這么粗的一根管子，抓著個鵝頭直接插進去，然后食物嘩嘩嘩往里面打，那太殘忍了。”（荔枝新聞 2019-03-03）

再一次理解了那個網絡金句的現實意義：善良比聰明更難得。聰明是一種天賦，而善良是一種選擇。那位自動化科技公司董事長，給我們提供了一種反向思考的路徑：“智否”。在智力所及的領域，能力所及的地步，不是都可以研發，也不是都可以制造，更不是什么都可以應用，有些事“能”，有些事“否”，即使事關低人一等的動物之痛癢。

人工智能，是引領未來產業變革的顛覆性技術。現在，全世界每天有數以百萬計的人在使用文本自動翻譯工具;計算機比人更善于識別人臉;無人駕駛汽車即將問世，未來10年將奔馳在每一條大路上……不過，專家也因此表示遠慮，越是強大的技術，實際應用過程中，就越表現出極其明顯的工具屬性：它既可以大大提高社會生產力，為人類社會帶來福祉，又可能被不當利用，給社會管理帶來新挑戰。

如何看待人工智能的威脅？要采取行動控制人工智能嗎？是否要像對待核能和其他潛在危險的技術一樣，制定法律甚至是國際條約來控制人工智能的發展？當下，人工智能的應用場景日新月異，制造、倉儲、交通、汽車、教育、醫療、金融、家居、陪護、娛樂、服務等各行各業都可看到人工智能的身影。剛剛結束的全國兩會上，也有代表、委員呼吁，通過立法對智能應用進行規范，十分必要。

路上車多了，路況復雜了，就需要制定并且不斷調整交通規則。而最根本的是，交通參與者要具備基本的素質，要樹立現代交通意識。負責和道德地使用人工智能，不能單純地依靠個體的自覺。浙江那家鵝肝生產企業，你不給他研發“填飼機”，但可能并不影響其他人趨之若鶩。

鵝肝，可能是不可多得的美味，但是，鵝的生存世界，應該有“曲項向天歌”的優哉游哉，可以有“白毛浮綠水，紅掌撥清波”的自由自在。所以，在人工智能立法之前，還是先列出一份“智否”清單（智能所不可觸及的領地），提醒有理性有良知的人們，閱讀理解，自覺參照。這些都是常識，不過，在知識迭代，技術迭代加劇的背景下，常識也要常提，也需回歸。

當理論自覺轉化為實踐自覺，上升到價值自覺、個體的自覺，往往可以匯聚成推動社會進步的強大力量。

（作者單位：江蘇電視臺教育頻道）