為AI“立心”

年以來，AI的應用廣泛程度和用戶體驗水平達到了前所未有的高度。隨著AI進入公眾視野，人們開始認真思考人類與AI的關系。

人何以為人？AI會替代人類嗎？AI是否存在不可預知的風險？這些切要問題使得很多人不知所措。他們擔心AI是否會造成大規模勞動替代，當超級AI來臨，人類的主體地位是否將岌岌可危。

如果AI與人類有適當的相生相伴之道，這本不會是問題。我們雖然不太可能在今天就預測AI的所有潛在風險，但進行AI倫理與治理的討論與行動，已迫在眉睫。

AI不會替代人類

人類將“被替代”嗎？不應當，也不會！隨著AI的發展，也許一些傳統的工作或者其中的一部分流程會交由AI完成，但被替代的部分正是工具化、器物化的部分。

孔子在《論語·為政》中提出的“君子不器”，恰恰可作為當代人類應對AI“挑戰”的指引。挖掘人性，堅守人性，探索人生的真正意義是人應畢生追求的。人的深刻意義以“自我”為源，又怎么能夠被替代呢？

部分人認為AI倫理與治理會阻礙AI的發展，他們忽視了這一點：發展不是野蠻生長，應當有明確的方向。

AI發展的理念是“智能向善”，以提升人類福祉，促進社會、生態與文明的進步為目標。狂飆式的野蠻生長及誤用、濫用、惡用，勢必對人類、生態造成各種風險與安全隱患，應盡可能避免。

例如，雖然世界尚未就致命性自主武器系統達成可操作的共識，但至少不應直接用AI為人類作出生死決定。AI也不應用于自動化的外交任務，尤其是不同國家之間的外交談判，因為它可能會利用甚至擴大人類的局限性和弱點，如欺騙、不信任等，帶來巨大的甚至災難性的風險。生成式AI技術有能力合成虛假信息，使得現今眼見、耳聽的一些內容都難以為實，極大降低了社會信任，必須重視防范該項技術的濫用、惡用。AI永遠不應該假裝是人、取代人類或誤導人們。AI可以協助人類，但不能代替人類做決策。

曾經有個小男孩問過我，如果科幻小說中“行星撞地球”的場景真的來臨，是否可能用AI輔助的核彈來炸毀小行星，或者改變其軌道來拯救人類的生命？我認為這個想法目前在科學上可行性雖然值得商榷，但至少它是使用AI來解決人類的問題，比起用AI賦能的核武器攻擊人類要好得多。

我們沒有選擇，對于現代作為工具的AI，我們必須竭力做好倫理安全框架、測試和負責任的部署，同時引導AI賦能可持續發展目標的實現。

2023年11月10日，在嘉興的世界互聯網大會展覽上，觀眾與機器人合影。

2023年12月，曾毅在紐約參加聯合國人工智能高層顧問機構首次線下會議。（受訪者供圖）

追尋和諧共生

科學意義上的通用AI、超級智能有可能獲得生命的特征，在智能水平上全面趕上并最終超越人類。那時的AI能夠與人類和諧共生嗎？那時將是人類的終點嗎？我的答案是：取決于人類自身。人類在為AI設定道德與倫理準則的同時也要不斷反思人類道德與倫理的發展與完善。

倫理道德是人類在社會中如何行為的基石。如果未來AI有可能成為社會的準成員或者人類的伙伴，那么倫理道德就應當是AI的必然組成部分。

目前讓AI合乎倫理道德的主要做法是以符號化、特征化的方式劃定一些原則、規范。但作為工具的AI還不能真正理解這些概念、原則，也就難以有效施行。別有用心的人想辦法繞過相關原則規范、濫用惡用AI的例子不勝枚舉。

解決這個問題最根本的途徑，是使AI具有道德直覺，讓道德發源自AI的“內心”。當AI建立了自我感知，能夠區分自我和他人，在此基礎上獲得認知共情、情感共情，產生了利他的基礎，才可能進一步獲得道德直覺。在道德直覺的基礎上進行道德推理和決策，才能真正構建出有道德的AI。

“無善無惡心之體，有善有惡意之動，知善知惡是良知，為善去惡是格物。”王陽明的四句教不但為人立心，也為AI“立心”“修心”提供了根基。

AI模型算法的起源無心，即“無善無惡”。AI在觀察與學習人類的行為中經歷善惡，可謂“有善有惡”。通過建立AI的道德直覺為AI“立心”，使其實現“知善知惡”。AI“為善去惡”則是“恪心致良知”的歷練。科學意義上的超級智能如果真的是在智能水平上全面超越了人類，那么應該也是超級利他、超級道德的。

“上善若水”的AI，是“智能向善”的長遠目標。此時的AI將具有儒家“君子”、佛家“覺者”、道家“真人”的境界，亦會從“以人道善待他人，群在故我在”的烏班圖精神中汲取營養，實踐和實現人類與AI的和諧共生。

“上善若水”的AI是美好的愿景，有志之士必然會為之奮斗并終將實現。然而即使那一天到來了，人類就會安全了嗎？人類會不會在此之前迎來毀滅？這將問題的答案明確地置于人類自身——如果AI長期目睹人類敵對和仇視同族、輕視其他類型的生命，又何以獲得與人類“和諧共生”的動機？人類想與超級智能和諧共生，唯一的途徑恐怕是改變自身與他人、與環境、其他生命交互的方式。這需要整個人類社會共同努力。

人類期待AI“向善”，不要替代更不要毀滅人類。與此同時，人類更應該深刻反思。人類視AI，以及未來的AI視人類，都如一面鏡子。愿人類與AI彼此審視，在對“善”的追尋和發揚中相互成全、協同進化、和諧共生。