機器人發展需突破“倫理瓶頸”

剛剛落幕的第二屆中國國際進口博覽會上，亮相了不少“黑科技”，機器人Roboy就是其中之一，看著這個會賣萌、會臉紅、會對話的機器人。不由讓人感嘆機器人科技發展之迅速。二十多年前，著名科普作家葉永烈在長篇小說《哭鼻子大王》里描寫的智能機器人還只是一種暢想，今天卻變成現實了。

科技發展到今天，已經能夠把人說的話、做的事，甚至記憶、情感、意識等都以數字化的形式存儲下來，然后再進行技術還原，讓機器人說出有感情的語言，做出帶情感的動作，甚至像人那樣去思考。這不由讓人百感交集、喜憂參半。

事實上，自從人類開始創造機器人，就一直處于糾結之中。一方面，作為機器人的創造者，我們總是希望讓它們盡可能地像“我們”;另一方面，我們又很擔心它們太像“我們”而對我們造成威脅甚至無法掌控的傷害。雖然限制機器人的呼聲時有所聞，但機器人在外貌言行上越來越像“人”，而且還可能具有自主意識，是不爭的事實與可預計的未來，其所帶來的問題也遠遠超出了技術的層面，而涉及哲學、政治、道德等領域乃至人類文明本身。

在人類社會發展的歷程中，新技術進展經常帶來倫理和文化的問題，而倫理與文化瓶頸的突破，又往往為新技術發展提供條件。人機共處社會的倫理秩序和文化規范將出現何種變化，又將如何重建，或許一時還無法拿出答案，但已經成為不可回避的課題，值得引起深思。

筆者以為，對此不妨抱以一種審慎的樂觀。所謂審慎，是指必須對機器人技術的濫用提高警惕，高度發展以至于無法駕馭的機器人固然讓人心生戒備，但最應防范的或許還不是機器人的“去工具化”，而是作為“工具”的機器人被惡意使用。因此，在機器人的進一步發展中，應為其進行拒絕自我黑化的設置，更應提高其防“黑”能力。同時，既要為機器人設置安全定律，更要健全人類使用機器人的法律規范和道德準則。

而所謂樂觀，則是指應看到機器人的發展為人類文明更新提供了機遇。科技的進步總會帶來文明的創新。如果我們把機器人看作一種技術，那么人類歷史上或許還沒有過哪一種技術促使人們如此深刻地思考人性本身。人的本質是一切社會關系的總和。當機器人特別是高度仿真的機器人廣泛進入人的生活，成為人的服務者、陪伴者、幫手、合作伙伴甚至朋友、愛人，人機關系成為新的人際關系的重要內容，人類的情感和心理狀態必然會隨之發生變化，或許這會帶來一些動蕩不安，但新文明的曙光也將從中冉冉升起。