人工智能與泛智能體社會的來臨

文／段偉文

智能聯網汽車的時代，其實也就是人工智能的時代。在這樣一個時代，每一個智能的機器和人，都變成了一種智能體。

段偉文 中國社會科學院科學技術和社會研究中心主任

人工智能的智能

人工智能有所謂的幾大部落，第一個是像人一樣學習，第二個是像人一樣思考，第三個是像人一樣和世界互動，即所謂的智能機器，它們還能夠像人一樣理解和使用語言，如科大訊飛等很多的自動翻譯機器。

對于能夠像人一樣行動的系統，我們可以通過圖靈測試進行分辨。當我們分不清楚到底是人還是機器時，我們還可以通過認知建模的方法，讓有些系統能夠像人一樣思考。我們也可以通過一些系統讓機器可以理性思考、理性行動。

現在的機器是理性的，還不具有情感，即使有所謂的情感計算，也只是一種外在的模擬，機器本身并不知道是在干什么。

我們現在還希望我們的機器具有道德，可不可以有一種具有道德的智能體呢？

現在的時代，主體不僅僅包括人，還有智能機器、人形的機器人以及虛擬的智能主體。虛擬的智能主體既可以有虛擬的形象，也可以是完全抽象的，比如智能音響，就是一個虛擬的智能主體。

還有人的永生替身，如生物電子的機械，現在甚至可以讓某個作家、演員、藝人好像又重新活過來，你和他聊天，讓你感覺到和他生前的思路是一樣的，他依然能夠給到你很多的啟迪。

人工智能的自我意識

如果機器人或者人工智能有了意識，會不會產生對抗的情緒呢？

我本人對這個前景表示懷疑。從情感這個角度來講，機器即使內心沒有心靈，我們依然會和他有情感的投射。

實際上，人和機器一開始是主仆關系，機器人這個詞造出來就是“苦工”的意思，現在逐漸是陪伴的關系。

在日本有很多陪伴老人的機器人，甚至有的機器人不是人的形象，是海洋動物的形象，這樣的機器寵物，陪伴老人的時候有什么好處？一方面會發出很親切的聲音，能夠根據老人的情感做一些動作，同時沒有傳染病，有很多優點。

有這樣一個機器人的三定律，按照控制論的辦法，就是將三定律分別對應于不同的電位，第一定律的電位最高，這個在機器人的大腦里就能夠實現。

一般來說智能體有三個維度，一個叫作表觀維度，即看起來是什么樣子，而聊天機器人就無所謂表觀了。

另外一個就是功能性的維度，如能夠演算等功能。

最后就是體驗性的維度，有動機、欲望、意向、道德感、宗教意識，甚至有自我覺知。

最早的時候，人在研究動物的時候，覺得動物在某些方面的能力和人比較接近，我們認為動物具有某種智能。后來研究人的智能，并沒有找到一個統一的智能理論，有一個大家都接受的理論，叫多元智能，包括智商、情商等。

有些實驗，能夠把幾個人的大腦通過腦機接口連起來，通過直接的溝通，將來可能會有新的改變。而我們現在基本上是按照行為主義的方式來了解他人。

我們在對智能機器進行設計的時候，是要通過對人的理解來設計的，在我們不能讓機器具有自我意識、自我表達，成為一個獨立的主體之前，我們起碼可以讓機器像我們希望的那個樣子來表達，像我們可以理解的那個方式來行動，因為我們和機器在一起。

第三者的智能機器

我今天講的很重要的一點，我不再是把機器和人獨立起來看待，實際上機器就像是人和人之間出現了一個第三者，由于智能機器的出現，使得人和人之間的關系，變成人和人之間以機器為中介的方式。

春節搶高鐵票，為什么別人搶到了票，你搶不到呢？搶票的時候不僅僅體現了你的反應速度，還體現了手機的反應速度，并體現在網絡的反應速度。

我們現在來看人工智能中間的擬主體性，有幾種，第一種叫受控的擬主體性，即機器人能夠按照人的命令來行動。

第二個叫做行動者網絡中的擬主體性。當我通過高鐵站的安檢，或飛機場的人臉識別裝置，將身份證一放就通過了，這看起來只是你和人臉識別裝置之間的關系，實際上不是，后面還有一個巨大的社會行動者的網絡，里面有設計者、研制者、使用者、管理者、相關部門。

另外一種就是虛擬的主體性。每個人在京東、滴滴、淘寶上、都有數字畫像。現在有一種掠奪性的貸款，它可以通過數據爬蟲找到通信錄的人，做一個簡單的判斷，它借你一千塊錢，目標是讓你還一萬塊錢。

從未來來講，現在有人提出了超人類、后人類的構想，人類可以運用技術使自身變成新物種，人類的文明可以有很多變化，打個比方說，我們將來是不是每一個人都要戴上智能眼鏡，這個智能眼鏡能夠識別對方的微表情，有這樣眼鏡的人和沒有眼鏡的人，在社會交往中的能力是完全不一樣的。

還有以數字化為中介的虛擬與現實的交雜，現在既可以是我，還可以是很多虛擬的替身，可以按照我的規則做一些事情，將來這些虛擬替身可以像我一樣思考，可以像我一樣做出決策。我們可不可以打通遺傳學和神經接口，徹底改造智能，一方面從遺傳學、從基因的角度改變人的智能；另一方面，我們要通過神經的接口，把有生命的智能和沒有生命的智能結合在一塊。

最后，具有自我意識和主體意識的智能機器能不能實現，我是表示懷疑，很可能是在幻想階段。

從將來來看，作為它者的機器智能和智能機器的內化，我們將來是不是會和機器結合在一起？智能機器的社會道德能夠有哪些能力？剛才說學習、表征、行動，能不能把道德規范學習到，以后付諸到行動中，能不能在道德實踐中不斷更新，我們能不能進行倫理設計，甚至是道德工程？

道德工程也是很厲害的，我們有各種檢測設備來檢測行為，當你的行為不道德時就會有這樣一個智能機器來提醒，這是我們希望要的，還是不希望要的？

我們設計智能機器時，是通過對人的理解來設計的。在我們不能讓機器具有自我意識、自我表達前，我們起碼可以讓機器像我們希望的那個樣子來表達。

人要設法理解智能機器

我們現在來講的倫理學就是不再從意向，而是從行動的導向，或者是承受者的導向來分析。這就需要有高階的倫理視角，將來在人機協同的世界里，我們需要有一個大的監測系統，能夠對包括人和機器在內的整個智能體，把行動做一個高階的觀察。同時也要慢慢接受智能體不一定有心靈的事實。換句話說，這個時候要做一種分布式的道德促進者，什么叫分布式的道德促進者？就是在別人超車的時候你要讓他。

在智能聯網汽車出現某些缺陷的時候，比如不會左轉彎，你要能夠理解他，并及時地協同。

智能機器怎樣融入社會，基于人機協同的人工智能體的設計，我們要如何設計部署和對待，智能機器應該具備哪些道德，都是我們要進一步思考的。當然這個里面有很多，這個叫做協同責任，我們叫做算法黑箱，或者是閃電崩盤，高頻的交易軟件打破了完全由人操作的思維習慣或者權利義務。

這個里面就是我剛才講的，機器需要理解人，人也需要理解機器，有些是有機器倫理、機器理解人的觀點。目前來看，智能機器的主體在本質上不是人類主體，這個時候要克服一種想象，把機器想象成人。不要把機器想象成人，機器就是機器，不是人，我們的出路就是人要設法理解智能機器，以免失控。

在我們這個時代，我們所遇到的另外一個更大的挑戰，就是我們和機器的關系會出現一種很奇特的關系，現在每一個人都是自我生活，面對各種各樣的界面。

在每個人獨立生活、自我生活的時代，人類可能會產生更多的對機器迷戀以及上癮的癥狀，我覺得這才真正和我們每一個人的生活有關：在一個泛智能體社會，你怎么樣去面對人工智能、面對智能機器等。