關于人工智能技術應用發展中機器思維的思考

曹淑紅

摘 要：面對人工智能強勢介入社會治理、經濟運行和家庭生活的迅猛態勢，大家對機器思維的智能化、擬人化隱憂也在日漸加重。由于機器思維具有“自主思維”的能力，可以自主進行“趨利避害”的行為選擇。所以，我們無法設計它的“應然性”，也無法控制它的“實然性”。那么，我們創造的這種人工智能將會“奴役”我們這些創造者，這是一種合乎邏輯的存在。為避免這種結果的出現，必須堅守AI領域中的“人類中心主義”，必須有AI研究的禁區和紅線，如非類人的人工智能、非邏輯的情感機器人和人機一體發展等，要保證這些紅線不被突破，AI行業的自律約定和國際標準的他律建設勢在必行。

關鍵詞：人工智能；機器思維；實然性；應然性

中圖分類號：TP18 文獻標識碼：A 文章編號：1671-0037（2018）5-29-3

DOI：10.19345/j.cxkj.1671-0037.2018.05.007

Abstract： Facing the strong intervention of artificial intelligence into social governance， economic operation and family life， people are increasingly worried about the intelligence and personification of machine thinking. Because machine thinking has the ability of "independent thinking"， it can make the behavior selection of "seeking advantages and avoiding disadvantages" independently. Therefore， we cannot design its "contingency"， nor control its "reality". The artificial intelligence we create will then "enslave" us creators， which is logical. In order to avoid the occurrence of this result， we must stick to "anthropocentrism" in the AI field， must have restricted area and red line for AI research， such as non-humanoid artificial intelligence， illogical emotional robot and the man-machine integrated development， etc. To ensure that those red lines are not breached， self-discipline convention and discipline construction of international standards in AI industry are imperative.

Key words： artificial intelligence； machine thinking； reality； contingency

近年來，人工智能（Artificial Intelligence，簡稱AI）進入尋常生活的步伐越來越快，在一個國家的產業結構調整中所扮演的角色也越來越重要。面對人工智能強勢介入社會治理、經濟運行和家庭生活的迅猛態勢，大家一方面為自身能夠擺脫思維的勞累與體能上的乏力而歡欣鼓舞，另一方面也對AI的智能化、擬人化越來越擔憂，其痛點集中在機器思維的應然性與實然性上。

1 應然性與實然性的哲學寓意與在AI中的解讀

應然性、實然性是哲學領域的范疇，與或然性、必然性處于同一個層次并相互關聯。對應然性最為通俗的理解可以是：我們的研究對象“應該怎么樣”。顯然，這是在技術倫理層面上的探討。例如，對克隆技術的發展應該設定禁行的邊界，它不能進入克隆人的領域。對于實然性的理解可以是：我們的研究對象“能夠怎么樣”。顯然，這是在技術實踐層面上的探討。例如，精準醫療中用分子靶向攻克癌癥的技術，能否一勞永逸。

科學、技術、哲學和倫理永遠都是相伴而行。人工智能作為科學與技術的共生體，逃避不了應然性和實然性對它的追問。人工智能應該怎么樣？可以肯定的是它應該模擬、延伸和擴展人的智能，不能肯定的是它是否應該取代或者控制人的智能。

再從實然性層面來展開。在人工智能已經踐行的“機器識別”和“智能模擬”兩大領域中，無不顯示出超強的能力。如指紋和掌紋的識別、人臉識別、視網膜和虹膜識別都超越了人類自身所具有的識別能力。再如遺傳編程、智能搜索、定理證明、自動程序設計、攻守博弈、智能控制、語言和圖像理解等方面更使人類對世界的認知、改造與控制達到了空前的地步。在舉世關注的、挑戰人類尊嚴的“人機大戰”中，象棋、圍棋棋段高手的屢戰屢敗似乎已說明：由人自己創造的機器，卻成為自己的“掘墓人”。這種由“自我”向“非我”的異化，然后“非我”又奴役了“自我”，確實是“自我”的悲哀與無奈[1]。

這種隱憂來自于對AI中最為關鍵的“機器思維”實然性困惑：它可以必然地“征服”人類的智慧嗎？它可以肆意地奴役我們人本身嗎？

2 機器感知與機器思維

眾所周知，人的認知過程可以分為兩個階段。第一個階段是由感覺、直覺再到表象的感性認識階段，其中主要以非邏輯的方式來認知對象。第二個階段是由概念、判斷到推理的理性認識階段，這主要以邏輯的方式來認知對象。

AI中也存在這兩個對應的階段。第一階段是機器感知（Machine Cognition）。它包括機器的聽覺、視覺和觸覺等。這是由很多常規傳感器采集信息，之后通過復雜程序處理所形成的、非基本感官所能得到的“印象”。像計算機視覺、計算機模式、計算機識別和計算機對人類自然語言的理解等，都屬于機器感知的內容。第二階段是機器思維（Thinking Machine）。這是在機器感知所得到的“印象”中，通過特定的邏輯算法推導出的、在“印象”中蘊涵但卻沒有得到展現的結論[2]。在這個過程當中，它具有“自動擇優”和“自動糾錯”的功能，因此其結論不僅僅是“科學的”，而且也是“可靠的”。它可被認作是機器的行為由“實然性”向“必然性”的進化。在當前的AI中，如計算機學習、計算機下棋、計算機作曲、計算機繪畫、計算機設計、計算機證明、計算機編程等都屬于機器思維的行為體現與結果展示。

由此看來，我們不必為機器感知而憂慮，因為它的實然性已經內在地被規定為是一個信息輸入、處理與輸出的機械過程，它將成為我們人類非常有用的工具，來為人的思維提供支持。同時，機器感知的應然性也是由我們人類所能設計和掌控的，我們可以給它設定“軌道”與“邊境”，讓機器感知在我們認為適合活動的范圍內活動。

但是，機器思維卻非如此。由于它具有“自主思維”的能力，可以自主地進行“趨利避害”，從而產生一種“自主行動”的能力。所以，我們人類無法設計它的“應然性”，也無法控制它的“實然性”。一旦計算機的自我學習、自我編程都進入了“自由”的層次，那么，我們人工所創造的這種智能將會“奴役”人類。顯然這是一種合乎邏輯的存在。在此，我們不禁要問：我們還要為未來的人工智能鼓與呼嗎？

3 當前我們能做什么，應做什么，不應做什么？

我是什么？我能做什么？我應做什么？是德國古典哲學家康德的三個著名追問。康德認為“我是什么”的要旨是通過對人性的追問，獲得人主體性的尊嚴和價值合理性的根據。“我能做什么”就是我們今天所探討的實然性問題，是對人作為自我主體的能力的追問，表示我們是否能夠擁有一種認知事物與采取某一特定行動的行為能力。而“我應做什么”則是我們正在探討的應然性問題，這是基于我們行為的價值關切與后果評判[3]。

在這里，我們必須明確：能做的未必就是應做的。康德的這三個追問，是我們永遠無法回避且關乎我們自身存在與前途的問題。“能做什么”與“應做什么”的追問已經成為每一次科學技術新突破的熱門話題。像對生物學中克隆人技術和醫學中換頭顱手術等問題的“能做什么”與“應做什么”的關切，像對基因組計劃和超級病毒研制中“能做什么”與“應做什么”的討論，像對人工智能“能做什么”與“應做什么”的憂慮，都成為揮之不去的熱點與焦點。

值得慶幸的是，在人工智能的領域，當前仍處于朦朧未分的混沌階段。很多研究者還沒有將機器感知與機器思維進行界分，真正意義上的機器思維初見端倪，我們人工來為人工智能“立法”，規定它“應做什么”和“不應做什么”還完全來得及。

3.1 AI領域中必須堅守“人類中心主義”

雖然幾百年來裝備制造業的野蠻瘋長帶來了環境退化、能源枯竭的惡果，大家都在呼吁“自然中心主義”的回歸。但是，以AI元素為支撐的智能制造和智能制造中的機器感知并不是以環境和能源為代價的，二者是人類知識與智慧的集成，因此，它有天然的“人類中心主義”特征。要謹防這種天然特征的退化，要讓我們人類的知識與智慧能夠在機器思維過程中仍然成為主導的力量，并能夠一直處于“獨立自決”的地位。

3.2 在國家層面必須對AI的發展進行技術預測

技術預測已經在技術研發和技術后果的預判中越來越起到先決的作用。它不僅僅能夠使研發者提前預知其研發對象在未來的時空中的特殊功能與應用的領域，而且也能夠預測一旦研發成功和投入使用所帶來的對行業、對社會甚至是對人的心理結構所產生的沖擊波。由此來決定我們是否“做”或“不做”，如果“做”又“如何做”等這些應然性行為。顯然，這是一個龐大的系統工程，特別是像AI領域的技術預測，會涉及社會、經濟、文化和心理等方方面面，絕非一個企業或者一個行業的專家所能覆蓋。因此，應該在國家層面組織技術、政治學、經濟學、管理學、法學、醫學、生物學、社會學和倫理學界的精英，組成AI技術預測專家委員會或者智庫，定期對AI技術發展前景、AI產品的發展趨勢進行公告，以指導AI行業的發展，或者對AI的研發方向和領域做出“可做”或“不可做”的建議。

3.3 AI研發領域應當有行業的自律

行業自律尤為重要，因為行業最為清楚其發展到了何種層次，其未來有何種伸展方向，這種方向可以變革何種對象，等等。當前，行業專家們將AI領域分為強人工智能和弱人工智能兩大類。強人工智也可以分成兩類，第一類是類人的人工智能，即機械地思考和推理，就像我們人類一樣。第二類是非類人的人工智能，即機器自我產生了和我們完全不一樣的知覺和意識，使用和我們完全不一樣的推理方式。而弱人工智能“弱”則是因為這些機器并不擁有人的智能，只不過它的“行為”看起來像是智能化和擬人化的，它沒有自主意識與自主思維的能力。為了避免我們落入被強人工智能“奴役”的地步，在AI領域必須建立全球化的行業協會，通過行業協會來識別AI專家的研究類型，并通過“行規”來對AI專家的行為進行管控。屬于弱人工智能領域的專家，可以盡其研發自由；而對于強人工智能領域的人工智能的研發，可以受限地進行。其限度應在邏輯思維領域之內，不應進入非邏輯思維的領域。

3.4 AI研發領域應當有國際標準的他律

在AI領域，以美國、日本為代表的先驅者和領跑者已經觸發了產業狂潮，智能芯片、智能機器人、智能通信、智能交通、智能教育、智能社交等，已經深度地在解構和重構原有的產業和市場。盡管當前絕大部分還是屬于弱人工智能的領域，但是其前沿已經觸及“紅線”。比如說，在有心理認同、情感共鳴和非邏輯思維能力的情感機器人的研發領域，有不少的資訊在宣稱，已經取得了關鍵突破。例如，日本舉國研發的“感性工學”，使個人機器人（Personal Robot）產品系列問世。其中取名“小IF”的情感機器人，可從聲音中發現對方感情的微妙變化，然后通過自己的表情變化和對話來表達喜怒哀樂。再如，“人機一體發展”的研究試圖彌合人與機器的界限，實現人體的機器化和機器的人體化。其最主要的點位在于，將智能芯片植入大腦，使兩者在邏輯與情感上對接，使芯片信息和算法與人腦信息和算法對接，從而實現電腦與人腦的融合，形成超級大腦。一旦這種研發成功并且被應用于國家競爭的格局之中，那改變的將是整個人類生活與相處的基本法則，顛覆的將是整個人類的社會結構。因此，僅僅有行業的自律是遠遠不夠的，必須要有在全球領域通行的具有強制性的國際立法來禁止任何一個國家或者財團嘗試這種研究。

參考文獻：

[1] 互動百科.機器感知[EB/OL].（2011-12-12）[2018-04-06].http：//www.baike.com/wiki/機器感知.

[2] 唐紅麗.科技與倫理：“能做什么”和“應做什么”的博弈[EB/OL].（2017-12-03）[2018-04-06].https：//zhidao.baidu.com/question/1887946912538226308.html.

[3] 360百科.情感機器人[EB/OL].（2018-04-06）[2018-04-06].https：//baike.so.com/doc/5416643-5654788.html.