ChatGPT：像人，更勝似人？

凌川兒

人工智能聊天機器人ChatGPT在全球持續走紅，讓自啟蒙階段到象牙塔的教育行業受到了極大震動。

單單就日常操作而言，它就能幫助人類學生寫作業、做翻譯甚至撰寫學術論文—已經有來自北美地區的一項調查顯示，在參與調查的美國學生中，有超過一半用ChatGPT寫過作業，甚至有人因此拿了高分。

在另一邊，察覺到ChatGPT威脅的校方和教師系統，開始對它做出回應和防備。繼法國巴黎政治大學要求所有師生禁用ChatGPT等一切基于AI的工具，以防學術欺詐和剽竊后，美國不少大學亦將“使用AI”列入了作弊手段。

“模仿即為智能”

新的一輪關于學術不端的恐慌潮因此而起。普林斯頓大學已經出臺了一款名為GPTZero的人工智能檢測軟件，來確定師生們提交的文章是否為ChatGPT所編寫的；而斯坦福大學的研究團隊所開發的檢測工具DetectGPT，則號稱準確率高達95%。

普林斯頓大學推出人工智能檢測軟件GPTZero，判定師生文章是否由ChatGPT編寫

但相比學生借助ChatGPT抄襲、作弊引發的學術誠信問題，面對人工智能聊天機器人如此出色的搜集、整合資料能力和文本編寫能力，我們不得不承認，傳統的師道“授業解惑”行為將經受更為嚴峻而久遠的挑戰：以知識傳遞為核心的教育模式，在將來是否還有存在的價值？

換句話說，在極端條件下，當未來有比ChatGPT更出色的數字生命體出現，它幾乎能回答所有學生提出的問題，也因此能根據學生所掌握知識的薄弱點，來做到因材施教，那么人類教師應該教些什么？反過來，當這些知識能被如此便捷地獲取后，人類學生從啟蒙階段花費十幾年的時間，進行學習、做題究竟有沒有意義？學生又應該學習什么內容，才是最為迫切需要的呢？

思維的本質就是計算，因此人的心理過程就是一個計算執行的過程。

關于創造性教育和記憶力訓練的關系，一件為人們所津津樂道的軼事是：1921年，當愛因斯坦訪問美國的時候，有記者問這位當年的諾貝爾物理學獎得主，聲音的速度是多少—愛因斯坦拒絕回答，而是轉移話題稱，這可以在任何一本物理書中查到答案，并說出了一句名言：大學教育的功能，不在于記住已有的事實，而在于訓練大腦如何去思考。

早在ChatGPT橫空出世之前，我們就已熟知，人工智能會應用機器學習、深度學習及自然語言處理等技術，來提升自己并解決實際問題。在這樣的學習過程中，它就是通過大量地識別和記憶，來完成已有的知識積累。

也正因如此，在像ChatGPT這般表現優異的生成式強人工智能誕生后，人們似乎越來越確信，AI具備擬人的思考和學習能力，以致我們可以放心地讓渡出部分決策權和重復勞動，來迎接一場新的技術革命的到來。但實際上，關于“機器真的能思考嗎？”的爭論，從上世紀50年代伴隨著人工智能出現后，就由來已久—這也是當我們在討論人工智能對于人類教育的沖擊時，必須先思考的問題。

1950年，英國數學家、計算機科學家阿蘭·圖靈在《思想》雜志上，發表了一篇名為《計算機與智慧》的論文。正是在這篇著名論文里，他提出了“機器能否思考”的問題。

為了回答這個問題，阿蘭·圖靈在論文中給出了他所認為的一臺計算機是否具有智能的判斷標準，即后世廣為流傳的圖靈測試。簡單來說，在該測試中，他假設了這樣的場景：一位自然人測試者身處黑暗的屋子里，與一臺機器或一個人進行對話，倘若測試者無法分辨出與其對話的是人還是機器，那么就可以稱機器通過了圖靈測試。

計算機在不和人接觸的情況下與人交流，讓后者無法判斷對方是人還是機器，那么它就擁有了智能。這一測試使得阿蘭·圖靈與其后計算主義的追隨者們相信，“思考的機器”是可能的—他們認為，人腦能做到的一切，機器都能模仿；更進一步，人的心智和計算機程序具有一樣的工作原理，思維的本質就是計算，因此人的心理過程就是一個計算執行的過程。

關于阿蘭·圖靈的傳記電影《模仿游戲》

換句話說，在阿蘭·圖靈眼里，無所謂計算機內部的活動是如何開展的，它的實際行為表現即是唯一證明；只要計算機能在這場“模仿游戲”里通過，那么它就具備和人一樣的智能（這正是2014年上映的關于阿蘭·圖靈的傳記電影《模仿游戲》片名的來源）。

“理解”與“執行”的差異

但在哲學界，始終有反對的聲音存在。對于“機器可以具有真正智能”的所謂強人工智能觀點，它們認為，機器所表現的這種智能，只是一種模擬的“智能”，即使某臺計算機通過了圖靈測試，也不能排除實際上，它對問題沒有任何理解的可能性；因此，計算機不可能具備真正意義的智能。

經典的圖靈測試在人工智能的“強弱”上，不能作為智能意識產生的推演依據。

用純粹的觀點語言來闡述反對派的觀點，興許有些抽象，不妨來看一個相對具象的思想實驗：在上世紀80年代，美國哲學教授約翰·塞爾勒在“圖靈測試”的場景基礎上，于其著作《意識的大腦與程序》中，提出了“中文屋論證”，來對強人工智能觀點發起質疑。

在中文屋實驗里，想象同樣是一個孩子坐在一間被反鎖的屋子里，他只通曉英文，對中文一點也不懂。在屋內，有一盒中文卡片和一本用英文編寫的規則手冊。假設每當屋子外有寫了中文問題的紙條遞進來后，這個人都能按照規則手冊的操作，來將屋內的中文卡片組合成詞句，來完美回答被送進來的問題，那么這個人就通過了“理解中文”的圖靈測試—盡管這個人本身仍然不懂中文。

塞爾勒通過這個實驗認為，計算機所運行的程序是形式化的句法實體，但人所擁有的智能卻是具有語義性的，“理解”不僅僅是機械的翻譯和句法的轉換，而且還在于其體現了主體的意向性。

回到圖靈測試的黑屋背景里，塞爾勒想表達的意思是，就算機器能夠模擬人的行為與對話，也不能夠認定其具有人的意識或者思維，這無非是在完美規則下的固定回應罷了。值得玩味的是，在現代教育面臨AI沖擊的今天，被灌輸知識的人類學生，屢屢被比作是“中文屋”里操作卡片的孩子，這隱約更加符合在信息爆炸的新世紀，人們關于賽博格等后現代宣言“不可知論”的擔憂。

2015年，美國卡內基·梅隆大學利用核磁共振腦成像技術，記錄人腦理解概念的神經活動

大規模的數據積累

塞爾勒所抓住的最有力反擊點，是所謂的“理解”和“執行”之間尚且存在著差異。有趣的是，曾經被認為是無法被看到的理解過程，也隨著科學的發展變為了現實。

2015年，美國卡內基·梅隆大學利用核磁共振腦成像技術，第一次將人腦理解概念的神經活動，以視頻方式表現了出來：志愿者學習不同的新知識的時候，會將其存儲到不同的腦區。

然而，這只是一次對人體生理反應的成功捕捉。人腦理解語義和概念的具體過程還有待揭秘，是故科學家也暫時做不到用機器模擬人腦的理解機制。

可事實上，人們對于數據積累，有著更加簡單粗暴的辦法：在ChatGPT吸引了全球目光之后，就已經有媒體曝出，為了訓練這個聊天工具，其背后的公司OpenAI在肯尼亞雇了時薪還不到2美元的外包勞工。他們需要在9小時的工作時間內，閱讀并標注最多20萬個單詞，還必須在工作中觀看兒童性虐待、謀殺等一系列引發心理和生理不適的內容，來減少ChatGPT的有毒內容。

從包括特斯拉在內的自動駕駛研發公司所招募的大批數據標記員，到機器人在線客服背后的真人員工，在更廣闊的行業應用里，人工智能所帶來的自動化變革，依然在底層依賴著大量的廉價勞動力，即使“阿爾法狗們”已經在窮舉規則的道路上走得更遠，已經學會預測，并具備模擬人腦神經網絡架構的雛形了。

可以說，目前的人工智能，仍然是對人類思維、行為的模仿，它尚且停留在工具和機械范疇，并不是真正意義上的人格實體與道德實體；經典的圖靈測試在人工智能的“強弱”上，也不能作為智能意識產生的推演依據。

但我們不應忘記，計算機科學家阿爾文·納拉亞南在設計機器人時，提出需要遵循“圖靈紅色警戒”的建議：機器人的定位應當是機器人，而不是人甚至超越人。

責任編輯謝奕秋 xyq@nfcmag.com