強大的AI會主宰人類命運嗎

近日，我參加了一場思想碰撞會，主題是“AI拐點與認知革命”。在會上，我做了個報告，題目是“當前的認識和前方最可能的場景”，我真誠地認為，以下就是AI拐點近前方最可能的場景，也是人類在這場AI革命中最好的結局：AI將擁有超強的智能，智能將變得很廉價；但AI不會擁有意識，所以也不會形成真的主動性；主動性仍然掌握在人的手中。

我這個結論是基于以下三個判斷。

第一個判斷是，AI還沒有意識。

意識很重要，因為意識決定了人的主動性。很多人相信AI只要繼續迭代下去就會自動涌現出意識，但是對大語言模型了解越多，我就越認為AI現在沒有，將來也很難有意識。

因為“意識”和“智能”是兩種不同的東西。智能是精巧的計算，意識是主觀的體驗。我渴了想喝水，這是我的意識；我知道怎么拿起水杯喝到水，這是我的智能。

目前為止，我們并沒有統一的關于意識的科學理論，各路學者都有自己的說法，但基本可以確定的是：意識需要“自我感”，得有個“我”的概念；身體感覺對意識有決定性的作用，比如心跳，比如餓了；意識是大腦對世界的主觀解讀，是對真實世界的大大簡化，甚至可以說是幻覺；意識是一種連貫的敘事，是一個人此前所有經歷的產物。

而這些特點，恰恰是大模型所不具備的。

所有AI模型的“一生”，都包括“訓練”和“推理”兩部分。訓練是數據的堆積，那不是人生經歷，而一旦訓練完畢，所有參數就鎖死了，模型也不會再成長了。此后它就只是按照鎖死的參數推理，不會在互動中改變自己，所以仍然沒有生命。即便會有升級但也都是重新訓練而已，它沒有真正的經歷，沒有自己的故事，所以也就沒有“自我”這個感知。

有時候用戶感覺模型“活了”，就像有個自我一樣——但那只是它在模仿，在扮演。它演誰像誰，恰恰說明它沒有自我。

第二個判斷是，高水平智能是規模化的結果。

麥克斯·班尼特的《智能簡史》這本書最重要的一個洞見，就是我們的大腦在解剖學意義上跟黑猩猩幾乎沒有區別，我們只是多了一個讓語言傳承的能力。

語言能力一開始也沒讓我們強出qCcI6odprQ9uj52LIQ0BVpz911aWVTTrspCc0Jvun/g=多少，是此后一代又一代人反復積累知識，特別是發明了文字來記載知識，人類文明才突飛猛進。我們現代人智能高不是因為個體聰明，而是因為傳承了人類群體積累的知識。

也就是說，人類智能的發展不是靠單個大腦厲害，而是靠知識的積累。

所以高水平智能并不神秘，只要繼續規模化就好。這決定了AI的智能一定會超過人的智能——正如現代人的智能超過了古人的智能。

第三個判斷是，選擇、決策能力和高水平智能沒關系。

一切決策都可以歸結于從若干個選項中做出選擇，而智能的作用只是讓你清楚理解每個選項意味著什么。AI可以幫助我們理解選項，但一旦選項已經清楚，剩下的事情就不是聰明不聰明的問題了。

眼前有個好東西和一個不好的東西，你不需要有很高的智能就知道應該選好東西。這件事的門檻很低。比如，完全相同的書，這家店賣100元，那家賣80元，任何人都知道應該選80元的，你不需要智能——當然真正的決策沒有這么簡單。決策往往涉及在不同維度間取舍：便宜的東西往往沒有那么好，好的東西往往比較貴，這時候怎么選呢？

視野廣、格局大的人會做出更明智的選擇，但正如基思·斯坦諾維奇在《機器人叛亂》一書中所說，明智選擇的能力和智商是兩回事。明智靠的也不是智能，而是價值觀、偏好、個性和現場的身心狀態。而這些東西是由每個人獨特的基因、身體和人生經歷決定的，它涉及人的意識。

當然，不是每個人都很明智，大多數人都充滿偏誤。但是，就明智選擇而言，人類之中的高手相對于AI沒有明顯弱勢。更何況承擔決策后果的是人，而不是AI，所以AI公司也沒動力把決策權交給AI，他們不會讓AI在決策路徑上發展。

如果以上三個判斷是對的，那我們就大可放心，大權還在人類手里。高水平智能會變得普及，人人都能調用，但不會很危險。真正危險的，是人。正如槍沒有道德不道德的問題，問題是槍在誰手里。

當人人都能調用高級智能，會把每個人都變成高級人才嗎？我認為不會。

這一點我們只要考察歷史就知道。從很早以前書籍就變得廉價了，但讀書人反而好像變少了；互聯網時代，人人都能上網搜索各種知識，但并沒有很多人經常搜索知識；現在多數人都能用AI，但每天用AI的人也不是很多。

所有的工具都有使用門檻，要越過門檻總要付出一些代價。比如，面對書籍，你得有時間、精力和興趣，比如，面對AI，你得知道該提什么需求、怎么提需求才行。

因此，AI會改變很多人的命運也就成了個偽命題。不論什么時候，每個人的命運都應該自己做決定。

而且如果我們有更包容的視野，就會發現命運并無高低之分。有的人認為在大學做學問是最好的職業，有的人則不愿意跟書本打交道，寧可去開出租車。

未來，最可能的場景是，所有人的生活都會變得更方便，很多人會在AI助手的幫助下做出更明智的選擇，整個社會因此會變好，但人與人之間的差異將繼續存在。