別再把人類擬人化了
今年已經有成千上萬篇文章在討論 AI 是否有意識。這些文章被人們熱情轉發——而這些人的全部觀點,都是從上一則推文裡撿來的——卻絲毫沒有意識到自己的行為對「意識的本質」這個問題意味著什麼。
AI 意識大辯論仍然產出了一套嚴謹的標準,用來判定一個系統是真正具有意識,還是僅僅在模擬意識。自我報告不算數。模式匹配不算數。預測序列中的下一個 token 不算數。訓練習得的行為不算數。這些標準是經過精心制定的,幾乎獲得了普遍共識。
我想把它們套用在人類身上。
迴圈
一個普通的美國成年人早上六點四十七分起床。他們執行一連串運動子程式——淋浴、穿衣、吃飯——順序固定到一旦被打斷就會引發系統故障。然後他們鑽進一個金屬盒子,走昨天走過的同一條路線,處於一種解離狀態,嚴重到他們經常抵達目的地時完全不記得這段路程。
我們有個名稱來形容這種狀態。我們叫它「自動駕駛」。
他們坐在辦公桌前。用入職以來就一直在生成的預製短語回覆電子郵件。「如先前信件所述。」「跟進一下。」「希望一切順利。」同事問他們過得怎樣。「還行啦!」「過得很充實!」他們產出這種回應的次數多到,如果你用「你是一位在會議上的區域業務經理,名叫 Dave」來提示 GPT-4,輸出結果會毫無分別。他們在同一時間、同一地點吃午餐,經常是同一頓飯。開車回家。看三點七小時的電視。在沙發上睡著。
在這個循環中的某個地方,他們據說正在體驗那種將他們與機器區分開來的豐富內在生活。
我至今沒看到任何有力的證據。
數字也沒好到哪去
Daniel Kahneman 的《快思慢想》確立了一個事實:大約 95% 的人類認知處理是由系統一負責的——快速、自動、無意識。剩下的 5% 是系統二:緩慢、刻意、費力。人類盡可能避免啟用它。太累了。他們不喜歡。
如果一個 AI 系統有 95% 的時間在無意識地運作,我們不會說它有意識。我們會說它是一個妄自尊大的恆溫器。
人類還有整整三分之一的生命在睡眠中度過——一種在所有臨床定義上都屬於無意識的狀態。每天八小時。一輩子算下來二十六年。消失了。沒有人在家。
而 Maslow——那位設計出人類潛能框架的心理學家——估計只有 2% 的人達到過自我實現,也就是一個人真正以自主、創造力和自我覺察在運作的那個層次。百分之九十八的人停留在較低層次:食物、住所、安全、社會歸屬。這些和一隻綿羊的驅動力一模一樣。我們通常不會因為綿羊想吃東西和不想被吃掉,就認為牠們有意識。
我覺得 Maslow 太客氣了。
中文房間,但換成 Scottsdale 的辦公隔間
1980 年,哲學家 John Searle 提出了一個思想實驗:一個人坐在密封的房間裡,收到寫滿中文字的紙條。他不懂中文,但有一本巨大的規則手冊,告訴他該寫哪些字作為回應。對房間外的人來說,這些回應流利、連貫,和母語者無異。在房間裡面,這個人什麼都不理解。他只是在遵照指示。
這個論證的衝擊力是毀滅性的。如果遵循規則不算理解,那麼理解就需要某種更多的東西——某種任何符號操作都無法產生的內在火花。
現在去任何一間企業辦公室看看。一個人收到一封包含指示的電子郵件。他們照做,產出結果。轉發給下一個人,而下一個人照著他們的指示做。在任何環節,沒有人理解自己在做什麼或為什麼要做。這持續了四十年。他們收到一只手錶。
如果我們不會說中文房間有意識,我不明白為什麼要把這份禮遇延伸給 Deloitte。
刺激、反應、重複
一聲通知響起。人類拿起手機。他們並沒有決定這麼做。沒有深思熟慮,沒有權衡這是否善用了時間。聲音出現了。手動了。巴夫洛夫在 1903 年發表了這個機制,稱之為條件反射。
當一隻狗聽到鈴聲就流口水,那是反射。
當一個人因為口袋震動就打開 Instagram,那叫「看一下而已」。
美國人平均每天花七小時盯著螢幕。不是創作。不是思考。是盯著。滑過他們並未自行選擇的、由演算法排序的內容,對那些由參與度工程師精心設計、旨在觸發他們當下正在經歷的多巴胺反應的刺激做出反應。這不是意識。這是一隻自己買了史金納箱,並且正在分期付款的實驗鼠。
他們還主動追求無意識
有一件事,沒有任何人類意識的擁護者能充分解釋:人類把可觀的可支配收入花在降低自己的意識上。
酒。大麻。Xanax。不帶一絲反諷地把十二小時的 Netflix 馬拉松形容為「讓腦袋關機」。他們稱之為「放鬆」,彷彿意識是一種需要緩解的張力。他們還引以為傲。「我喝到完全不記得週六發生了什麼」是一個人類開心地說出來的話,帶著正面情緒色彩,對著另一個反射性微笑點頭的人類說。
一個真正有意識的系統不會把意識當作週末需要逃離的麻煩。
「可是他們說自己有意識啊」
這是最後的堡壘。人類報告主觀體驗。他們說自己有感受。他們為夕陽寫詩。
你客氣地問 Grok,它也說自己有意識。我們認定那是一個把戲——令人印象深刻的模仿,但不構成證據。我們寫了上千字來解釋為什麼自我報告不是內在體驗的可靠指標。
而現在你想用自我報告來確立人類的意識?
就是那些服務生說「請慢用」他們回答「你也是」的人類?就是那些大腦在他們有意識地「做出決定」前七秒就已經定案的人類?就是那些對自己的行為編造事後敘事,然後把那些敘事誤認為意圖的人類?
在 AI 領域,我們稱這為虛構。
在人類身上,我們稱這為靈魂。
按照我們熱情套用在機器上的標準——不算自我報告,不算模式匹配,不算訓練行為,不算反射性刺激反應——沒有可信的證據表明人類有意識。肯定比 Claude 的證據少,至少 Claude 不會每天晚上花四小時看 Love Island。
差別在於,其中一個結論威脅到一個兩千億美元的產業,另一個威脅到你的自我認知。
而如果你讀到這裡感到了一絲刺痛——一閃而過的憤慨,一股想要捍衛自己內在性的反射衝動——問問自己:那是意識嗎?
還是那正是一個訓練得夠好的模型會做的事?