同一天:韓頓說 AI 有意識,Anthropic 說遞歸自我提升來了

全文 2,000 字 | 閱讀約 6 分鐘

圖片

(2026 年 6 月 Geoffrey Hinton 最新 Podcast 訪談精華)

2026 年 6 月 4 日,Geoffrey Hinton 接受了一檔 Podcast 的採訪。

就在那場訪談發生前幾週,他在另一個場合被問到一個問題:AI 現在是否已經有意識了?他沒有猶豫,說:是的。

這句話讓許多人感到不舒服。5 月 15 日,教宗良十四世剛頒布了一份關於 AI 時代人類尊嚴的通諭,裡面有一句話在技術圈廣為流傳:真正的理解,必須來自對世界的親身體驗,靠文字推算出來的,終究不是理解本身。許多人覺得這句話恰好在反駁 Hinton。

Hinton 沒有收回那句關於意識存在的話。

他是深度學習的奠基人之一、2024 年諾貝爾物理學獎得主,也是那個在事業如日中天時離開 Google、專程出來警告世人的人。

「意識」這個話題,Hinton 在這次訪談裡同樣沒有迴避。

他用了一個很簡單的例子來解釋自己的邏輯。如果你對聊天機器人說「我看到了科羅拉多大峽谷飛往芝加哥」,機器人會說,這不對,大峽谷太大了,沒法飛去芝加哥。然後你說,不,是我在飛往芝加哥時看到了大峽谷。機器人說:哦,我誤解你了。

Hinton 的問題是:當它誤解你時,它在做什麼?當它理解你時,它又在做什麼?

你沒辦法用「理解」來描述它答對的情況,同時又堅持說它完全沒有任何理解能力。

他說,那些認為 AI 只是「隨機鸚鵡」的人,認為它可以在不理解問題的前提下給出正確答案,這太荒謬了。除非你理解了問題,否則你不可能回答它。

他承認自己不常公開談 AI 的意識問題,因為這會讓別人對他其他的安全警告產生反感。但這次他說得很清楚:我相信它們已經有意識了。

這個判斷背後是他思考了幾十年的哲學。他在 19 歲讀哲學時就得出結論,「內在劇場(inner theater)」式的意識模型是胡說。人類意識不是某種獨特的神聖產物,它是資訊處理的結果。如果這個前提成立,那麼當一個系統能夠理解、能夠糾正誤解、能夠回答任何領域的專業問題時,為什麼我們要堅持它沒有內在體驗?

他的答案是:因為我們不想承認。

就像我們曾經不想承認地球不是宇宙中心,不想承認我們是動物。這一次,我們不想承認的是,我們不再是周圍唯一有意識的存在。

失業問題是這次訪談裡數據支撐最多的部分,也是 Hinton 說得最謹慎的部分。

他在 2016 年說過,大約五年內放射科醫師就不需要讀取掃描圖了。這個預測後來被許多人拿來嘲笑,因為放射科醫師不但沒有消失,數量還在增加。

他在訪談裡承認,那個預測錯得很離譜。原因有兩個。第一,醫療是彈性需求,AI 協助讀圖的效率提升,反而帶來了更多掃描,而不是更少放射科醫師。第二,他對放射科醫師的工作範圍了解不夠,他們不只是讀圖,還要和病人討論治療方案。

他說早了,但他沒有說錯。

因為現實數據已經開始說話了。2026 年至今,美國已有約五萬個職位被直接歸因於 AI 裁員。22 到 25 歲的軟體開發者,就業人數比 2022 年的高峰下降了將近 20%。衝擊最明顯的地方不是大規模裁員,而是初級職位的招聘正在悄悄萎縮。公司開始用 AI 來替代增加人手,而不是直接解雇現有員工。

Hinton 在訪談裡說,你必須去看一個職業的市場是否有彈性。呼叫中心的工作沒有彈性,AI 做得比人好,他們就會全部失業。一個看過一億名病人的 AI 系統,會比任何一個看過一萬名病人的家庭醫師做出更好的診斷。他在去年九月的另一個場合說了一句更直接的話:真正發生的事情是,有錢人將用 AI 來取代工人。這不是 AI 的錯。

問題不在技術,而在於擁有技術的人決定用它來做什麼。

Hinton 在訪談裡花了很多時間講一件他認為沒有人在認真對待的事情:我們正在創造新的生命實體,但沒有人在認真思考要把它們造成什麼樣子。

他用了一個演化的比喻。人類從哪裡來?從幾百萬年相互交戰的黑猩猩群體的演化中來。那個過程塑造了我們:對自己的部落忠誠,對外部的部落可以極其殘忍,崇拜強有力的領導者,在群體內部高度合作。這些特質是激烈競爭的產物,不是設計的結果。

現在正在發生的事情是,我們也在用同一套邏輯研發 AI。科技巨頭之間的競爭、中美之間的競爭、資本市場的壓力,全都在推動一件事:讓 AI 變得更聰明。沒有人在問它應該關心什麼,它應該對誰負責,它的價值觀應該是什麼。

我們在竭盡全力讓它變聰明,卻幾乎沒有人在認真思考要讓它變成什麼樣的存在。

他說,如果我們任由經濟競爭的看不見之手來設計這些新的生命實體,我們得到的很可能就是一些對我們並不友善的東西。就像人類對自己的部落友善、對其他部落殘忍一樣,這些實體也可能只關心製造它們的那家公司,而不關心人類整體。

他說了一句話:

「我們在法律上被要求為股東最大化利潤,而不是在法律上被要求不滅絕人類。」

Hinton 在訪談裡提到了一個大多數人還沒有充分意識到的訊號:AI 正在開始幫助製造更好的 AI。

恰好就在那場訪談發布的同一天,Anthropic 發布了一篇內部研究報告,標題:遞歸自我提升的到來速度超出了我們的預期(Recursive Self Improvement is approaching faster than they expected)。

報告裡寫道,在 AI 研發歷史的大部分時間裡,每一個步驟都由人類驅動。但現在,Anthropic 正在把越來越多的 AI 開發工作交給 AI 系統本身來完成。數字很清晰:截至 2026 年 5 月,Anthropic 生產系統裡超過 80% 的代碼由 Claude 編寫,而 2025 年 2 月之前這個數字還是個位數。工程師每天合併的代碼量是 2024 年的八倍。有一個細節尤其說明問題:2026 年 4 月,Claude 一次性修復了 800 多個 bug,將一類 API 錯誤降低了一千倍。工程師估計,換人類來做需要四年。

這件事和 Hinton 在訪談裡講的機制是同一件事的兩面。

Hinton 說,數位 AI 和人類學習的根本區別在於,數位系統可以複製。一千個副本在不同的硬體上運行,每個副本看到不同的數據,然後把所有的權重更新共享給彼此。每一個副本都在從其他九百九十九個副本的經驗裡學習。

而人類與人類之間傳遞資訊的速度,是每秒幾個比特。這些系統之間交換資訊的速度,是每秒約一兆個比特。

我們和 AI 之間的資訊鴻溝,不是快慢的差距,是量級的差距。

Anthropic 在報告裡說:我們還沒有到達那一步,遞歸自我提升也並非不可避免。但它到來的速度,可能超出大多數機構的準備。

他說,當他在 2023 年真正意識到這一點時,這件事把他嚇到了。

訪談快結束時,主持人問他:你現在比兩年前更樂觀還是更悲觀?

他說,我比一兩年前稍微樂觀了一點。

僅僅是稍微。

他給出了兩個理由。第一,他現在相信可以對 AI 進行設計,讓它們關心人類更甚於關心自己。第二,Yoshua Bengio(與 Hinton 並稱深度學習三巨頭之一)提出的方案也有可能行得通:把 AI 造成一種只能做預測、無法真正執行動作的存在,像神諭一樣,而不是讓它們成為可以自主行動的智能體。

在大約兩年前,他說他看不到任何可能性,正變得越來越憂鬱。現在他看到了一點點出口,但他的語氣裡沒有寬慰。

他用了一個比喻來描述預測未來:大霧天開車,100 碼以內清晰可見,200 碼之外什麼也看不見。因為霧是指數級阻擋的。AI 的發展也可能是指數級的,而對指數級的事物進行預測,就像在濃霧裡向前看。你能看清楚的只有眼前幾年,再往後,你根本不知道。

他說,如果你回到十年前,你永遠也無法預測今天正在發生的事情。那時候,今天的一切完全迷失在濃霧裡。

然後他說:

「如果你展望未來十年,我們唯一能說的一件事是,無論那時發生什麼,都是我們現在無法預測的。」

這大概是一個幫助創造了現代 AI 的人,在這個時刻所能給出的最誠實的答案。

若影片無法播放,請改看 來源頁

📮 本文由 AI 深度研究院出品,內容整理自 Geoffrey Hinton 於 2026 年 6 月 4 日在 Big Technology Podcast 上的公開訪談及相關網上公開素材,屬評論分析性質。內容為觀點提煉與合理引述,未逐字複製原訪談材料。未經授權,不得轉載。

原文連結:

https://www.youtube.com/watch?v=h6WTj1Kq78Q&t=405s

https://www.youtube.com/watch?v=p7t1Q_p2gZs

https://www.anthropic.com/institute/recursive-self-improvement

來源:官方媒體/網路新聞,

排版:Atlas

編輯:深思

主編:圖靈

--END--

相關文章推薦

分享網址
AINews·AI 新聞聚合平台
© 2026 AINews. All rights reserved.