前幾天,DeepSeek v4.1 發布了,把小模型的能力水準又往上推進了一個等級。
AI 的發展速度遠遠超過所有人的預期。從那個只會牙牙學語地聊天、上下文長度只有幾千 token 的初版 ChatGPT,到具備推理能力的 OpenAI o1、DeepSeek R1 與 Kimi K1.5 Thinking,不過短短兩年;從推理模型到如今能在各種 harness 工具中流暢執行指令、完成複雜任務的智慧代理,也不過一年半。很難想像,倘若再等上一年、兩年、三年,那時的 AI 會變成什麼模樣、會有多強大,會不會已經具備自我進化的能力,並深度滲透進具身智慧等領域。
AI 越來越會寫算子了
AI 在我所從事的算子設計、編寫這個領域同樣進步神速。短短一年之內,它已經從一個只能幫我查查文件、讀讀程式碼、找找 bug 的小助手,蛻變成一位能獨立閱讀 CUDA、PTX 與 SASS 程式碼、透過專業工具分析每條指令的停頓時間,進而獨立最佳化算子的算子大師。相信不久之後,它也能擁有自行設計算子排程、評估不同排程方案效能、並將其實作與最佳化的能力。
我當然為 DeepSeek v4.1 的成功感到驕傲——畢竟它的主 Attention 算子都是我寫的 [1],它的優秀正是對我算子的一份肯定。但是,時代的巨輪滾滾向前,技術的發展無人能擋。我很清楚,再過半年或一年,AI 寫的算子大概率就會和我寫得一樣好,甚至把我超越。AI 能一秒思考 300 個 token、半秒敲出一行指令、二十秒寫完一份程式碼,而我不行;AI 能在模型深度、思考強度、工具呼叫量(與環境互動的頻率),甚至平行度等方面不斷提升,而我不能。
人類在毀滅自己這件事上,自古以來都表現得毫不猶豫。為什麼在明知「我算子寫得越好,我們的新模型訓練、推論速度就會越快,模型能力進步就會更快,我就會更早被取代」的情況下,我仍然選擇盡力最佳化算子呢?一方面確實是因為寫算子對我來說就像玩遊戲一樣,能帶給我極大的快感。當我發明了一項新技術,或者看到自己算子的效能往上跳的那一刻,心中的激動程度不亞於速通玩家打破自己過往的紀錄。同時,當看到自己的算子效能遠超原廠官方算子時,我心裡也會萌生極大的自豪感。但除此之外,更重要的原因是:哪怕我就此「擺爛」,甚至故意下絆子耽誤模型訓練,其他家的模型也會照常發展,最終照樣把我殺得片甲不留。「我當然希望自己不要被革命,但如果非被革命不可,我希望革我命的人是我自己。」在大家都這麼執著於毀滅自己的時候,我也不得不加入這場殘酷的軍備競賽。
那我呢
等到 AI 寫算子的水準真的高於我的那一天,屆時的我會怎麼樣呢?
我的判斷是:我不至於會「失業」,但必須要「轉業」。我的飯碗尚且保得住,但這可能導致我再也沒機會從事那份我曾熱愛過的工作。
我曾經對時代的變化與我個人在未來的處境做過一個判斷:由於時代變化真的太快(上文的 AI 發展就是很好的例子),我完全無法預知五年、十年後會發生什麼,但無論如何,我相信憑著自己的眼界、判斷力、主觀能動性與智力,能留在時代的牌桌上,並重新站上時代的浪頭。不過,這個判斷只能保證我不會「失業」,而無法保證我不需要「轉業」;倒不如說,這個判斷鼓勵我透過轉業來避免失業。
那轉業代表什麼呢?它代表我需要放棄我深耕已久、充滿熱愛的算子設計、編寫、最佳化領域,轉而去做 Agent 的「機甲駕駛員」。在此之前,我的興趣、我所擅長的,以及產業界所需要的,三者基本上是對齊的;而現在,AI 讓我擅長的事情變成它更擅長的事,也讓產業界的需求從「會寫高效能算子的人」漂移到「能用 AI 更快產出高效能算子的人」。為了適應產業界的需求,我勢必得放棄先前那個我熱愛的方向,轉向一個未知的新方向。我相信自己能憑著對工程學、上層模型需求與底層硬體的理解,繼續高品質、高效率地產出算子;我也知道我可能會熱愛這個新方向(也可能不會),但被奪走熱愛的滋味,確實不太好受。那份坐在位子上靜心寫上一整個下午算子的清歡,很可能會在這個夏天成為絕響。我不得不把才華埋葬在昨天,去做一位機甲駕駛員。我的手中多了些齒輪,但心中少了些節拍。
可以打個形象的比方:你精通織毛衣的技術,尤其擅長各種圖案的織造與各色色彩的搭配。你織出的毛衣品質過硬、花紋美觀,方圓十里的有錢人都來請你替他們織毛衣,你也因此賺了不少錢。同時,你十分享受那種坐在窗邊,沏一壺清茶,望著窗外的青山、綠水、牛羊與炊煙,靜靜織上一整個下午毛衣的感覺。但有一天,有人發明了一台神奇的機器,只要提供毛線與圖案,就能自動織出毛衣,品質與紋理都不亞於你親手織造的,速度還遠快於你。你很清楚,你的同業靠著這台機器就能輕鬆達到你曾經的水準,因此你也不得不去用它。你也知道,憑著你過去二十年累積的織毛衣技術,就算大家都有機器,你織毛衣的速度與品質還是能超過同業。但那份臨窗聽雨、引針穿線、慢度光陰的意趣,終究還是被機器的轟鳴聲碾碎了。
我知道這很無奈,但沒辦法。飯碗可以保住,但昔日的那份熱愛大概率是要放棄了。我是一個理性與感性分得滿開的人,在需要用理性處理問題時可以很理性,但有時也會流露出感性的一面。我記得我在搬離住了一年的租屋處時,還大哭了一場,捨不得和過去的記憶道別。今天要和之前那個手寫算子、人腦最佳化的時代告別,無疑比這更加殘酷。
不知道有沒有讀者有類似的感受,但我想這件事也只能這樣了。
那人們呢
在 AI 不斷進步的同時,我也對一些問題感到擔憂:
現在的學生是不是大概率會更傾向用 AI 完成作業,特別是偏重實作的各種 Lab?想像一下,如果面前有兩個選擇:一個是苦哈哈地用八小時完成一個 Lab,或許還拿不到滿分;另一個則是啟動 AI 模型,用幾塊錢的成本、幾分鐘的時間,直接讓 AI 寫出滿分程式碼。那大部分學生會選哪個呢?
上面這點會導致大量學生的工程能力嚴重不足,包括組織程式碼的能力、建構系統的能力、思考未來潛在需求並提前在設計上應對的能力、抽象化的能力等等。那麼在 AI 能力不斷增強的背景下,這部分「工程能力」是否還是必須的?這些工程能力是會像昔日「熟練編寫 x86 組合語言」的能力那樣逐漸被時代拋棄,還是會像「理解從軟體到系統再到硬體的整套電腦體系」的能力那樣永遠具有價值?如果是後者,那就危險了——一個工程能力很差的人,在搭配 AI 之後,產出屎山的效率可以達到先前的數倍,進而給系統埋下各式禍患,讓這個世界變得更加草率馬虎。
在未來社會中,權力(power)是不是會比技術或智商更加重要?
這些問題,或許就得由時代本身來回答了。
結語
伴隨著 AI 的發展,未來的社會可能會趨向兩個極端:共產主義與賽博龐克 2077。在前者中,生產力得到極大的解放,人們的生活水準有明顯提升(就先寫到這裡吧,不然我怕過不了審查);而在後者中,少數科技公司掌控著大部分資源,只有極少數人能夠使用最先進的 AI 與各式科技,獲得接近「機械飛升」的效果,大部分人則只能用上很孱弱的 AI。階級流動將越來越難實現:你得先有最強的 AI,才能跨越階級,形成一種死循環。
你猜猜,如果 Anthropic 永遠掌握著這個世界上最先進的 AI,未來社會會變成共產主義還是 2077 呢?你猜?
所以,我還是相信,最前沿的智慧應該以一種開放、廉價的方式,供應給所有人。我不信任 Anthropic 或 OpenAI 能這麼做,尤其不希望 Anthropic 掌握最先進的人工智慧或 AGI;誇張點說,其嚴重性不亞於讓希特勒比盟軍更早掌握原子彈技術。這也是為什麼我選擇並堅持留在 DeepSeek:我們研究強大、快速、普及的人工智慧並將其開源,或許能把世界從 2077 那端拉回來一些。
願未來的世界一切安好。May all the beauty be blessed.
[1] 「主 Attention」僅包括 head dim = 512 的 MQA attention,不包括用於選出 top-k 重要 token 的 indexer,那部分是由其他(水準也非常強的)同事(以及他們的 AI Agent)所編寫的。