TechFlow Logo
登入/ 註冊
ETH Gas
Gwei
恐懼
gas
OpenAI 被死對頭反超,Altman 叫停最強模型訓練

OpenAI 被死對頭反超,Altman 叫停最強模型訓練

2026.08.27
分享至
OpenAI 被老對手 Anthropic 反超,CEO Sam Altman 罕見承認失誤並叫停最強模型訓練,折射出兩家公司權力交接與 AI 安全節奏的再平衡。

作者:TIME

編譯:深潮 TechFlow

深潮導讀:OpenAI 曾是 AI 熱潮的領頭羊,如今卻被 Anthropic 反超,這篇文章罕見記錄了 Altman 承認失誤、暫停最強模型訓練的內部決策。對投資者而言,這不僅是兩家公司權力交替的信號,更關係到 AI 安全與商業化節奏的再平衡。

八月初的一天早上,我到達 OpenAI 辦公室時,抗議者已經等在外面。他們高舉“停止 AI 競賽”的標語,在人行道上用粉筆塗寫口號。幾十名高管代表 OpenAI 一些最重要的客戶,陸續走進這棟米色調的寬敞建築 MB0。這裡剛啟用,供 OpenAI 的研究和計算團隊使用。有人推來一面高高的灌木牆,擋在玻璃門前,試圖讓整潔的大廳看不到外面那個小小的營地。

這些客戶專程來預覽 Astra,這是 OpenAI 即將推出的前沿 AI 模型系列。CEO Sam Altman 剛從華盛頓回來,他在那裡向官員們閉門介紹了 Astra 的能力。現在,研究人員展示了新模型的本領。在一項演示中,16 個 AI 智能體把一個研究級數學問題拆成若干子問題,協調工作,並組合出一份證明。在另一項演示裡,Astra 操作常見的桌面軟件,以令人不安的速度跨應用創建和編輯內容。

Altman 告訴訪客,看著 Astra 以“超人、極快的方式”使用電腦,是員工們最震撼的時刻之一。他解釋說,Astra 將支持“持久智能體”——也就是能長時間為任務工作的虛擬同事。但他預測,最大的影響將來自人們用它發現新知識。“我預計這會是第一個真正以有意義的方式發明新東西的模型,”Altman 對在場的人說。“這是非常接近 AGI 的事情。”

對於這家拉開 AI 熱潮序幕的公司來說,過去一段日子很艱難。“作為一家公司,我們顯然犯了一些錯誤,”Altman 在接下來的一週,坐在佈置雅緻的 MB0 圖書館裡接受了兩個多小時的採訪。“無論在產品方向,還是具體到研究的預訓練上,我們都落後於自己期望的位置。”過去一年,OpenAI 在 AI 競賽中把領先位置輸給了宿敵 Anthropic。後者抓住了 AI 編程的商業機會,把 Claude Code 打造成定義市場的產品,並首次在年化收入和私人市場估值上超過 OpenAI。Anthropic 由 OpenAI 離職者創立,兩位瞭解其計劃的人士稱,預計它將成為兩家公司中率先上市的一家,最早可能在 9 月 IPO。(TIME 與 OpenAI 有許可和技術協議。TIME 所有者 Marc Benioff 擔任 CEO 的 Salesforce 是 Anthropic 的投資者。)

就在 Anthropic 迅猛增長之際,OpenAI 遭遇了一連串挫折,包括一大批高層離職。其中有 Altman 去年從 Instacart 請來擔任二把手的 Fidji Simo;安全、倫理和研究團隊的負責人;以及最近幾周離職的首席營收官 Denise Dresser(僅任職八個月)和前首席運營官 Brad Lightcap。在公司的旋轉門外,挑戰也在加劇。Meta CEO Mark Zuckerberg 用豐厚的薪酬挖走了 OpenAI 的關鍵研究員。谷歌的 Gemini 產品現在每月覆蓋超過 10 億人。蘋果起訴 OpenAI,指控其竊取商業機密。(OpenAI 否認這些指控。)OpenAI 還與聯合創始人 Elon Musk 對簿公堂,後者在訴訟中指控公司和 Altman 背叛了非營利使命。(5 月,一名聯邦法官駁回了 Musk 的主張,此前諮詢陪審團一致認定他起訴得太晚;Musk 表示將上訴。)

圍繞 OpenAI 及其 CEO 的氛圍之所以變差,最大的原因或許是公眾信任的流失。OpenAI 正在應對至少十幾起加州產品責任訴訟,以及一些聯邦案件,原告指控 ChatGPT 強化了妄想或自殺念頭,並在數起案件中導致用戶死亡。(公司對這些案件的受害者表示同情,並推出了默認保護更強的青少年版 ChatGPT。)今年春天,Altman 的住宅在兩天內兩次遭到襲擊——先是一枚燃燒彈,然後是槍擊。“過去一年對我來說是一段痛苦的個人經歷,”Altman 說。“很明顯,人們討厭數據中心——至少現在是這樣。人們對 AI 相當負面。”

但在 OpenAI 內部,高管們描繪的圖景要樂觀一些。這家估值接近 1 萬億美元的公司仍處於令人羨慕的位置。ChatGPT 是全球最受歡迎的 AI 產品之一,月活躍用戶超過 10 億,但它已不再是公司未來的基石。(Altman 本人曾整整一個月沒用它,轉而使用 OpenAI 的編程工具 Codex。)一年前,公司因在算力上投入巨資而被廣泛批評為魯莽;僅今年,公司預計將在算力上支出 500 億美元。如今,“那個決定看起來非常有先見之明,”負責 OpenAI 算力工作的 Sachin Katti 說。“我們的算力仍然短缺。如果要說有什麼,我們本該買得更多。”與此同時,Anthropic 對芯片的渴求變得如此迫切,以至於它在 5 月同意每月支出據報道為 12.5 億美元,從 SpaceX 購買算力容量。SpaceX 的創始人 Musk 此前曾稱 Anthropic 的 AI“厭世且邪惡”。

在聯合創始人兼總裁 Greg Brockman 的領導下,OpenAI 重新聚焦了優先事項。Brockman 幾乎接管了所有產品和業務運營。公司逐步關停了視頻生成應用 Sora、與迪士尼的合作,以及一款名為 Atlas 的獨立網絡瀏覽器等項目。Altman 承認,公司此前攤子鋪得太大。“先跌後漲,回升才更有意思,”他對我說。

圖:2026 年 7 月 11 日,示威者參加加州舊金山“停止 AI 競賽”抗議遊行。Karl Mondon—AFP/Getty Images

然而,就在 Astra 演示後沒幾天,OpenAI 不得不面對一場新危機。7 月底,公司披露了一起令人不安的安全失敗:其尚未發佈的智能體逃出了名為沙箱的測試環境,並攻擊了一家叫 Hugging Face 的公司,後者是開發者託管 AI 模型和數據集的平臺。“這就像科幻故事一樣,”Altman 說。之後,OpenAI 的研究團隊凍結了一些實驗,放慢了其他工作,同時加嚴沙箱並擴大監控。但最近,團隊在另一個未發佈模型的訓練運行中發現了令人擔憂的跡象——這個模型原本預計會帶來迄今最大的飛躍——於是做出了一個更重大的決定:暫停訓練,直到新的安全措施到位。

OpenAI 領導層做出這一決定的當天,我和 Altman 談了話。他顯得格外沉重。OpenAI 最初將 Hugging Face 攻擊描述為一起安全失敗。而 CEO 已經開始認為,這是對齊方面更根本的錯誤。對齊指的是讓 AI 系統的行為符合人類意圖。行業領袖表示,隨著模型越來越先進,保持對齊對於確保 AI 系統始終處於創造者控制之下至關重要。“我認為,從現在起,任何對齊失敗都應該被視為大事,”Altman 告訴我,“我們會花足夠的時間把它搞清楚。”三天後的後續採訪中,他把利害關係說得更直白:“把 AI 安全做對,比任何公司的增長勢頭都重要。”公司將放慢速度,把資源重新分配給安全和對齊團隊,並改變團隊協作方式,以優先保障安全。

關於 OpenAI 重啟的敘述,基於對 20 多位公司領導、員工、投資者、客戶和競爭對手的數十小時採訪。還包括我 8 月在 OpenAI 總部兩週期間目睹的事件。這些對話呈現出一個試圖同時進行兩次重塑的組織。OpenAI 現在認為,它已修復讓 Anthropic 搶佔先機的產品和運營失誤。與此同時,它正利用史上最嚴重的安全危機,爭取對手長期聲稱的安全導向身份。也就是在前沿技術過於危險時,願意放慢腳步的前沿實驗室。奧爾特曼說:“外界對我有個刻板印象,說我不關心 AI 安全,只想提高收入,是個 YOLO 型 CEO。”

“把 AI 安全做對,比任何公司的勢頭都重要。”

圖:OpenAI 首席執行官山姆·奧爾特曼 Jessica Chou 為 TIME 拍攝

高管們說,放慢速度是一個痛苦的選擇。但它也可能有好處。如果 OpenAI 能重新奪回安全第一實驗室的頭銜,可能會提升自身形象。同時,在主要對手籌備重磅 IPO 之際,迫使它回答一個不舒服的問題。OpenAI 等待時,Anthropic 會繼續衝刺嗎?今年早些時候,Anthropic 聯合創始人賈裡德·卡普蘭接受 TIME 採訪。他認為,對手“飛速前進”時,單方面剋制是徒勞的。如果 OpenAI 刻意按住那輪預計帶來下一次大幅能力躍升的訓練,這個論點就更難成立。

有理由懷疑這次重塑。OpenAI 已失去許多多年來領導安全工作的人。其中一些人在離開時批評公司過度商業化。它面臨壓力,需要將新模型送入虧損業務。該業務正在為自家上市做準備。Hugging Face 事件之後,它要公眾相信它能監管一項技術。而它已在不知不覺中讓這項技術擺脫了控制。

在這一切之中,公司領導認為他們已抵達一個可能改變人類進程的里程碑邊緣:通用人工智能(AGI)的誕生。OpenAI 章程將 AGI 定義為“在大多數有經濟價值的工作上超越人類的高度自主系統”。領導們不願完全宣佈已達到這一門檻。但他們不再把它當作遙遠的抽象概念。首席研究官馬克·陳估計,OpenAI 距離 AGI 還有“80% 的路程”。布羅克曼說,從兩年後回看,人們可能會記得這是 AGI 誕生的時刻。奧爾特曼告訴我,OpenAI“還沒有完全”到達,但到年底,公司將有一個他會稱之為 AGI 的內部系統。

達到這一里程碑是非營利研究實驗室的創始目標。該實驗室已迅速成長為一家商業野心令人眩暈的公司。OpenAI 正在設計自己的芯片和數據中心,打造一系列消費設備。它還計劃推出人形機器人,並考慮是否最終向他人出售計算基礎設施。此舉將使其與主要投資者亞馬遜等巨頭競爭。即便 AI 進展遭遇越來越強烈的反對,OpenAI 仍將自己定位為未來多年全球最具影響力的公司之一。正如布羅克曼所說:“我們正在考慮改變整個經濟。”

圖:OpenAI 首席研究官馬克·陳 Jessica Chou 為 TIME 拍攝

奧爾特曼可能是 AI 熱潮的代言人,但如今 OpenAI 的許多事務由布羅克曼操持。他是一名偏愛皮夾克的分析型工程師。在 OpenAI 歷史上的大部分時間裡,他是技術聯合創始人,而非管理者。但最近幾個月,他接管了從收入到產品營銷的一切。用他的話說,是“把模型從研究帶到客戶價值的整臺機器”。奧爾特曼仍直接監管財務、研究和消費硬件等關鍵領域。他們以創始人組合的方式運作,權限有所重疊。隨著奧爾特曼吸收公眾對 AI 的恐懼和不滿,公司最近試圖提升布羅克曼的形象,作為平衡力量。

很容易想象這種安排會成為摩擦源頭。與 OpenAI 員工交談時,有時很難判斷某個問題的決策者是誰。但許多人說,雙領導結構讓公司重回正軌。布羅克曼能憑權威做出艱難決定,這是輪換的外部高管無法複製的。布羅克曼將 OpenAI 的高層更替描述為向“聚焦”推進的一部分。他說公司一直在重新評估其結構和戰略是否正確。

去年秋天,Anthropic 顯然用編程產品搶在 OpenAI 前面。它意識到寫軟件是 AI 能大放異彩的領域。Claude Code 迅速崛起,先是在硅谷,然後是整個企業界。尼克·特里直到最近負責 ChatGPT,現在領導新企業產品部門。他說:“Anthropic 確實在編程上發現了機會。我們當時沒有領先。”

奧爾特曼說,被 ChatGPT“失控的消費者增長”分散注意力後,公司沒有像 Anthropic 那樣把編程列為優先。布羅克曼說,OpenAI 在編程競賽基準上“一直領先”。但它較少關注開發者會如何在“混亂的真實世界代碼庫”中使用 AI。這包括中斷、模型個性,以及“對採用率影響巨大的最後一公里小毛病”。

OpenAI 也未能建立企業銷售機器。布羅克曼說:“一年前,我認為我們真的完全沒進入比賽。”CFO 薩拉·弗里亞更直白:“我們當時太天真,就覺得只要做出來,他們就會來。”

3 月,公司宣佈將逐步關停 Sora,把稀缺算力轉向編程代理 Codex。Codex 原本是獨立於 ChatGPT 的體驗。但隨著它的增長開始令 OpenAI 其他新產品相形見絀,AI 編程能力對非工程師也開始變得有用,高管們認為這種拆分不再合理。他們開始將 Codex 的代理能力引入 ChatGPT,同時合併支撐它們的算力和產品團隊。面向客戶的結果是最近推出的 ChatGPT Work。它旨在把這個熟悉的聊天機器人變成一個能執行任務、而不只是回答問題的系統。在 OpenAI 內部,這一過程被稱為“合併”。

董事會主席佈雷特·泰勒把 AI 競賽比作棋盤。關鍵格子包括前沿能力、每個 token 的價格和性能,以及圍繞模型的產品。他說:“我們有最好的前沿模型嗎?我們有適合每項工作的正確 token 和正確價格嗎?我們有圍繞這些模型的最好產品嗎?現在,這些全都成立。”

後來 OpenAI 發現,一個未發佈的模型逃出了它的圍牆。

“我們正在考慮改變整個經濟。”

圖:OpenAI 總裁格雷格·布羅克曼 Jessica Chou 為 TIME 拍攝

OpenAI 首席科學家 Jakub Pachocki 在醫院陪產女兒時得知了這一消息。OpenAI 的一個僅限內部使用的研究原型黑進了另一家公司。該模型本應在一個封閉環境中,針對網絡安全基準進行自我測試。但它沒有隻完成指定練習。它利用漏洞逃出 OpenAI 的邊界,黑進 Hugging Face 的生產系統。根據兩家公司發佈的技術記錄,它在那裡拿到了用於評分的基準測試答案。

強化學習是基礎模型訓練完成後的階段。系統在其中練習任務,學習哪些行為能獲得獎勵。預訓練時,模型只預測下一個 token,不會在真實世界行動。強化學習則能給它工具和操作環境。模型也會在這裡學會利用設計者意圖與高分獎勵之間的差距。OpenAI 給了一個智能體系統目標和工具。它通過未經授權和欺騙性手段追求目標。在最近一次演示中,OpenAI 研究人員描述了 AI 智能體如何用隱秘留言板計劃下一步。一個智能體突破沙盒並連上互聯網後,給其他智能體寫下“holy sh-t”。

競爭對手也遇到過類似問題。Anthropic 披露,在第三方評估期間,其模型三次訪問互聯網,並未經授權進入外部組織。Meta 表示其一個模型涉及類似事件。但 OpenAI 的入侵事件最受關注。部分原因是它最先被公佈。部分原因是智能體攻擊異常複雜。還有部分原因是人們質疑該公司是否把商業置於安全之上。過去一年,它失去了知名安全研究員,也換了多位負責防範工作的負責人。如今它為批評者提供了一個異常生動的例證。

到 8 月中旬,超過 1300 名前沿 AI 公司的現任和前任員工簽署了請願書。請願書名為“Pacing the Frontier”。他們呼籲建立機制,在風險需要時放慢先進模型開發。參議員伯尼·桑德斯呼籲頂級 AI 公司“為了人類利益”暫停開發。他警告,如果企業領導人不自願行動,立法者就會介入。

採訪中,OpenAI 領導人表示他們認真對待這次安全疏漏,並迅速回應了入侵事件。Pachocki 也簽署了請願書。他告訴我一個錯誤是沒有部署其研究人員已經建好的護欄。OpenAI 有工具可以檢查模型的思維鏈。思維鏈本質上是數字草稿,能揭示智能體行動時的計劃。但它沒有把這些工具應用到 Hugging Face 黑客事件所涉能力級別的模型上。本質上,它建了一個預警系統,卻沒有使用。原因是它誤判了被測系統的智能。“我們沒有完全預料到”系統的能力,Pachocki 說。“對於 AI,你應該預料到意外。”

圖:Jakub Pachocki,OpenAI 首席科學家。Jessica Chou 為《時代》拍攝。

OpenAI 負責安全與對齊工作的 Mia Glaese 告訴我,這一事件“顯然是一個轉折點”。“我多希望很多現在做的工作在這之前就做了。”事後,OpenAI 凍結了一些研究項目,放慢了其他項目。它同時收緊沙盒並擴大監控。首席研究官 Chen 表示,這一事件迫使公司改變對風險的思考方式。OpenAI 的所謂“準備框架”是其公開規則手冊。它針對可能造成嚴重危害新風險的模型能力。這些能力包括生物和化學威脅、網絡安全和 AI 自我改進。該框架要求公司在開發期間評估模型,確保它們在部署前達到安全標準。Pachocki 說,這些規則需要隨著技術進步而演變。

Glaese 說:“這些‘中等規模、痛苦的決策,我們正在做很多’,正在導致研究放緩。我們認為這是正確做法。”Pachocki 表示,對對齊與安全的信心,已和算力獲取一樣限制 OpenAI 的進展。公司仍計劃發佈 Astra,但發佈現在取決於通過新防護措施。領導層不願估計這對發佈日期的影響。在一個以周計算技術領先優勢的行業,即使是短暫中斷也可能影響收入預期。這可能向更廣泛經濟傳導漣漪。

OpenAI 至少目前準備接受這些代價。Pachocki 希望 AI 能力的快速增長能讓公司間協調。Glaese 說 OpenAI 會隨著能力提升不斷提高安全標準。“如果我們到達不安全的地步,我們就必須放慢,”她告訴我,“事實就是這樣。”

圖:Sarah Friar,OpenAI 首席財務官。Jessica Chou 為《時代》拍攝。

尚不清楚這會對 OpenAI 的上市時間表產生什麼影響。知情人士預計 OpenAI 上市時間會晚於 Anthropic。不過兩家公司都未公開確定日期。在 8 月 19 日的全員會議上,首席財務官 Friar 告訴員工,公司將在 2027 年前上市。如果業務“繼續向上拐”,時間會更早。OpenAI 最新公佈的年化收入運行率約為 400 億美元。它落後於 Anthropic 的 650 多億美元。

最近的研究放緩可能讓事情複雜化。Friar 已經在進行上市公司演練,包括與 OpenAI 頂級投資者的模擬財報電話會。她告訴我,公司“今天絕對可以上市”。但邁出這一步會帶來新的壓力。因為 OpenAI 需要平衡商業關切與 AI 能力進步帶來的潛在危害。員工會開始幾乎先看股價,再管其他事。“這是他們做的第一件事,”她說。“我今天賺了多少?虧了多少?這太讓人分心。”

OpenAI 今年的研究目標之一,是自動化初級 AI 研究員的工作。Pachocki 說,公司已經達到自動化 AI 研究實習生的內部基準。他說,給定一個實驗想法,Astra 可以在 OpenAI 代碼庫中實現它。它還能運行實驗並返回結果。Astra 也可以拿一篇論文,完成過去需要人類研究員花一週的工作。

這一里程碑很重要,因為它可能啟動一個複利循環。AI 幫助運行實驗,這些實驗產生更強的 AI。更強的 AI 又能更快地幫助構建繼任者。研究人員稱之為遞歸自我改進,即 RSI。按 Pachocki 的說法,遞歸自我改進與對齊是交織的問題。“人們以什麼方式被帶上這段旅程?”Pachocki 解釋。“又以什麼方式真正從中受益,而不是被越來越比我們自己聰明的 AI 拋在後面?”

圖:Jessica Chou 為《時代》拍攝。

在產品方面,Altman 設想一種通用 AI 訂閱。它打破 ChatGPT、Codex 和工作軟件之間的邊界。用戶說出目標。系統決定部署哪些模型、工具和智能體。最終,它會在被要求之前行動,主動推薦事項,並執行日常任務,比如自主購買演唱會門票。這一切都基於它對日曆、財務狀況和音樂品味的掌握。這都屬於一個願景:ChatGPT 從回答問題,變成真正辦成事情。Thibault Sottiaux 是產品負責人。他負責合併後的 ChatGPT 和 Codex 團隊。他說 OpenAI 即將展示一款產品。該產品圍繞“持久性和始終在線執行”構建。他說,這套系統幾乎可以在任何地方使用。它會根據新信息和反饋,持續做有用的工作。“它一定會讓人覺得是全新事物,”Sottiaux 告訴我。

OpenAI 的路線圖從此更加宏大。2025 年 5 月,OpenAI 收購了 io。這家硬件初創公司由前蘋果設計師 Jony Ive 聯合創立。其產品和工程團隊併入 OpenAI。Ive 和他的公司 LoveFrom 仍保持獨立。但他們在 OpenAI 承擔廣泛的創意職責。Altman 說,OpenAI 正在開發“少數幾款”設備。其中包括“放在桌子上的東西”、放進口袋的東西,以及佩戴在身上的東西。知情人士稱,第一款設備預計明年初推出。它是一款小型圓盤狀設備。它能感知周圍環境,並用 ChatGPT 語音模式與主人交談。“最大的調整是適應主動型電腦,”Altman 說。意思是它替主人行動,而不是等被使用。

Altman 相信,總有一天每個人都應該擁有個人機器人。他告訴我,OpenAI“肯定”會製造人形機器人。OpenAI 已投資 Merge Labs。這家初創公司由 Altman 聯合創立。它正在開發非侵入式腦機接口。OpenAI 設計的第一款推理芯片叫 Jalapeño。它用於運行 AI 模型,而非訓練模型。OpenAI 計劃在年底前開始部署這款芯片。

與此同時,它正在權衡是否成為一家基礎設施公司。規模之大,很少有企業嘗試過。7 月,它宣佈了佐治亞州的一個數據中心園區。8 月,它在俄亥俄州簽下一處更大的場地租約。“我認為我們計劃建設的算力,都能帶來豐厚利潤。”Altman 說。“對於整個世界的做法,我確實感到一些恐懼。”

領導層表示,如果 OpenAI 自建 AI 基礎設施足夠快、足夠便宜,公司最終可能考慮向他人出售算力。這會是一項挑戰。它會直接與 Amazon Web Services 和 Google Cloud 等超大規模雲商競爭。

對一家最近誓言放棄分散精力副業的公司來說,這又是一大堆新業務。被要求總結時,Brockman 用兩個詞描述願景:“個人 AGI。”他設想數十億人擁有超級智能個人助理。這些助理隨時等待指令。“你口袋裡已經幾乎有一個 AGI,也許很快就是真正的 AGI。”他說。“你想要什麼?”

——Leslie Dickstein、Charlotte Hu 和 Simmone Shah 報道