OpenAI 在 11 月 20 日的公告裡,把「從較早一個請求抽走受保護推理」的平均成功率,由 GPT-6 Astra 原有防護的 54.0%,寫到 GPT-6.2 Astra 更新防護的 0.2%。同一條請求當下的抽取,則由 22.9% 降到 0.9%。兩類在更新防護下都低於 1%。這則公告要回答的,是模型內部那段不交給使用者的推理,還能不能被成批抽走。
0.2% 量的是還能不能把推理過程抽出來
測試叫做自適應黑箱評估。攻擊方看到的介面,和外面使用者看到的是同一種;系統怎樣回應,測試會跟著調整。數字是六個攻擊模型的平均。OpenAI 寫明,較低的成功率代表較難抽走。
| 抽的是哪一段 | GPT-6 Astra 原有防護 | GPT-6.2 Astra 更新防護 |
|---|---|---|
| 較早一個請求裡的受保護推理 | 54.0% | 0.2% |
| 當下這個請求的受保護推理 | 22.9% | 0.9% |
公告同時寫道,選定的防護改進正在套回 GPT-6 Astra。0.2% 和 0.9% 描述的是更新後的 GPT-6.2 Astra。套回較早模型的部分,這頁沒有另給一組新數字。
完整推理會把能力一起帶走
受保護推理,指模型在給出最後答案之前、內部生成、通常不原樣交給使用者的那段過程。公告說這段常常比最後答案多出內容,因此有人會想拿去訓練另一個模型。蒸餾本身是常見技術。這次講的是未經授權的對抗性蒸餾:用前沿模型的輸出,訓練一個能力接近、但防護較弱的模型。
文中有一項內部研究,看程式和防禦性網絡安全任務上的能力,會不會跟著推理過程一起被學走。比較的是兩個學生模型,起點是同一個預訓練模型。一組只拿到使用者通常看得到的內容,包括最後回答、推理摘要和工具互動。另一組拿到教師模型的完整推理。監督微調之後,完整推理那一組整體較高。再加一輪輕量強化學習之後,在測過的最大推理預算上,完整推理仍然較高;在較小預算上,摘要那一組較高。他們由此寫道,保住推理過程,可以限制這類能力被帶走。公告沒有附上可以照做的步驟。對日常使用這些模型的人,這頁把重點放在受保護推理會不會被抽走,再拿去訓練另一個防護較弱的模型。
他們把推理綁回產生它的那串對話
防護分成兩層。單次請求靠模型行為、分類器和 API 控制。活動層面則從請求和帳戶模式找出協調抽取,再對違規帳戶作出限制。GPT-6.2 Astra 和 GPT-6.2 Sol 把受保護推理綁在產生它的那段對話上。新訊息可以接住先前的推理。較早的訊息一旦被改寫,其後的推理會被丟掉。較舊、防護較弱的模型家族,不能讀取這兩個模型的受保護推理。
同一篇文章回顧了今年的執法規模:每週針對這類活動的帳戶行動,由數千到數萬個帳戶,夏天之後明顯增加。2 月他們曾向美國國會簡報,認為 DeepSeek 試圖蒸餾美國前沿模型。9 月的報告把一批抽取活動的核心,連到與 Moonshot AI(Kimi 的開發者)相關的人。這兩個日期屬於回顧。11 月 20 日公布的是這次測量。公告另說,近期還有被中斷的活動,細節稍後再講,頁上沒有名單。
Anthropic 交割的是股份,不是再報一次收市價
同一天,Anthropic 宣布首次公開發行完成交割。A 類普通股合計 1,127,000,000 股,發行價每股 83.00 美元,包含承銷商全數行使的額外 147,000,000 股。其中公司售出 1,103,351,354 股,原有股東售出 23,648,646 股。扣除承銷折扣和發行費用之前,毛收入約 935 億美元,其中約 916 億美元歸公司。原有股東售股的收入不歸 Anthropic。
股票已於 11 月 19 日在納斯達克全球精選市場以代號 ANT 開始買賣。11 月 20 日這則交割公告沒有再列開市價或收市價。同期私募交割 313,253,007 股無表決權的 N 類普通股,每股同樣 83.00 美元,買家為 AMD、Broadcom、Google、Micron、Microsoft、NVIDIA 和 TSMC Partners,總購買價約 260 億美元。這批 N 類股沒有按 1933 年美國證券法註冊。公開發行(含原有股東售出的部分)加私募,扣除折扣和費用之前合計約 1,195 億美元。主承銷商是 Goldman Sachs 和 Morgan Stanley。公告寫明,這則消息不構成出售要約,也不構成招攬購買。這裡只整理交割數字。
MedChemBench 的 84.5% 對的是 GPT-6.2 Astra
OpenAI 同日公開 MedChemBench。它用已發表研究裡的 99 道題,看模型能否把分子結構和實驗證據連起來,用來解釋結果、比較化合物、預測性質。題目來自 117 篇論文和專利,涉及 761 個不同分子結構。這是評分基準。頁上沒有把它寫成合成步驟,也沒有說模型可以代替實驗室。
在 xhigh 推理設定下,GPT-6.2 Astra 拿到可用分數的 84.5%,GPT-6 Astra 為 83.3%,GPT-6.1 Sol 為 82.0%,GPT-5.6 Sol 為 58.2%。同文後段又寫,他們測了十一個模型;在共用的 xhigh 上,稱為 Astra 的全卷是 83.3%。84.5% 對應 GPT-6.2 Astra,83.3% 對應文中稱為 Astra 的那一欄,兩個數字不要加成一個總分。結構部分在 xhigh 上,Astra 為 95.4%。95.4% 只計算結構重建這一項。99 題全卷是上面的 84.5% 與 83.3%。GPT-6 Astra 被寫成較擅長重建結構和解釋實驗證據;選擇化合物和預測數值性質,對該模型較難。
總結
這一輪最值得先讀的,仍是 OpenAI 把抽取受保護推理的成功率壓到 1% 以下。Anthropic 同日完成的是上市交割,MedChemBench 則給出一套藥物化學題的分數。三則都記在 11 月 20 日。讀的時候把測量、募資和評分分開即可。
相關討論
