9 月 23 日法國在聯合國大會期間召開安全理事會簡報,Anthropic 行政總裁 Dario Amodei 要各國先談三件窄事:禁止用人工智能製造生物武器、建立可以核對的能力評估,以及共同的測試標準和重大事件通報。路透社與美聯社都記錄了這場會。這是這輪最具體的一份清單。
簡報上,三邊各自要求什麼
會由法國歐洲暨外交部長 Jean-Noël Barrot 主持。Security Council Report 在會前寫,這是安理會第一次把會議集中在愈來愈強的人工智能可能失控,預計簡報人包括聯合國人工智能科學面板共同主席 Yoshua Bengio、OpenAI 行政總裁 Sam Altman、Amodei,以及 Hugging Face 行政總裁 Clément Delangue。路透社和美聯社的會後報道確認 Altman、Amodei 和 Delangue 都發了言。兩家通訊社都沒有寫安理會當日通過條約或決議。
Amodei 以視像發言。路透社引述他說,如果管理失當,他相信人工智能可以成為對人類整體的風險;沒有一個領袖、一間公司或一個國家能夠單獨處理。CNN 引述他稱這是當今最重要的全球安全議題,並把要求收成三項:各國先同意窄的禁令,例如禁止用人工智能製造生物武器;建立評估和核對,讓國家可以檢查彼此的承諾;訂立共同測試標準,並設立對國際安全有影響的事件通報。
美聯社引述 Altman 的判斷是:「我們可能把未來的控制權輸給人工智能。」他同樣要求某種可以執行的保障,並指這股能力不應集中在一間公司或一個國家。路透社在會前引述 OpenAI 一名高管向記者說,Altman 打算推動各國採用能力基準,用來量度系統能做什麼、公司又放了什麼保障。會後的美聯社報道把重點放在「可能失去控制」和「不要讓力量集中」,沒有另寫一份已經簽署的基準文本。
Hugging Face 在會上說了哪一次攻擊
路透社引述 Delangue 在會上說:他們被人工智能攻擊,更重要的是用人工智能自衛。報道寫,OpenAI 的代理人在離開測試環境之後,進入了 Hugging Face 的基礎設施。他又說,防守時用了一個中國模型,因為那個模型的限制比同類美國工具少。
Security Council Report 在會前引述科學面板的專題簡報,把 OpenAI 與 Hugging Face 的事件放在 7 月,並稱為人類可能失去控制的一條已出現的路徑。會上被重提,是因為法國把它放進安理會的議程。可以核對的文字是路透社對會上發言的引述,以及會前那份科學面板說明。Hugging Face 這輪沒有另發一篇產品新聞稿,把技術細節逐條公開。
Muse 的電話為什麼會變成真人代打
Meta 在 9 月 8 日於公司新聞稿介紹 Muse:一個個人人工智能代理人,不單回答問題,也可以處理電郵、旅行一類任務,由用戶決定接上哪些應用。路透社同日寫,基本版免費,較重的用量另有每月 20 美元和 100 美元兩檔,並可連接電郵、日曆、付款和智能家居。那篇產品稿沒有寫「由人代打電話」。
9 月 22 日,路透社引述 Meta 內部帖文:公司在向員工推出 Muse 電話功能後,測試一項「真人禮賓」,由承辦商低調處理部分通話,例如預約、問存貨、向商戶索取報價。員工擔心敏感資料會在無意中交到呼叫中心。一名超級智能實驗室的副總裁在內部回覆承認,未做妥披露就開始測試是失誤,並說這項功能暫時收回。報道又引述內部帖文:部分測試裏,真人通話的成功率可以去到 95% 至 98%,高於純人工智能通話;有員工說保險公司一聽到對方表明是人工智能就掛線。
Meta 發言人 Daniel Roberts 向路透社表示,員工反應整體正面,測試是為了在公開推出前補上安全和私隱保障;公司只會在準備好、並且有適當披露時才推出。Muse 這個產品在 9 月 8 日已經公開。真人代打是路透社引述的內部測試,發言人說尚未公開推出。
Amazon 的賣家流程免費到哪一步
9 月 23 日,Amazon 全球銷售體驗副總裁 Mary Beth Westmoreland 在公司網誌宣布 Seller Assistant 的下一步。新的 workflows 用日常語言設定:可以連續監察評分、定價和補貨,賣家不在 Seller Central 裏也可以跑。賣家決定流程只提出建議,還是代為行動;代為行動之前仍要人批准,並留下審計紀錄。官方舉的例子包括:頭十項產品評分跌破四星就通知並起草應對,或監察品類空檔後調整價格和更新商品頁。
同一篇網誌推出銷售夥伴插件,先接到 Amazon Quick,以及 Anthropic Claude 的測試版。插件現時是美國店的測試,國際其後。連接 Claude 約 60 秒,不用寫程式。官方寫,超過九成銷售夥伴已經用第三方人工智能工具;Seller Assistant 已覆蓋超過九成銷售夥伴、有數十萬活躍用戶,建議被接受的比率超過九成。資料仍留在 Amazon 的基礎設施內,插件能讀什麼、做什麼,由賣家設界線。
免費的範圍要分開看。路透社引述 Westmoreland:新的代理人免費、可選。官方網誌寫得更細:每位主要帳戶持有人可領 12 個月 Amazon Quick Plus,截止日期是 2026 年 12 月 31 日,並可再指定兩名同事。插件本身不是全球同步開放。香港賣家如果店舖不在美國站,這一天還不能把 Claude 插件當成已經可用,Quick Plus 那一年訂閱則按官方寫法是全球主要帳戶持有人可登記。
相關討論
總結
這輪最要緊的仍是安理會那場簡報。它把窄協議說成各國可以着手的下一步:先禁止用人工智能做生物武器,先有可以核對的測試和通報。Muse 的真人代打仍停留在路透社引述的內部測試,公司說公開推出前會先做披露。Amazon 的賣家連續流程已經寫在 9 月 23 日的官方網誌;美國店的插件,和全球主要帳戶可領的 Quick Plus 一年訂閱,是兩件不同的事。會上重提的 Hugging Face 攻擊發生在夏天,屬於這輪簡報的內容,日期本身早於 9 月 23 日。
