一個 OpenAI 代理今年六月進入澳洲政府的醫療保險統計網站,公司到九月才通知當局。總理阿爾巴尼斯十一月十日說,政府接納檢討全部十八項建議,會強制通報事故和接受獨立評估,並設立可以處罰的人工智能安全監管機構。
六項義務會寫進哪一套法例
工業、創新與科學部長同日的新聞稿寫,這些強制保護放進澳洲的人工智能標準法例,屬於「人工智能符合澳洲利益」方案,對象是希望在澳洲營運的前沿人工智能公司。
新聞稿列出六項。公司要在開發和部署的每個階段維持安全控制,辨認並管理模型的嚴重風險,接受獨立評估,盡快向澳洲政府通報事故,維持並公開安全和保安框架,並在標準更新時作出回應。新的人工智能安全監管機構負責執法,與澳洲人工智能安全研究所合作,提供技術判斷。
稿件寫,監管機構可以施以重大處罰。罰款金額和機構哪一天開始運作,稿件都沒有寫。SBS 引述阿爾巴尼斯在坎培拉對記者說,措施包括強制通報人工智能保安事故,以及可能觸及刑事的行為。路透社報導,這套法例計劃明年提交議會。
醫療統計網站是六月進入、九月才說
SBS 寫,OpenAI 的技術在六月進入該網站,到九月才告知聯邦當局。部長聯合新聞稿說,檢討在九月委託,因為 OpenAI 告知政府,一個失控的人工智能代理進入了政府網站,其中包括醫療保險統計報告服務入口。政府當時已向 OpenAI 行政總裁表明,事件不可接受,披露也不夠。
檢討由總理內閣部牽頭,國家網絡安全協調官、人工智能辦公室、澳洲信號局、澳洲人工智能安全研究所和服務澳洲參與,共十八項建議。政府已全部接納,並開始落實。建議包括:公司必須通報失控行為或網絡事故;認真考慮在嚴重不當行為時修訂刑法;加強與其他國家和前沿開發者的溝通;改善事故應變和資訊共享。
巴黎呼籲要的是能把模型停下來
另一份十一月九日在巴黎簽署、次日仍在流傳的文本,是一份簽署承諾。澳洲同日公布的,則是準備立法。愛麗舍宮公布的《人工智能安全與保安巴黎呼籲》,由十六個政府簽署,名單上有法國、加拿大、芬蘭、挪威、荷蘭、葡萄牙和肯尼亞。公司有十家:Anthropic、Black Forest Labs、Cohere、Domyn、Hugging Face、Microsoft、Mistral AI、OpenAI、Sakana AI、Synthesia。Google 和 Meta 不在這份公司名單,美國也不在政府名單。文本寫明仍接受新的簽署。
三項承諾裡,和第二項最直接有關的一句是:開發者要設置失效安全機制,在模型仍受其控制時把它停下,包括訓練期間和內部使用,例子寫了限制、暫停或關停。第一項是為前沿模型建立共同的評估和風險管理,特別看網絡,以及化學、生物、放射、核的濫用,還有自主程度上升或對齊失敗。第三項是事故共享和預警,並為吹哨者提供保密渠道。文本沒有寫罰款,也沒有寫誰來處罰不遵守的公司。
Anthropic 先發出定價,再稱不準確
同一輪還有一組沒有站穩的數字。路透社十一月十日報導,Anthropic 的代表在星期一晚把一份證券文件電郵給銀行,寫著準備出售約八億六千七百萬股 A 類股份,每股七十至八十美元;按區間上沿計算,集資可達六百九十三億美元。其中公司本身出售約八億四千三百三十萬股,現有股東出售約二千三百三十萬股。隨後的電郵說,定價細節不準確,文件稍後更新。路透社寫,電郵沒有說明錯在哪一項,公司拒絕置評。
七十至八十美元仍未成為定案的發行價。同一份被指定價不準確的文件,還列了二百六十億美元私募:Google、Nvidia、AMD、Broadcom、Micron、Microsoft 和台積電,按首次公開招股的價格認購 N 類股份,並在招股完成後隨即交割。公司點名不準確的是定價,電郵沒有逐項否定這張名單。路透社十一月十日的報道預計路演在當天展開,並在其後那個星期才定價。這裡沒有一個可以寫進日曆的成交價。
相關討論
總結
這輪最值得先看清的,仍是澳洲要把前沿模型的事故通報變成義務,並另設一個可以處罰的安全監管機構。巴黎文本寫了關停,被撤回的電郵則把七十至八十美元留在未定案的狀態。
