Sam Altman 就 OpenAI 與國防部具爭議性合作協議的 AMA 摘要

週五深夜,當中東地緣政治緊張局勢演變為公開衝突之際,Sam Altman 在 X 平台上宣布了一項交易,這是科技界長期以來所擔憂的,但很少有人預料到會如此突然地成為現實。

OpenAI 已正式與美國國防部(DoW)簽署協議,在軍方最敏感的機密網絡中部署其前沿模型。 

這項宣布立即引發了混亂的軒然大波。幾分鐘內,該討論串成為「取消 ChatGPT」標籤、國家安全專家尖銳質詢以及出賣人類未來的煽動性指控的戰場。

對於一家建立在確保 AGI 造福全人類原則之上的公司來說,轉向成為主要國防承包商,感覺就像是該產業道德格局的重大轉變。

這一突然轉變的背景與交易本身一樣戲劇性。就在 Altman 宣布前幾小時,川普總統發布了一項全面性行政命令,指示所有聯邦機構立即停止使用 Anthropic(OpenAI 的主要競爭對手)的技術。

國防部長 Pete Hegseth 將 Anthropic 標記為「國家安全供應鏈風險」,這一稱號通常保留給像華為這樣的外國對手。

據報導,Anthropic 拒絕向五角大廈授予對其 Claude 模型的無條件訪問權限,堅持契約「紅線」,禁止該技術用於國內大規模監控或完全自主致命武器。

Sam Altman,OpenAI 執行長

OpenAI 填補了競爭對手離開後留下的真空。雖然政府要求 AI 模型可用於「所有合法目的」,但 OpenAI 將其進入定位為精緻的妥協,而非屈服。 

在他的 Ask Me Anything(AMA)中,Altman 主張 OpenAI 獲得了 Anthropic 所尋求的相同安全防護措施,但透過多層次方法而非最後通牒來實現。

透過同意在現有法律框架內運作,引用第四修正案和《地方民兵法》,OpenAI 有效緩解了一場對峙,該對峙威脅著在一場活躍戰爭期間讓美國軍方失去前沿 AI 能力。

OpenAI Altman 討論串的重點摘要

該討論串迅速從企業公關轉向對 AI 戰爭倫理的原始辯論。其中一個最受歡迎的問題針對 OpenAI 使命的根本轉變:為什麼從「人類改善」轉向國防合作?

Altman 的回應具有其特有的務實風格:「世界是一個複雜、混亂且有時危險的地方。我們相信負責保衛國家的人應該能夠使用最好的工具。」

Altman 詳細說明了旨在防止 AI 成為自主執行者的技術保障措施。 

這些措施包括「僅雲端」部署策略,防止模型直接嵌入邊緣設備或武器硬體,以及部署「現場部署工程師」(FDEs)來監督機密使用。 

然而,討論串仍持懷疑態度。批評者指出社群註解強調,根據《美國愛國者法案》,「合法使用」仍可能包含大規模數據收集。

當被問及 AI 導致全球災難的可能性時,Altman 異常簡短,暗示國家安全合作實際上可能透過讓國家和開發者保持一致來降低風險。

其中一個最具啟發性的交流涉及治理問題。當被問及聯邦政府是否最終可能將 OpenAI 國有化時,Altman 承認:「我當然考慮過這個問題,但在目前的軌跡上似乎不太可能發生。」

這一承認幾乎沒有安撫那些將國防部更名和 Anthropic 列入黑名單視為國有 AGI 第一步的人。

倫理、先例與失控

這項交易的影響遠遠超出單一合約。透過接受其競爭對手的供應鏈風險認定,OpenAI 隱含地驗證了一個世界,在這個世界中,政府可以根據公司對軍事效用的意識形態承諾來挑選贏家和輸家。

正如 Altman 所承認的,這樹立了一個令人擔憂的先例,私營企業可能感到被迫降低其倫理防護措施,以避免被標記為國家安全威脅。

從倫理角度來看,人在迴路中的要求仍然是最具爭議的一點。

雖然 OpenAI 堅稱人類將保留使用武力的責任,但討論串中的國防專家指出,目前的國防部政策(指令 3000.09)對於在高速數位戰鬥中什麼構成有意義的人類控制存在著眾所周知的模糊性。 

Sam Altman

如果 AI 處理目標數據的速度比人類眨眼還快,那麼人類真的在迴路中,還是僅僅是機器決策的橡皮圖章?

AGI 失控的風險不再是遙遠未來的理論問題;而是這些模型在機密戰爭的高風險環境中將如何表現的問題。

另請閱讀:OpenAI 從 Amazon、NVIDIA 和 SoftBank 籌集創紀錄的 1,100 億美元以推動 AI 發展

隨著 AMA 結束,在 OpenAI 用戶記憶中的 Altman 形象不再是一位滿懷憧憬的科技遠見者,而是一位在硬實力世界中航行的數位外交官。 

他留給討論串一個發人深省的結論:中立 AI 開發的時代已經結束。OpenAI 與國防部整合的決定標誌著新篇章的開始,在這個篇章中,AGI 被視為國家的戰略資產,而非全球公共利益。

本文 Sam Altman 關於 OpenAI 與國防部爭議性協議的 AMA 摘要 首次發表於 Technext。