AI安全報告書が業界に現実を突きつける——そして誰もが最も厳しい試験で不合格となる

ニューヨーク、7月8日 — 米国の人工知能ラボであるAnthropicが新たなグローバルAI安全性ランキングで首位となったが、火曜日に発表された報告書は、業界全体として高度なAIがもたらす「存在論的」リスクへの対応において依然として不十分であると警告した。

Metaはランキングで2つ順位を上げて4位となり、xAIは3つ順位を下げて7位となった。これは中国のDeepSeekと最下位だったフランスのMistralのすぐ上である。

このランキングは、世界をリードする9社のAI企業を評価した米国拠点のAI安全性シンクタンク「Future of Life Institute」によって作成された。

7人の研究者およびガバナンスの専門家が、公開情報および各社が提供したデータを用いて企業を評価した。

彼らは、リスク評価、現在の害、安全フレームワーク、存在論的安全、ガバナンスと説明責任、情報共有という6つのカテゴリーにわたってパフォーマンスを評価した。

どの企業もいずれのカテゴリーで「A」評価を受けることはなかった。

Anthropicは「C+」で総合最高スコアを達成した。

ランキングに初登場したMistralはこの評価に異議を唱えた。

AFPから最下位について問われた同社は、報告書のフレームワークが自社のAI開発アプローチに適していないと述べた。

主にクローズドなAIシステムを開発するAnthropic、OpenAI、Google DeepMindなどの競合他社とは異なり、Mistralはユーザーがダウンロードして修正できるオープンモデルに焦点を当てている。

「彼らが最下位だったことに非常に失望しました。特に欧州は真に...AI安全性のリーダーであったからです」と、MIT教授兼Future of Life Institute理事長のMax Tegmark氏は語った。

「私たちは何度も連絡を取りました」とTegmark氏は付け加え、Mistralは同団体の調査に応答しなかったと述べた。

同団体によると、Alibaba、xAI、DeepSeekも参加を拒否した。

オープンモデルを生産する3社の中国AI開発者もリストの下位半分にランクインした：DeepSeekが5位、Alibaba Cloudが6位、Z.aiが8位。

『疑わしい』慣行

報告書は、以前は軍事利用を許可しないと誓約していた複数の企業が、その後その立場を軟化させたとした。

報告書は、「疑わしい軍事的関与」と表現される点について、特にAnthropicを批判した。

各種メディアの報道によると、米国政府は過去1年間にベネズエラとイランに関わる軍事作戦中にAnthropicの技術を使用した。

同社はまた最近、AI安全性に関する意見の相違からペンタゴンによって禁止されたが、その制限は後に解除された。

報告書は、9社すべてが人工一般知能（AGI）、つまり人間レベルの知能に匹敵する能力を持つAIシステムに関連する「存在論的」脅威に対処するための準備が依然として不十分であると結論付けた。

研究者たちは「建設的な試みは存在する」と認めつつも、業界全体の取り組みは「完全に不十分」であると述べた。

報告書はまた、高度なAIが悪用されてサイバー攻撃を実行したり、人々に有害な任務遂行に使われる可能性についての懸念を強調した。

Anthropicは最近、これまでで最も強力なAIモデルであるMythosを発表し、注目を集めた。

サンフランシスコに拠点を置く同社は、4月にはそのサイバー能力が悪意のあるアクターによって悪用される懸念から、信頼できる少数の組織のみに対してモデルを利用可能にした。

6月12日、米国政府は国家安全保障上の理由から、AnthropicがMythosを海外ユーザーに公開することを阻止した。

トランプ政権は6月30日にこの制限を解除した。 — AFP