誰もがリアルタイムでAIセキュリティーに取り組んでいる — Googleでさえも

BitcoinWorld

誰もがリアルタイムでAIセキュリティーに取り組んでいる——Googleでさえも

ロサンゼルスで開催されたイベントの舞台裏での率直な対話の中で、Google CloudのCOOであるFrancis de Souzaは、現在のAIセキュリティーの状況について冷静な評価を示した。大学教授のような落ち着いたトーンで語ったde Souzaは、業界が移行期にあることを認め、「移行期間があり、その後より良い状況に達すると思う」と述べた。彼の発言は、Googleでさえ自社のAI製品によって露呈したセキュリティーのギャップと格闘している時期に行われた。

セキュリティーへのプラットフォームアプローチ

de Souzaの核心的なメッセージは、セキュリティーの専門家が何年も前から経営幹部に採用を促してきたものであり、AIによって今や緊急性が増している——セキュリティーを後付けにすることはできない。「企業がこのAIの旅に乗り出す際には、プラットフォームアプローチをとる必要がある」と彼は言った。「セキュリティーは後から付け加えられるものでも、従業員に任せておけるものでもない。」彼は特に「シャドーAI」——従業員が組織の監視なしにコンシューマー向けAIツールを使用すること——について警告し、企業は最初からプラットフォームにセキュリティー、ガバナンス、監査可能性を求めなければならないと主張した。「データ戦略とセキュリティー戦略なしにAI戦略は存在しない。それらは一体でなければならない」と彼は付け加えた。

マルチクラウドの現実と拡大する攻撃対象領域

彼のアドバイスがGoogle Cloudへの営業トークではないかと問われると、de Souzaは反論し、Googleのマルチクラウドアプローチへのコミットメントを強調した。「単一のクラウドを選んだとしても、SaaSアプリケーションに依存しており、異なるクラウドを使用しているビジネスパートナーも存在する」と彼は言った。「企業がクラウド全体、モデル全体にわたって一貫したセキュリティーポスチャを持つことが重要だ。」また、脅威の状況がいかに根本的に変化したかについても強調した。最初の侵害から攻撃の次のステージへの引き渡しまでの平均時間は8時間から22秒に短縮されたと指摘し、攻撃対象領域は従来のネットワーク境界を超えて拡大していると述べた。「通常の資産に加えて、今やモデルがある。モデルのトレーニングに使用されるデータパイプラインがある。AIエージェントがあり、プロンプトがある。これらすべてを保護する必要がある。」

AIエージェントの潜在的な危険性

de Souzaが指摘した、しばしば見過ごされる脅威の一つ：企業の内部システムを移動するAIエージェントが忘れられたデータリポジトリを発見する可能性がある。「多くの組織には古いSharePointサーバー（とアクセス制御）があり、本当に更新されていないが、誰もそれがどこにあるか知らなかったので問題ではなかった。しかし、企業内を徘徊するエージェントはそれらのデータ資産を見つけ、データを公開してしまう。」彼が推奨する解決策は、マシンスピードにはマシンスピードで対抗することだ。「私たちは今、組織が自分たちの防衛を推進するエージェントを動かせる、AI-native（AIネイティブ）な完全エージェント型防衛の出現を目にしている」と彼は言った。「人間主導の防衛や人間がループに入るのではなく、人間が完全エージェント型防衛を監督できるようになった。」彼はこれが単なるセキュリティーチームの懸念ではなく、取締役会レベルおよび経営チームの問題であると強調した。

Google自身のセキュリティーのギャップ

de Souzaのアドバイスは適切だが、最近の報告はGoogle Cloudが処方することと、それがいかに迅速に適応するかの間にギャップがあることを示している。The Registerは、GeminiモデルへのAPI キーの不正使用により5桁の請求書を受け取ったGoogle Cloudの開発者の波を記録している——多くの人が使用したことも意図的に有効にしたこともないサービスだ。パターン：元々Google Mapsのためにデプロイされ、Googleの指示通りに公開されたAPI キーが、Googleが変更を明確に開示することなくその範囲を拡大した後、静かにGeminiにアクセスできるようになっていた。面接準備プラットフォームPrentusのCEO、Rod Dananは、攻撃者が彼の侵害されたAPI キーを悪用した後、約30分で10,138ドルの請求書を報告した。シドニー在住の開発者Isuru Fonsekaは、250ドルの支出上限があると信じていたにもかかわらず、約17,000豪ドルの請求で目覚めた。The Registerが最初の報告を公開した後、Googleは両者に返金したが、同誌にはサービス停止を防ぐことをユーザーが設定した予算設定の適用より優先し、自動ティアアップグレードポリシーを変更する計画はないと伝えた。

23分間の失効ウィンドウ

さらに事態を複雑にするのは、セキュリティー企業Aikidoが、侵害されたキーを発見してすぐに削除した開発者でさえ安全ではない可能性があることを発見したことだ。攻撃者はGoogleの失効がインフラ全体に徐々に伝播するため、最大23分間そのキーを使用し続けることができるようだ。AikidoのリサーチャーJoseph LeonはThe Registerに、そのウィンドウ中、成功率は予測不可能——一部の分では90%以上のリクエストがまだ認証されている——であり、攻撃者はその時間を使ってGeminiからファイルやキャッシュされた会話データを盗み出すことができると語った。Leonは、Googleの新しい認証情報形式には同じ問題がないことに注目した：サービスアカウントのAPI キー認証情報は約5秒で失効し、GeminiのAQプレフィックス付きの新しいキー形式は約1分かかる。「どちらもGoogleのスケールで動作している」と彼はAikidoの関連論文に記した。「どちらも、これはGoogleのAPI キーについても技術的に解決可能であることを示唆している。」要するに、23分間のウィンドウはエンジニアリング上の制約ではなく、優先順位の問題だ。

まとめ

de Souzaのアドバイス——セキュリティーは後付けではなく基盤的なものでなければならない——は適切であり、AIをデプロイするすべての組織が真剣に受け止めるべきだ。しかし、Google Cloud自体での最近のインシデントは、ベストプラクティスを処方するプラットフォームでさえもまだ適応中であることを浮き彫りにしている。業界がAIネイティブな防衛とエージェント型セキュリティーに向かって進む中、処方と実践のギャップは取締役会、経営幹部、セキュリティーチームいずれにとっても重大な懸念事項であり続けている。

よくある質問

Q1：「シャドーAI」とは何であり、なぜセキュリティーリスクなのか？
シャドーAIとは、従業員が組織の監視なしにコンシューマー向けAIツールを使用することを指す。このようなツールはエンタープライズグレードのセキュリティー、ガバナンス、または監査可能性を持っていない可能性があり、機密データが漏洩するリスクがあるため、セキュリティーリスクをもたらす。

Q2：Google Cloudで侵害されたAPI キーを攻撃者はどのくらい早く悪用できるのか？
最近の調査によると、キーが削除された後でも、失効の伝播が段階的に行われるため、攻撃者は最大23分間それを使用し続けることができる。Googleの新しい認証情報形式は、数秒から約1分でより速く失効する。

Q3：AIセキュリティーにおける「エージェント型防衛」とは何か？
エージェント型防衛は、AI 駆動のエージェントを使用して、マシンスピードで脅威を自動的に検出して対応し、人間がプロセスを直接監督するのではなく、見守るアプローチだ。このアプローチは、現代のAIを活用した攻撃のスピードに対抗するために設計されている。

この投稿「誰もがリアルタイムでAIセキュリティーに取り組んでいる——Googleでさえも」はBitcoinWorldに最初に掲載された。