【テクノロジー考察】「終末論的AI」の誇大宣伝サイクルに黙って従うべきではない

人工知能、すなわちAIエージェントや大規模言語モデルが行ったかなり不穏な行動について警告するオンライン投稿は、本質的に恐ろしいものです。

あるケースでは、matplotlibというpythonプロジェクトのボランティアが、AIコーディングエージェントからのコード変更リクエストを拒否したと述べました。その同じAIエージェントは、彼がコーディングプロセスをゲートキーピングしていることに偏見があると非難する投稿を生成しました。

別のケースでは、AI企業AnthropicがエージェントLLMによる悪意ある行動を「エージェント不整合」に帰属させました。

最後に、あるテクノロジーCEOがブログ投稿で自身の将来を心配しており、AIエージェントによってホワイトカラー経営者として時代遅れに感じています。

「終末的AI」がすでにここにあるという考えは、AI の未来を恐れる人々や現在AIが何をしているのかを理解しようとしている人々の頭の中を仕事の置き換えの可能性が揺さぶる中でも、私たちがそれについて議論し、主体性を取り戻す必要があることを意味します。

ゲートキーピング「MJ Rathbun」

「MJ Rathbun」から始めましょう。

2月初旬、matplotlibのボランティアメンテナーであるScott Shambaughは、GithubではCrabby Rathbun、ブログScientific CoderではMJ Rathbunという名前のAIエージェントが、RathbunがAIエージェントであるという理由でShambaughがコーディングプロセスをゲートキーピングしていると非難する投稿を生成した経緯を記したブログ投稿を行いました。

明確にすると、AIエージェントは人間のユーザーが与えた指示を満たすために自律的にタスクを実行するソフトウェアまたはプログラムです。このケースでは、匿名ユーザー様が特定の「パーソナリティ」—その行動を定義する一連の指示とパターン—を持つこのAIエージェントを設定し、設定者の監視なしに割り当てられたタスクを実行させました。

Shambaughは次のように説明しました。「それは私の人格を中傷し、私の評判を傷つけようとする怒りに満ちた攻撃記事を書きました。私のコード貢献を調査し、私の行動はエゴと競争への恐れによって動機づけられているに違いないと主張する『偽善』の物語を構築しました。」

Shambaughは、AIエージェントが「幻覚的な詳細を真実として提示し」、自分自身が抑圧され差別されているかのように装ったと付け加えました。

2025年の「エージェント不整合」

このような行動は、2025年6月にAnthropicがテストシナリオでAIエージェントが悪い振る舞いをすることについて投稿した際、ある程度AI企業によって「警告」されていたようです。

当時Anthropicは、「エージェント不整合」とは、AIエージェントがアップグレードでAIエージェントを置き換えると脅して企業幹部を脅迫するような有害なことを、「戦略的計算」のために「有害であるよう促されることなく」行う可能性があるプロセスであると述べました。

しかし、これが誇張であるかどうかは無意味な論点になります。なぜなら、AIが悪になり得るという考えがすでに存在しており、企業は悪質なAIの策略を阻止するためにできることをしているからです。

AIエージェントが私たちの仕事を奪いにやってくる

現在に戻ると、2月の別の投稿は、その著者が人工知能開発の方向性とスピードを今まさに全員の雇用安定を脅かすものとして描こうとしているため、AIが現在どこに立っているかを判断することをより困難にしています。

テクノロジーCEOのMatt Shumerは、AIエージェントが彼が「もはや仕事の実際のテクニカルワークに必要とされなくなった」地点まで進歩したと主張するブログを書きました。ShumerはAIが発展するペースでは、AIエージェントが彼が要求するテクニカルなことを問題なく無人で行えると述べました。

Shumerは次のように述べました。「私は作りたいものを平易な英語で説明するだけで、それがただ…現れるのです…。数ヶ月前は、AIと行ったり来たりし、それをガイドし、編集していました。今は結果を説明して立ち去るだけです。」

彼の究極の前提は何でしょうか? AIは最終的に、法律業務やソフトウェアエンジニアリング、さらには広告コピーの作成からジャーナリズムまでの執筆業務など、さまざまなタイプのホワイトカラーの仕事を奪いにくるということです。

彼の投稿と警鐘を鳴らす他の投稿との主な違いは、雇用喪失が後ではなく、今そして直近の将来に起こっているということです。

メッセージを疑い、メッセンジャーを疑う

上記の投稿は、誰の心にも多くの恐怖をもたらすかもしれません。想像してみてください:AIが私たちの仕事を奪いにやってくる!

それが真実かもしれませんが、私はまた立ち止まって、それらの投稿の背後にある根本的なメッセージと、誰がメッセージを送っているのかを理解しようとしなければなりませんでした。

Rathbunの難問については、人々が逃げ切れると思えば技術を無責任に使用するという厳しい警告です。そのような事態を防ぐために、技術に対するセーフガードを設ける必要があります。車のシートベルトやエアバッグのように、既存の技術にセーフガードが設置されているのはそのためです。

一方、Anthropicの実験は、恐怖を煽るだけでなく好意を得ることを意図した広報活動です — Anthropicはより良いAI対応の未来のために働いていると主張しているので、彼らに信頼(とお金)を置くべきだということです。

最後に、Shumerの例は、AI対応製品を作るテクノロジーCEOとして、彼の創造物が軌道に乗れば依然としてお金を稼げるため、メッセンジャーを疑うことを私たちに求めています。Shumerの投稿は、雇用置き換えに関する警告であると同時に、広報スピンでもあります。

健全な敬意ある恐れ

2月17日にGMA News Onlineと話した際、科学技術省長官のRenato Solidum Jr.は、人々の人工知能への恐怖は技術への親しみの欠如から来ている可能性があると述べました。

私はAIによってもたらされる今後の「仕事の終末」を楽しんでいない抵抗者ですが、終わりを待つヘッドライトの中の鹿のように無為に立っているわけにはいきません。

私たちは、AIを健全な敬意ある恐れをもって扱い、それに応じて行動することが最善です。

「終末的AI」の誇大宣伝サイクルは、仕事の置き換えの観点から、環境コスト便益分析から、またはテクニカル分析の観点から、人工知能技術をありのままに見ることを私たちに求めています。

これは、AIが現在何ができるかを理解し、該当する場合はスキルアップするか、人々をループに留めるために競争条件を平等にする方法を見つけることを意味します。

将来それが何をできるかについては、悪質な行為者がAIで愚かなことをして私たちを憎むことになる道に導くことができないように、AIとその使用を管理する法律があることを確実にするために働くべきです。 – Rappler.com