カーテンの裏側：テスラの誇張された統計とAI駆動能力の誇示

全2回の第2回
第1回

テスラの従業員がFSDの失敗動画を見守る中、同社の取締役会とCEOはこの技術の安全性と完全自律走行への準備が整っているとする主張をエスカレートさせた。昨年の大半を通じて、テスラの幹部たちは「10倍安全」という主張を広め続けた。

「FSDを搭載した車が10倍安全であること」は販売を促進すると、テスラのCFOタネジャは7月の決算発表で述べた。「月額99ドルでも、1日わずか3.33ドルで専属運転手を雇えるようなものだ。」

テスラの手法における重大な問題は、同社が主張する安全性水準を3倍に膨らませた比較上の誤りに起因している。同社はエアバッグが展開したテスラの事故件数を集計し、それをレッカー車が車両を撤去したすべての事故に関する連邦データと比較した——これははるかに制限の緩い基準だ。レッカー車が必要な事故は、エアバッグが作動するほど深刻でないことが多い。

テスラは比較用のデータが手元にあったにもかかわらず、このような「りんごとオレンジ」の比較手法を採用した。実際、テスラが使用した連邦データにはエアバッグが展開した事故も含まれていた。この欠陥のある手法から導き出されたのが、FSDまたはオートパイロットを使用するテスラが平均的な人間ドライバーより10倍長い距離を事故なく走行できるという結論だ。

より妥当な比較——テスラと他のすべての車でエアバッグが展開した事故を使用——では、運転支援システムを使用するテスラはエアバッグが展開した事故間の走行距離が約3倍長いことがわかった。これはミシガン大学交通研究所の研究科学者補佐であり元NHTSA統計学者のマルコ・ベネデッティがロイターのために行った分析による。他の2人の交通安全研究者がベネデッティの計算を検証し、この結論に同意した。

しかし、それはFSDが実際に平均的なドライバーより3倍安全であることを意味するわけではないとベネデッティは述べた。テスラの手法には他にもいくつかの欠陥があるためだ。

テスラは11月に手法を修正し、FSDを使用する車両のデータのみを含め、オートパイロット搭載車のデータを除外するようにした。オートパイロットを含めると、テスラが主張する事故間走行距離が増加していた。これはオートパイロットが高速道路専用の、より単純なシステムであるためだ——高速道路では車が多くの距離を走行し、市街地に比べて事故が大幅に少ない。しかし同社はウェブサイト上で、依然としてエアバッグ事故比較の欠陥ある手法を使い続け、FSDは平均的な人間ドライバーより7倍安全、つまり変化率で約85%安全だと主張している。

テスラが採用する他のいくつかの欠陥ある測定方法も、FSDが本当に安全かどうかに疑問を投げかけていると、ロイターは明らかにした。

例えば同社は、自社車両の事故率を全国平均と比較する際に車両の年数を考慮していない。テスラはS&Pグローバル・モビリティのデータによれば平均車齢わずか4.1年の自社車両を、平均車齢12.8年の米国のすべての車両と比較している。これが結果を歪めると10人の安全研究者がロイターに語った。なぜなら、ほぼすべての自動車メーカーが最近、ブラインドスポットモニタリングや自動緊急ブレーキなどの画期的な安全機能を全ラインナップに導入し始めているからだ。

テスラはまた、FSDがオンの状態、またはFSDをオフにしてから5秒以内に発生した事故のみを計上することで、事故集計数を減らしている。これに対し米国政府は、先進運転支援システムが非作動となってから30秒以内に発生した事故を報告するよう自動車メーカーに義務付けている。

テスラはFSDが年間3万2,000人以上の命を救い、190万件以上の負傷を防げると主張している。一部の交通安全研究者はこれらの数字を無意味だと指摘した。なぜならこれらは、貨物トラックや事故が起きやすいオートバイを含む米国のすべての車両がFSD搭載のテスラ車に置き換えられ、すべてのテスラ車が実際に代替する車両より少なくとも7倍安全であるという非現実的な仮定に基づいているからだ。

Waymoのより厳密なアプローチ

テスラの安全統計の前提にも欠陥があると10人の交通安全研究者は指摘する。FSDは真の自律システムではないからだ。テスラは幹部が言うように自社の技術を人間ドライバーと比較しているわけではない。実際には、平均的な人間ドライバーをFSDを使用してテスラを運転する別の平均的な人間と比較しているのだ。テスラはまた、ドライバーがFSDをオン・オフできるという点も考慮していない——研究によれば、ドライバーは複雑な交通状況でテクノロジーが不安全と感じる場合、先進運転支援システムの使用を避けることが多い。テスラ自身のデータでも、FSDは主に高速道路で使用されていることが示されている。

これに対しAlphabetのWaymoは、現在米国11の都市圏に展開している完全無人のロボットタクシーを、同様の条件下での有人車両と比較している。

Waymoはテスラよりも厳密なアプローチを取り、自社が運営する市場の事故データを調査し、ロボットタクシーが走行する道路や地域の種類に応じて調整を行っている。Waymoはエアバッグの展開や重傷を伴う事故など、自社の車両と同一市場の有人車両について特定の事故率に焦点を当てている。

「使用する言葉には細心の注意が必要です」とWaymoの安全研究者ジョン・スキャンロンは語った。「非常に具体的な研究課題と非常に具体的な結論が必要です。」

Waymoはまたデータの欠点を指摘し、外部研究者と協力して安全統計を査読付き学術誌に掲載している。テスラは対照的に、査読を求めず、上位の統計的安全主張のみを公表する一方、テスラ車の基礎となる事故データは非公開にしている。

テスラが犬・猫・鹿に衝突する映像

テスラ社内では、データラベラーたちがFSDの安全性の実態をありのままに目撃している。元従業員3人は、テスラが動物を認識できずブレーキをかけることなく高速で衝突する動画が複数あったと証言した。

元従業員5人は、FSDがスクールバスを認識する際の問題に特化したチームがあったと述べた。これはDawn Projectという技術安全グループが提起した懸念でもある。同グループは2023年と2024年のスーパーボウル中に、FSD搭載のテスラが一時停止サインと点滅ライトのあるバスに止まれないことを示す動画を広告として放映した。

元従業員2人は、テスラ社内でも同様の映像を見たと語った。

元データラベラー5人は、マスクとFSDエンジニアの指示に基づいて優先事項が頻繁に変わる、慌ただしくまとまりのない職場環境を描写した。データラベリング部門は単調な作業と全般的に低い賃金から慢性的な離職率に悩まされていたという。

テスラの上層部はFSDのミスを示すニュース報道やソーシャルメディアの投稿に反応して新たなプロジェクトを立ち上げることが多かったと、元従業員4人は述べた。そのうちの1人は、日光が車の外部カメラを遮る問題に対処する取り組みについて説明した。これは乗客の時計に反射した光がカメラの1つを遮りFSDが停止する様子を示したソーシャルメディアの動画がきっかけだった。また、FSD搭載のテスラが踏切で停車できないというニュース報道を受けて、踏切に関する別の取り組みも始まった。

FSDの映像には速度超過も定期的に映っていたと従業員5人は述べており、エンジニアや上位の人員はそれを優先度の低い問題として扱っていた。

ある従業員によると、テスラがより攻撃的な運転を可能にするFSD「マッドマックス」モードを導入した後、ラベラーたちはテスラが制限速度を時速20〜30マイル超えて走行する様子を定期的に目撃したという。別のラベラーは、時速25マイル制限の区間をFSD搭載車両が時速60マイルで走行する様子を見たと報告した。

公開ロボットタクシー発表

テスラの従業員がFSDの訓練に苦闘する中、マスクは2024年10月、ロサンゼルス近郊のワーナー・ブラザーズのスタジオでの華やかなロボットタクシー発表会でテスラの自動運転能力を誇示した。招待客のみの群衆は、マスクがステアリングホイールもペダルもない2ドアの「サイバーキャブ」のプロトタイプ約20台がスタジオ内を這い回るのに向かってジェスチャーする中、歓声を上げた。

「車が人なしで走っている」と彼は語った。

マスクはテスラのソフトウェアがリアルタイムで未知の環境を走行し、どこでも機能するよう設計されていると述べてきた。しかし元データラベリング従業員2人によると、サイバーキャブイベントに先立つ数週間、スタッフは毎晩午後6時から夜明けまでプロトタイプをテストし、発表会で車が走行するルートの動画を収集していた。ラベラーたちは恥ずかしい事故を防ぐために、動画上の縁石や道路標示に数百時間をかけてアノテーションを施したという。

Waymoは特定の都市でサービスを開始する前にこのようなマッピングを大規模に行っているが、マスクはこのアプローチをコストがかかりすぎて遅すぎると繰り返し批判してきた。マスクは2024年にWaymoの「非常に局所的なソリューション」を「かなり脆弱だ」と嘲笑した。

ワーナー・ブラザーズのイベント後、マスクは2025年1月の決算発表で、テスラが2025年6月にオースティンでロボットタクシーを開始すると宣言した。彼はこの技術を「特定の地域の高精度地図」を必要としない「汎用AIソリューション」として称えた。

しかしオースティンでの開始に先立つ数ヶ月間、テスラは限定されたロボットタクシーゾーン内の特徴を大規模に撮影してエリアをマッピングし、信号機、道路標識、その他の特徴を記録した。この件に直接詳しい従業員2人によると、データラベラーはその動画にアノテーションを施し、乗客のピックアップや緊急車両への対応を含む困難なシナリオにソフトウェアが対処できるよう確保した。

ユタ州のデータラベリングスタッフは、従業員3人によると、オースティン開始の半年前に約300人に倍増したという。この部門は主に、厳密に管理されたオースティンテストを円滑に進めるためのプロジェクトに取り組んでいたという。

テスラのデータラベラーたちがロールアウトの準備を進める中、ソフトウェアはまだ不安定な状態だったと従業員2人は述べた。FSDのアップデートごとに一部の運転挙動は改善した。一方で悪化するものもあった。ユタ州のオフィスには2台の大型スクリーンがあり、FSDのドライバー介入間の走行距離に関する統計——自律走行の安全性の重要な指標——が表示されていた。

「一貫した改善もなく株式市場のように上がったり下がったりしていた」と元従業員の1人は述べた。

車両は2組の人間の安全監視員が制御を引き継げる状態で路上に出た。1人は助手席に座り、他の者は遠隔で監視していた。ユタ州では、ラベラーたちは遠隔監視員が車両を引き継ぐ瞬間を動画で確認できた。元従業員の1人によると、オースティンのルートは限られたエリア向けに設計されており、車のソフトウェアが特定の道路における特定の操作を徹底的に訓練できるようにしていたという。

「まるで『OK、限定ゾーンで走れるよう車を訓練した』という感じだ」とその人物は述べた。「そのゾーンの外では応用が利かない。」

情報筋4人は、安全にスケールアップするには数年かかる可能性があると述べた。7月、オースティンでのロボットタクシー開始から1ヶ月後、マスクはこのサービスが2025年末までに米国人口の半分にサービスを提供するまでに拡大すると予測した。

1月にマスクはテスラがオースティンとサンフランシスコ湾岸地域で500台の「ロボットタクシー車両」を運行していると虚偽の主張を行い、「指数曲線」上で「毎月倍増」することを期待していると付け加えた。マスクはテスラが湾岸地域で「ロボットタクシーサービス」を運営していると述べているが、実際には通常運転手として使われる州の許可の下でライドヘイリングサービスを運営しているにすぎず、人間のドライバーが必要だ。

実際には、オースティン開始からほぼ1年が経った今もテスラは同地でわずか約50台のロボットタクシーしか運行していないと、市当局による最近のスライド発表は示している。車両は限定された慎重にマッピングされたゾーンを走行していると情報筋3人は述べた。ロイターの記者による最近の観察によると、一部にはまだ助手席に人間の安全監視員が乗車しているという。

4月、テスラはダラスとヒューストンでロボットタクシーを展開すると発表し、サービスエリアを示す地図も公開した。

両市でサービスを最近テストしたロイターの記者は、長い待ち時間と不安定な利用可能性を確認した。記者がダラスでライドを確保できた3回において、ロボットタクシーはテスラが広告するサービスエリア内の市内中心部の目的地まで送り届けてくれなかった。

毎回、記者から約15分歩いた場所に停車した。– Rappler.com