知っておくべき最も重要なこと
- 最新バージョンのFSD v14.3.6システムは、理想的な走行条件下で時速110kmで走行中に車両を溝に向かって操縦しようとし、時速102kmでドライバーの介入を促した。
- 数千キロメートルにわたるFSDシステムの「ほぼ完璧な」性能は、ドライバーに過剰な自信を与え、注意散漫にさせ、予期せぬ恥ずかしい失敗という罠に陥らせる。
- テスラは、ソフトウェアの改善と、分離が発生した場合にドライバーが介入しなくなることとの区別を報告書で行っておらず、運転支援システムに関する記録的な事故を207件報告しているが、このシステムはまだ監視なしの自動運転には程遠い状態にある。
テスラの完全自動運転システム（バージョンv14.3.6）は、時速110km（68マイル）で既に通過した高速道路の出口に進入しようとし、危うく私たちを溝に突き落とすところだった。
私は車の運転を代わる覚悟をしていて、実際にそうしたのですが、状況は恐ろしいものでした。助手席に座っていた友人は恐怖で叫び声を上げました。
ダッシュボードカメラが映すもの
この事件は、日曜日の夜、ケベック州モーリシー地方の高速道路55号線で発生した。当時、テスラのFSD（自動運転機能）システムの最新かつ最良のバージョンであるFSD（監視機能付き）v14.3.6システムが最新のハードウェア上で稼働していた。
車は右車線を時速110キロで走行していた。路面は乾いており、両方向とも交通量はなく、道路標示は最新式で明瞭、頭上の標識は反射材付きだった。FSDシステムにとって理想的な条件だった。217番出口の高架下を通過すると、右折信号が点灯し、車は路肩に向かって蛇行し始めた。画面には「自動運転中」のメッセージが表示されたままだった。
問題は、私たちの後ろで斜面がすでに崩れ始めていたことだった。あのスピードであのタイミングでカーブを曲がったら、私たちはそのまま穴に落ちていただろう。
車が操縦を行うにつれて、速度表示は110、109、107、104と下がっていった。その瞬間、私はハンドルを強く握った。「自動運転」という文字は、時速102キロで画面から消えた。
これは、走行位置のわずかなずれや、一瞬の躊躇などではなかった。車は方向指示器を作動させ、本来進むべきではない出口へと向かったのだ。
これらはFSDシステムにとって理想的な条件だった。
テスラにとって最もシンプルなシナリオを設計するとしたら、まさにこれだったでしょう。
中央分離帯のある高速道路。夜間は対向車のヘッドライトと車線反射板が容易に識別できる。交通量がゼロなので分析も不要。明確な車線表示。大きくて明るい標識。
バージョン14で私が経験した限りでは、夜間の高速道路や空いている道路での運転は、このシステムの最大の強みです。何千キロもの距離を、何も操作することなく走行できました。だからこそ、私は自信を持っているのです。そして、その自信こそが、まさに落とし穴なのです。
私はこの特定の危険性について6月に記事を書きました。
2か月半前、私はFSD v14システムがあまりにも優れているため、危険なほど過信してしまうという記事を発表しました。当時私は、「ほぼ完璧に機能するシステムは罠を生み出す。ドライバーはそれを信頼しすぎて注意を払わなくなるが、それでも予期せぬ、時には重大な故障が発生する」と書きました。
私は自分の発言すべてに責任を持ちますし、日曜の夜がそれを証明しました。重要な介入の合間に数千マイルも走行するのは、まさに驚異的なエンジニアリングの偉業です。しかし、それは同時に、脳がスキャンをやめて注意を払うことを学習する時間でもあり、テスラを購入する前に二度考えるきっかけにもなります。
テスラのv14.3.6リリースノートには、同社が「FSDシステムのニューラルネットワークをトレーニングするための強化学習（RL）フェーズを開発」し、MLIRを使用してAIインタープリタを書き直して「応答時間を20%高速化」し、システム劣化に対する車両の応答を改善して「不要なドライバーの離脱事故を削減」したと記載されている。ドライバーの離脱事故は、ソフトウェアの改善によって減少するだけでなく、ドライバーが介入しなくなった場合にも減少する。テスラは、外部の人間がこれら2つの要因を区別できるような情報を一切公開していない。
公表されている数字は安心できるものではない。テスラは、オートパイロットとFSDによる事故が1か月で過去最多の207件に達したとNHTSAに報告したが、2019年以降に報告された3,763件の運転支援システム事故報告のうち、99.9%では事故の詳細が伏せられている。マスク氏は投資家に対し、監視なしのFSDが年末までに米国で広く展開されると繰り返し述べている一方、ウェイモの共同CEOは、カメラのみによる自動運転が真の自動運転システムに求められる要件を満たしていない理由を説明し続けている。
DzTecniumの意見
実際に起こりかけたある出来事は、単なる話であってデータではないが、警戒を怠らないことの必要性を改めて認識させてくれる重要な事例だと思う。
これまで何度も述べてきたように、テスラのFSD v14システムは実に素晴らしい製品です。しかし、FSDが当初謳っていた「監視なしの自動運転」という点では、期待に応えられていません。現状では到底その域には達しておらず、今後も到達することはないかもしれません。これは今後も問題であり、テスラが犯した最大の過ちと言えるでしょう。
しかし、それを一旦置いておいて、FSDをポイントツーポイントの運転支援システムとして見てみると、それは本当に素晴らしいものだ。
しかし、この目を見張るような光景は、自己満足（無関心）を生み出す。テスラは、特にCEOのイーロン・マスクが「今ならスマホを使いながら画面を見ることができます」などと発言していることで、その状況を悪化させている。
これは明らかに無謀だ。システムが改善されるにつれて、テスラはドライバーにこの油断の問題に注意を払うよう説得する能力を高める必要があり、その逆ではない。
コメントは締め切りました。