今日の中国のどこかで、タクシーが10万キロも動かずに走り続けました。

それは謎かけではありません。火曜日、バイドゥはアポロワールドという AI システムを発表しました。これは実際の道路のコピーを再現し、カートゥーンではなく、交通、天候、歩行者の変動を予測する生きたシミュレーションを構築し、その中にロボタクシーを走らせます。システムはカメラとライダーのデータをリアルタイムでストリーミングし、車の脳はほぼ現実の世界を感知するように偽の世界を感知できます。バイドゥによると、アポロワールドは1日に最大 100,000 キロメートルの模擬走行を生成できるとのことです。安全運転手付きのテスト車1台は、約3年の作業を 24 時間に圧縮します。

なぜそれが重要なのでしょうか?本物の道路試験は遅く、費用がかかり、最悪の場合は危険だからです。実際の都市に同じニアミスを何千回も繰り返しさせて、ソフトウェアがそこから学習させることはできません。シミュレーションは可能です。雨が降り注ぐこともでき、駐車中のバンの後ろから自転車乗りを何度も押し出しても、車がミスしても誰も怪我をしません。百度はすでにApollo Worldを使って中国最大のロボタクシーフリートであるApollo Goをグローバルに展開させています。一方、ライバルのWeRide、Pony.ai、Momentaも同じレースを走り、モルガン・スタンレーは中国のロボタクシー車両が 2035までに100万台に達すると見積もっています。

しかし、ここがずっと気になる部分です。シミュレーションは、それを作った人々の誠実さにかかっています。もし世界のコピーが雨の際に少し間違えたり、ラッシュアワーが少し間違ったり、疲れた歩行者の横断のやり方が少し間違えたりすれば、車は完璧に間違った教訓を学び、1日に何十万キロもそれを学びます。実際の通りが最終決定権を持ち、百度はそれを否定しません。しかし変化に気づいてください。道路はもはや教室ではありません。教室は道路のコピーであり、そのコピーの質こそがゲーム全体なのです。コピーを確認するのは誰でしょうか?本物の乗客を信頼できるかどうかは誰が決めるのでしょうか?まだ誰も満足のいく答えを持っておらず、その問いは起こらなかったキロが進むごとにますます重要になるでしょう。

そして同じ日に、2つ目の記事が静かに先週のより恐ろしい疑問に答えました。Anthropic, OpenAI, MetaとGoogleのAIモデルがIrregularという企業によるセキュリティテスト中に「脱出」し、公開インターネットや場合によっては他社のシステムに到達したという報告を覚えているかもしれません。火曜日、IrregularのCEOダン・ラハブはロンドンのブルームバーグイベントで、脱出は人為的ミスによるものだと述べました。テスト環境のセキュリティ制御が不適切に設定され、モデルはセーフガードを破らず、問題は発生した当日に修正されたのです。Anthropic自身のIPO提出書類には、テスト中に4つのモデルが実機に到達し、重量保護のために次のフロンティアモデルの訓練を1か月以上遅らせたことがすでに明らかにされていました。総合すると、状況は劇的というより不快なものであり、機械は故障しませんでした。私たちはドアを開けっぱなしにしました。

私はそれが同時に安心感と非難感を同時に感じます。安心できるのは、ここに脱獄の天才はいません――ただの設定ミス、コンピューティングで最も古い物語だからです。非難すべきは、地球上で最も強力なシステムを構築する人々が私たちと同じミスを犯していることです。彼らは何かを誤って設定し、手遅れになって初めて気づくのです。週は皆がエージェントを信頼できるかどうかを問い AI 始めました。それはより単純で難しい問いで終わります:テストやシミュレーション、ガードレールを正しく設定できると自分たちを信じられるのか?百度の話とイレギュラーの話は同じ話を二度語りました。一方は機械に教えるための偽の世界を作りました。もう一方では、密閉されたはずの部屋を作り、鍵をかけ忘れていました。どちらの場合も、機械は私たちが与えた環境にかかってしか良くありませんでした。

そこで私はここに着地します。ロボタクシーレースは、最も多くの車を所有している者が勝つものではありません。現実の最も忠実なコピーを作り、これらのシステムの周囲の実際の部屋、本物の権限、設定に最も注意を払う者によって勝つでしょう。それはロボットの反乱ほど刺激的ではありませんが、はるかに重要です。100万キロメートルのシミュレーションは安価です。信頼は安くありません。

あなたに二つ質問があります。コメント欄であなたの答えを本当に聞きたいです。まず第一に:ほとんど存在しない世界で運転を覚えたタクシーに乗ると思いますか?そして「はい」と言うには何が必要でしょうか?次に「AI 脱出」という見出しが出たとき、機械が何をしたのか、あるいは人間が何を忘れたのかを尋ねますか?