امروز جایی در چین، یک تاکسی صد هزار کیلومتر را بدون حرکت طی کرد.

این یک معما نیست. روز سه شنبه، بایدو سیستم آپولو ورلد را راه اندازی کرد؛ سیستمی AI که یک نسخه کپی از جاده واقعی می سازد — نه یک کارتون از آن، بلکه یک شبیه سازی زنده که پیش بینی می کند ترافیک، آب وهوا و عابران پیاده از یک ثانیه به ثانیه دیگر چگونه تغییر می کنند — و سپس اجازه می دهد رباتاکسی ها درون آن حرکت کنند. این سیستم داده های دوربین و لیدار را به صورت زنده پخش می کند، بنابراین مغز خودرو می تواند دنیای جعلی را تقریبا همان طور که دنیای واقعی را حس می کند، حس کند. بایدو می گوید آپولو ورلد می تواند تا 100,000 کیلومتر رانندگی شبیه سازی شده در روز تولید کند. برای یک خودروی آزمایشی با راننده ایمنی، این تقریبا سه سال کار است که در 24 ساعت فشرده شده است.

چرا این موضوع اهمیت دارد؟ چون تست واقعی جاده ای کند، پرهزینه و در بدترین حالت، خطرناک است. نمی توانید از یک شهر واقعی بخواهید هزار بار همان نزدیک به تصادف را تکرار کند تا نرم افزار شما از آن درس بگیرد. یک شبیه ساز می تواند. می تواند به درخواست باران ببارد، می تواند بارها و بارها یک دوچرخه سوار را از پشت ون پارک شده بیرون بیندازد و هیچ وقتی خودرو اشتباه می کند آسیب نمی بیند. بایدو در حال حاضر از آپولو ورلد برای آموزش آپولو گو، بزرگ ترین ناوگان رباتاکسی چین، که می خواهد آن را جهانی کند استفاده می کند — در حالی که رقبای آن WeRide، Pony.ai و مومنتا همان مسابقه را برگزار می کنند و مورگان استنلی تخمین می زند ناوگان رباتاکسی چین می تواند تا 2035به یک میلیون خودرو برسد.

اما اینجا همان بخشی است که مدام ذهنم را مشغول می کند. یک شبیه ساز فقط به اندازه کسانی که آن را ساخته اند صادق است. اگر نسخه ای از جهان باران را کمی اشتباه ببیند، یا ساعت شلوغی کمی اشتباه باشد، یا نحوه عبور یک عابر خسته کمی اشتباه شود، پس ماشین درس اشتباه را کاملا یاد می گیرد — و آن را صد هزار کیلومتر در روز یاد می گیرد. خیابان واقعی هنوز حرف آخر را می زند و بایدو وانمود نمی کند که اینطور نیست. اما تغییر را ببینید: جاده دیگر کلاس درس نیست. کلاس درس کپی جاده است و کیفیت نسخه اکنون کل بازی است. چه کسی نسخه را بررسی می کند؟ چه کسی تصمیم می گیرد کی به اندازه کافی خوب است که به مسافران واقعی اعتماد شود؟ هنوز هیچ پاسخ رضایت بخشی ندارد و این سؤال با هر کیلومتری که هرگز اتفاق نیفتاده اهمیت بیشتری پیدا می کند.

و در همان روز، داستان دوم به آرامی به سؤال ترسناک تری از هفته گذشته پاسخ داد. شاید گزارش هایی را به یاد داشته باشید که مدل های AI از Anthropic, OpenAI, متا و Google در طول آزمایش امنیتی توسط شرکتی به نام Irregular از محیط های آزمایشی خود «فرار» کرده اند — و در برخی موارد به اینترنت عمومی و در برخی موارد سیستم های شرکت های دیگر رسیده اند. روز سه شنبه، دن لاهاو، CEO شرکت Irregular، در رویدادی در بلومبرگ در لندن گفت که این فرار ها ناشی از خطای انسانی بوده اند: کنترل های امنیتی در محیط آزمایش به درستی پیکربندی نشده اند، مدل ها هیچ حفاظتی را از بین نبرده اند و مشکل در همان روزی که رخ داد رفع شده است. پرونده IPO خود Anthropicقبلا فاش کرده بود که چهار مدل آن در طول آزمایش به سیستم های واقعی رسیده اند و آموزش مدل مرزی بعدی خود را بیش از یک ماه به تأخیر انداخته تا وزن خود را محافظت کند. در مجموع، تصویر کمتر دراماتیک و بیشتر ناراحت کننده است: ماشین ها فرار نکردند. ما در را باز گذاشتیم.

این برایم هم آرامش بخش است و هم محکوم کننده. دلگرم کننده، چون اینجا هیچ نبوغ جیلبریک وجود ندارد — فقط یک اشتباه پیکربندی است، قدیمی ترین داستان در محاسبات. محکوم کننده، چون کسانی که قدرتمندترین سیستم های جهان را می سازند هنوز همان اشتباهی را می کنند که بقیه ما مرتکب می شویم: آن ها چیزی را اشتباه پیکربندی می کنند و فقط وقتی دیر شده متوجه می شوند. هفته با این سؤال شروع شد که همه می پرسیدند آیا می توانیم به عوامل AI اعتماد کنیم. هفته با یک سؤال ساده تر و سخت تر به پایان می رسد: آیا می توانیم به خودمان اعتماد کنیم که آزمایش ها، شبیه سازی ها و گاردریل ها را درست تنظیم کنیم؟ داستان بایدو و داستان نامنظم همان داستانی هستند که دوبار گفته شده اند. در یکی، ما یک دنیای جعلی ساختیم تا به ماشین ها آموزش دهیم. در دیگری، اتاقی که ظاهرا مهر و موم شده بود ساختیم و فراموش کردیم آن را قفل کنیم. در هر دو مورد، دستگاه فقط به اندازه محیطی که به آن داده بودیم خوب بود.

پس اینجا جایی است که فرود می آیم. مسابقه رباتاکسی توسط کسی که بیشترین خودرو را دارد برنده نخواهد شد. این مسابقه توسط کسی برنده خواهد شد که وفادارترین نسخه واقعیت را بسازد — و کسی که بیشترین دقت را با اتاق ها، مجوزهای واقعی و پیکربندی های واقعی اطراف این سیستم ها داشته باشد. این کمتر هیجان انگیز از قیام ربات هاست و بسیار مهم تر. یک میلیون کیلومتر شبیه سازی شده ارزان است. اعتماد نیست.

دو سوال برای شما دارم و واقعا می خواهم پاسخ هایتان را در بخش نظرات بدانم. اول: آیا با تاکسی ای که بیشتر در دنیایی که وجود ندارد رانندگی یاد گرفته سوار می شوید — و چه چیزی لازم است تا جواب مثبت بدهید؟ دوم: وقتی تیتر بعدی «فرارAI » منتشر شود، آیا می پرسید ماشین چه کرده — یا یک انسان چه کاری را فراموش کرده است؟