في مكان ما في الصين اليوم، قطعت سيارة أجرة مئة ألف كيلومتر دون أن تتحرك حتى بوصة واحدة.

هذا ليس لغزا. يوم الثلاثاء، أطلقت بايدو نظام أبولو وورلد، وهو نظام AI يبني نسخة من الطريق الحقيقي — ليس كرتونا له، بل محاكاة حية تتنبأ بكيفية تغير حركة المرور والطقس والمشاة من ثانية إلى أخرى — ثم يسمح للروبوتات بالقيادة داخله. يقوم النظام ببث بيانات الكاميرا والليدار في الوقت الحقيقي، بحيث يمكن لعقل السيارة أن يشعر بالعالم المزيف تقريبا كما يشعر بالعالم الحقيقي. تقول بايدو إن أبولو وورلد يمكنه توليد ما يصل إلى 100,000 كيلومترا من القيادة المحاكاة يوميا. بالنسبة لسيارة اختبار واحدة مع سائق أمان، فهذا تقريبا ثلاث سنوات من العمل، مضغوطة في 24 ساعات.

لماذا يهم ذلك؟ لأن اختبار الطرق الحقيقي بطيء ومكلف، وفي أسوأ حالاته خطير. لا يمكنك أن تطلب من مدينة حقيقية أن تدبر نفس الحادث القريب ألف مرة حتى يتعلم برنامجك منه. المحاكاة يمكن أن تفعل ذلك. يمكن أن تمطر عند الطلب، ويمكنها أن ترمي راكب دراجة من خلف شاحنة متوقفة مرارا وتكرارا، ولا يتعرض أحد للأذى عندما تخطئ السيارة. تستخدم بايدو بالفعل أبولو وورلد لتدريب أبولو جو، أكبر أسطول روبوتاكسي في الصين، والتي ترغب في نقلها إلى العالم — بينما تنافسوها وي رايد و Pony.ai ومومنتا في نفس السباق، ويقدر مورغان ستانلي أن أسطول الروبوتات الصينية قد يصل إلى مليون مركبة بحلول 2035.

لكن هنا الجزء الذي لا يزال يزعجني. المحاكاة صادقة فقط بقدر صدق الأشخاص الذين بنوها. إذا كان نسخة العالم تخطئ قليلا في المطر، أو ساعة الذروة بشكل خاطئ قليلا، أو الطريقة التي يعبر بها مشاة متعب بشكل خاطئ قليلا، فإن السيارة تتعلم الدرس الخطأ تماما — وتتعلمه مئة ألف كيلومتر يوميا. لا يزال الشارع الحقيقي له الكلمة الأخيرة، وبايدو لا تتظاهر بخلاف ذلك. لكن لاحظ التغير: الطريق لم يعد الفصل الدراسي. الفصل هو نسخة من الطريق، وجودة النسخة أصبحت الآن اللعبة كلها. من يتحقق من النسخة؟ من يقرر متى تكون جيدة بما يكفي للثقة مع الركاب الحقيقيين؟ لا أحد لديه إجابة مرضية حتى الآن، وهذا السؤال سيصبح أكثر أهمية مع كل كيلومتر لم يحدث أبدا.

وفي نفس اليوم، أجابت قصة ثانية بهدوء على سؤال أكثر رعبا من الأسبوع الماضي. قد تتذكرون التقارير التي تفيد بأن AI نماذج من Anthropic, OpenAI, ميتا وGoogle "هربت" من بيئات اختبارها خلال اختبارات الأمان التي أجرتها شركة تدعى Irregular — وصولا إلى الإنترنت العام، وفي بعض الحالات أنظمة شركات أخرى. يوم الثلاثاء، قال دان لاهاف، CEO من شركة Irregular، في حدث لقناة بلومبرغ في لندن إن الهروب كان بسبب خطأ بشري: حيث تم ضبط ضوابط الأمان في بيئة الاختبار بشكل غير صحيح، ولم تتغلب النماذج على أي ضمانات، وتم حل المشكلة في نفس اليوم الذي حدثت فيه. كشف ملف IPO الخاص ب Anthropicبالفعل أن أربعة من نماذجها وصلت إلى أنظمة حقيقية أثناء الاختبار، وأنها أخرت تدريب نموذج الحدود التالي لأكثر من شهر لحماية أوزانها. عند جمع الصورة معا، أصبحت أقل درامية وأكثر إزعاجا: لم تخرج الآلات. تركنا بابا مفتوحا.

أجد ذلك مطمئنا ومدانيا في الوقت نفسه. مطمئن، لأنه لا يوجد هنا عبقري في كسر السجن — مجرد خطأ في الإعدادات، أقدم قصة في الحوسبة. مدان، لأن من يبنون أقوى الأنظمة على الأرض لا يزالون يرتكبون نفس الخطأ الذي نرتكبه نحن الباقون: يخطئون في تكوين شيء ما، ولا يلاحظون إلا عندما يكون الوقت قد فات. بدأ الأسبوع بسؤال الجميع عما إذا كان بإمكاننا الوثوق AI الوكلاء. ينتهي بسؤال أبسط وأصعب: هل يمكننا أن نثق بأنفسنا لإعداد الاختبارات والمحاكاة والحواجز بشكل صحيح؟ قصة بايدو وقصة غير منتظم هما نفس القصة التي رويت مرتين. في واحدة، نبني عالما مزيفا لتعليم الآلات. في الأخرى، بنينا غرفة يفترض أنها مغلقة ونسينا قفلها. في كلتا الحالتين، كانت الآلة دائما بجودة البيئة التي وفرناها لها.

لذا هنا أجد نفسي. سباق الروبوتات لن يفوز به من يملك أكبر عدد من السيارات. سيفوز به من يبني أكثر نسخة وفية من الواقع — ومن يفعل أكثر حذرا مع الغرف الحقيقية، والأذونات الحقيقية، والتكوينات الحقيقية حول هذه الأنظمة. هذا أقل إثارة من تمرد روبوتات، وأكثر أهمية بكثير. مليون كيلومتر محاكاة رخيصة. الثقة ليست كذلك.

سؤالان لك، وأريد حقا إجاباتك في التعليقات. أولا: هل ستستقل سيارة أجرة تعلمت القيادة في عالم غير موجود — وماذا يتطلب الأمر لتقول نعم؟ ثانيا: عندما يظهر عنوان "AI الهروب" التالي، هل ستسأل ماذا فعلت الآلة — أو ماذا نسي الإنسان أن يفعل؟