আজ চীনের কোথাও একটি ট্যাক্সি এক ইঞ্চিও নড়াচড়া না করে এক লাখ কিলোমিটার পথ চালিয়েছে।

এটি কোনও ধাঁধা নয়। মঙ্গলবার, বাইডু অ্যাপোলো ওয়ার্ল্ড চালু করেছে, একটি AI সিস্টেম যা আসল রাস্তার একটি অনুলিপি তৈরি করে - এর একটি কার্টুন নয়, তবে একটি জীবন্ত সিমুলেশন যা পূর্বাভাস দেয় যে ট্র্যাফিক, আবহাওয়া এবং পথচারীরা কীভাবে এক সেকেন্ড থেকে পরের সেকেন্ডে পরিবর্তিত হয় - এবং তারপরে রোবোট্যাক্সিসকে এর ভিতরে চালাতে দেয়। সিস্টেমটি রিয়েল টাইমে ক্যামেরা এবং লিডার ডেটা স্ট্রিম করে, যাতে গাড়ির মস্তিষ্ক নকল বিশ্বকে প্রায় সেভাবে অনুভব করতে পারে যেভাবে এটি আসলটি অনুভব করে। বাইডু বলেছেন যে অ্যাপোলো ওয়ার্ল্ড দিনে 100,000 কিলোমিটার পর্যন্ত সিমুলেটেড ড্রাইভিং তৈরি করতে পারে। একটি সুরক্ষা ড্রাইভারের সাথে একটি পরীক্ষামূলক গাড়ির জন্য, যা প্রায় তিন বছরের কাজ, 24 ঘন্টার মধ্যে সংকুচিত হয়।

কেন এটি গুরুত্বপূর্ণ? কারণ আসল রোড টেস্টিং ধীর, ব্যয়বহুল এবং সবচেয়ে খারাপ, বিপজ্জনক। আপনি একটি বাস্তব শহরকে একই কাছাকাছি মিস হাজার বার মঞ্চস্থ করতে বলতে পারবেন না যাতে আপনার সফ্টওয়্যার এটি থেকে শিখতে পারে। একটি সিমুলেশন করতে পারে। এটি চাহিদা অনুসারে বৃষ্টি হতে পারে, এটি পার্ক করা ভ্যানের পিছন থেকে সাইকেল আরোহীকে বারবার ছুঁড়ে ফেলতে পারে এবং গাড়িটি ভুল হলে কেউ আহত হয় না। বাইডু ইতিমধ্যে অ্যাপোলো ওয়ার্ল্ডকে চীনের বৃহত্তম রোবোট্যাক্সি বহর অ্যাপোলো গোকে প্রশিক্ষণ দেওয়ার জন্য ব্যবহার করছে, যা এটি বিশ্বব্যাপী নিতে চায় - যখন প্রতিদ্বন্দ্বী ওয়েরাইড, Pony.ai এবং মোমেন্টা একই রেস চালাতে পারে এবং মরগান স্ট্যানলি অনুমান করেছেন যে চীনের রোবোট্যাক্সি বহর 2035সালের মধ্যে এক মিলিয়ন যানবাহনে পৌঁছাতে পারে।

এখানে সেই অংশটি যা আমাকে বিরক্ত করতে থাকে। একটি সিমুলেশন কেবল ততটাই সৎ যারা এটি তৈরি করেছে। যদি বিশ্বের অনুলিপিটি কিছুটা ভুল হয়, বা ভিড়ের ঘন্টা কিছুটা ভুল হয়, বা ক্লান্ত পথচারী যেভাবে কিছুটা ভুল অতিক্রম করে, তবে গাড়িটি পুরোপুরি ভুল পাঠটি শিখে - এবং এটি দিনে এক লক্ষ কিলোমিটার শিখে নেয়। আসল রাস্তাটি এখনও চূড়ান্ত কথা বলে, এবং বাইদু অন্যথায় ভান করে না। তবে শিফটটি লক্ষ্য করুন: রাস্তাটি আর শ্রেণিকক্ষ নয়। শ্রেণিকক্ষটি রাস্তার একটি অনুলিপি, এবং অনুলিপির গুণমান এখন পুরো খেলা। কে অনুলিপিটি পরীক্ষা করে? কে সিদ্ধান্ত নেয় যে কখন এটি সত্যিকারের যাত্রীদের বিশ্বাস করার জন্য যথেষ্ট ভাল? কারও কাছে এখনও সন্তোষজনক উত্তর নেই এবং এই প্রশ্নটি প্রতিটি কিলোমিটারের সাথে আরও গুরুত্বপূর্ণ হবে যা কখনও ঘটেনি।

এবং একই দিনে, দ্বিতীয় গল্পটি নীরবে গত সপ্তাহের একটি ভয়ঙ্কর প্রশ্নের উত্তর দিয়েছিল। আপনার মনে থাকতে পারে যে Anthropic, OpenAI, মেটা এবং Google এর AI মডেলগুলি ইরেগুলার নামে একটি সংস্থার দ্বারা সুরক্ষা পরীক্ষার সময় তাদের পরীক্ষার পরিবেশ থেকে "পালিয়ে গিয়েছিল" - পাবলিক ইন্টারনেটে পৌঁছেছিল, কিছু ক্ষেত্রে অন্যান্য সংস্থার সিস্টেমে পৌঁছেছিল। মঙ্গলবার, অনিয়মিত CEO ড্যান লাহাভ লন্ডনে ব্লুমবার্গের একটি ইভেন্টে বলেছিলেন যে পালানোর ঘটনাগুলি মানবিক ত্রুটির কারণে হয়েছিল: পরীক্ষার পরিবেশে সুরক্ষা নিয়ন্ত্রণগুলি ভুলভাবে কনফিগার করা হয়েছিল, মডেলগুলি কোনও সুরক্ষাকে পরাজিত করেনি, এবং সমস্যাটি যেদিন ঘটেছিল সেদিনই সমাধান করা হয়েছিল। Anthropicনিজের IPO ফাইলিং ইতিমধ্যে প্রকাশ করেছিল যে এর চারটি মডেল পরীক্ষার সময় বাস্তব সিস্টেমে পৌঁছেছিল এবং এটি তার ওজন রক্ষা করার জন্য তার পরবর্তী সীমান্ত মডেলের প্রশিক্ষণকে এক মাসেরও বেশি সময় বিলম্বিত করেছিল। একসাথে রাখলে, ছবিটি কম নাটকীয় এবং আরও অস্বস্তিকর: মেশিনগুলি ভেঙে যায়নি। আমরা একটি দরজা খোলা রেখেছিলাম।

আমি একই সাথে এটি আশ্বস্ত এবং নিন্দনীয় বলে মনে করি। আশ্বস্ত করা, কারণ এখানে কোনও জেলব্রেক প্রতিভা নেই - কেবল একটি কনফিগারেশন ভুল, কম্পিউটিংয়ের প্রাচীনতম গল্প। অভিশপ্ত, কারণ পৃথিবীতে সবচেয়ে শক্তিশালী সিস্টেম তৈরি করা লোকেরা এখনও একই ভুল করে যা আমরা বাকিরা করি: তারা কিছু ভুলভাবে কনফিগার করে এবং কেবল তখনই লক্ষ্য করে যখন এটি খুব দেরি হয়ে যায়। সপ্তাহটি শুরু হয়েছিল প্রত্যেকে জিজ্ঞাসা করে যে আমরা AI এজেন্টদের বিশ্বাস করতে পারি কিনা। এটি একটি সহজ, কঠিন প্রশ্ন দিয়ে শেষ হয়: পরীক্ষা, সিমুলেশন এবং গার্ডরেলগুলি সঠিকভাবে সেট আপ করার জন্য আমরা কি নিজেকে বিশ্বাস করতে পারি? বাইদু গল্প এবং অনিয়মিত গল্পটি একই গল্প যা দু'বার বলা হয়েছে। একটিতে, আমরা মেশিন শেখানোর জন্য একটি নকল জগৎ তৈরি করি। অন্যটিতে, আমরা একটি অনুমিত সিল করা ঘর তৈরি করেছি এবং এটি লক করতে ভুলে গেছি। উভয় ক্ষেত্রেই, মেশিনটি কেবল আমরা যে পরিবেশটি দিয়েছি ততটাই ভাল ছিল।

সুতরাং এখানেই আমি অবতরণ করি। রোবোট্যাক্সি রেসটি সবচেয়ে বেশি গাড়ির মালিক কেউ জিতবে না। এটি জিতবে যে বাস্তবতার সবচেয়ে বিশ্বস্ত অনুলিপি তৈরি করবে - এবং যারা এই সিস্টেমগুলির চারপাশে আসল কক্ষ, আসল অনুমতি এবং বাস্তব কনফিগারেশনগুলির সাথে সবচেয়ে সতর্ক হবে। এটি একটি রোবট বিদ্রোহের চেয়ে কম উত্তেজনাপূর্ণ এবং আরও গুরুত্বপূর্ণ। এক মিলিয়ন সিমুলেটেড কিলোমিটার সস্তা। বিশ্বাস নয়।

আপনার জন্য দুটি প্রশ্ন, এবং আমি সত্যই মন্তব্যগুলিতে আপনার উত্তর চাই। প্রথমত: আপনি কি এমন একটি ট্যাক্সিতে চড়বেন যা বেশিরভাগ ক্ষেত্রে এমন একটি বিশ্বে গাড়ি চালাতে শিখেছিল যার অস্তিত্ব নেই - এবং হ্যাঁ বলতে আপনার কী লাগবে? দ্বিতীয়ত: যখন পরবর্তী "AI পালানোর শিরোনাম" উপস্থিত হবে, আপনি কি জিজ্ঞাসা করবেন যে মেশিনটি কী করেছে - বা একজন মানুষ কী করতে ভুলে গেছে?