आज चीन में कहीं एक टैक्सी बिना एक इंच भी चले एक लाख किलोमीटर चल रही थी।

यह कोई पहेली नहीं है। मंगलवार को, Baidu ने अपोलो वर्ल्ड लॉन्च किया, एक AI प्रणाली जो वास्तविक सड़क की एक प्रति बनाती है - इसका एक कार्टून नहीं, बल्कि एक जीवित सिमुलेशन जो भविष्यवाणी करता है कि यातायात, मौसम और पैदल यात्री एक सेकंड से दूसरे सेकंड में कैसे बदलते हैं - और फिर रोबोटैक्सिस को इसके अंदर ड्राइव करने देता है। सिस्टम वास्तविक समय में कैमरा और लिडार डेटा स्ट्रीम करता है, इसलिए कार का मस्तिष्क नकली दुनिया को लगभग उसी तरह महसूस कर सकता है जैसे वह असली दुनिया को महसूस करता है। Baidu का कहना है कि अपोलो वर्ल्ड एक दिन में 100,000 किलोमीटर तक नकली ड्राइविंग उत्पन्न कर सकता है। एक सुरक्षा चालक के साथ एक परीक्षण कार के लिए, जो लगभग तीन साल का काम है, 24 घंटे में संकुचित है।

यह क्यों मायने रखता है? क्योंकि वास्तविक सड़क परीक्षण धीमा, महंगा और, सबसे खराब, खतरनाक है। आप एक वास्तविक शहर को एक हजार बार उसी निकट-चूक का मंचन करने के लिए नहीं कह सकते हैं ताकि आपका सॉफ़्टवेयर इससे सीख सके। एक सिमुलेशन कर सकता है। यह मांग पर बारिश कर सकता है, यह एक साइकिल चालक को बार-बार खड़ी वैन के पीछे से बाहर फेंक सकता है, और जब कार गलत हो जाती है तो किसी को चोट नहीं लगती है। Baidu पहले से ही अपोलो गो को प्रशिक्षित करने के लिए अपोलो वर्ल्ड का उपयोग कर रहा है, चीन का सबसे बड़ा रोबोटैक्सी बेड़ा, जिसे वह वैश्विक स्तर पर ले जाना चाहता है - जबकि प्रतिद्वंद्वी WeRide, Pony.ai और मोमेंटा एक ही दौड़ चलाते हैं, और मॉर्गन स्टेनली का अनुमान है कि चीन का रोबोटैक्सी बेड़ा 2035तक दस लाख वाहनों तक पहुंच सकता है।

हालाँकि, यहाँ वह हिस्सा है जो मुझे परेशान करता रहता है। एक सिमुलेशन केवल उतना ही ईमानदार होता है जितना कि इसे बनाने वाले लोग। यदि दुनिया की प्रति में बारिश थोड़ी गलत हो जाती है, या भीड़ का समय थोड़ा गलत हो जाता है, या जिस तरह से एक थका हुआ पैदल यात्री थोड़ा गलत तरीके से पार करता है, तो कार गलत सबक पूरी तरह से सीखती है - और इसे एक दिन में एक लाख किलोमीटर सीखती है। असली सड़क का अभी भी अंतिम कहना है, और Baidu अन्यथा दिखावा नहीं करता है। लेकिन बदलाव पर ध्यान दें: सड़क अब कक्षा नहीं है। कक्षा सड़क की एक प्रति है, और कॉपी की गुणवत्ता अब पूरा खेल है। कॉपी की जांच कौन करता है? कौन तय करता है कि वास्तविक यात्रियों पर भरोसा करना कब अच्छा है? अभी तक किसी के पास संतोषजनक उत्तर नहीं है, और यह सवाल हर उस किलोमीटर के साथ अधिक मायने रखेगा जो कभी नहीं हुआ।

और उसी दिन, एक दूसरी कहानी ने चुपचाप पिछले सप्ताह के एक डरावने सवाल का जवाब दिया। आपको उन रिपोर्टों को याद होगा कि Anthropic, OpenAI, मेटा और Google के AI मॉडल अनियमित नामक कंपनी द्वारा सुरक्षा परीक्षण के दौरान अपने परीक्षण वातावरण से "बच गए" थे - कुछ मामलों में अन्य कंपनियों के सिस्टम। मंगलवार को, अनियमित के CEO डैन लाहव ने लंदन में ब्लूमबर्ग के एक कार्यक्रम में कहा कि भागने की घटनाएं मानवीय त्रुटि के कारण हुई थीं: परीक्षण वातावरण में सुरक्षा नियंत्रण अनुचित तरीके से कॉन्फ़िगर किए गए थे, मॉडल ने किसी भी सुरक्षा उपायों को नहीं हराया था, और समस्या उसी दिन ठीक हो गई थी जिस दिन यह हुआ था। Anthropicकी अपनी IPO फाइलिंग ने पहले ही खुलासा कर दिया था कि इसके चार मॉडल परीक्षण के दौरान वास्तविक सिस्टम तक पहुंच गए थे, और यह कि इसने अपने वजन की रक्षा के लिए अपने अगले फ्रंटियर मॉडल के प्रशिक्षण में एक महीने से अधिक की देरी की। एक साथ रखो, तस्वीर कम नाटकीय और अधिक असुविधाजनक है: मशीनें नहीं टूटीं। हमने एक दरवाजा खुला छोड़ दिया।

मुझे यह एक ही समय में आश्वस्त करने वाला और हानिकारक लगता है। आश्वस्त, क्योंकि यहां कोई जेलब्रेक प्रतिभा नहीं है - बस एक कॉन्फ़िगरेशन गलती, कंप्यूटिंग में सबसे पुरानी कहानी। लानत है, क्योंकि पृथ्वी पर सबसे शक्तिशाली सिस्टम बनाने वाले लोग अभी भी वही गलती करते हैं जो हममें से बाकी लोग करते हैं: वे कुछ गलत तरीके से कॉन्फ़िगर करते हैं, और केवल तभी नोटिस करते हैं जब बहुत देर हो चुकी होती है। सप्ताह की शुरुआत सभी के यह पूछने के साथ हुई कि क्या हम AI एजेंटों पर भरोसा कर सकते हैं। यह एक सरल, कठिन प्रश्न के साथ समाप्त होता है: क्या हम परीक्षणों, सिमुलेशन और रेलिंग को सही ढंग से स्थापित करने के लिए खुद पर भरोसा कर सकते हैं? Baidu कहानी और अनियमित कहानी एक ही कहानी है जिसे दो बार बताया गया है। एक में, हम मशीनों को सिखाने के लिए एक नकली दुनिया का निर्माण करते हैं। दूसरे में, हमने एक कथित रूप से सीलबंद कमरा बनाया और उसे बंद करना भूल गए। दोनों ही मामलों में, मशीन केवल उतनी ही अच्छी थी जितनी हमने इसे दी थी।

तो यहीं पर मैं उतरता हूं। रोबोटैक्सी रेस वह व्यक्ति नहीं जीती जाएगी जिसके पास सबसे अधिक कारें हैं। यह वह व्यक्ति द्वारा जीता जाएगा जो वास्तविकता की सबसे वफादार प्रति बनाता है - और जो कोई भी इन प्रणालियों के आसपास वास्तविक कमरों, वास्तविक अनुमतियों और वास्तविक विन्यास से सबसे अधिक सावधान है। यह रोबोट विद्रोह से कम रोमांचक है, और बहुत अधिक महत्वपूर्ण है। एक लाख नकली किलोमीटर सस्ते हैं। विश्वास नहीं है।

आपके लिए दो प्रश्न, और मैं वास्तव में टिप्पणियों में आपके उत्तर चाहता हूं। पहला: क्या आप एक ऐसी टैक्सी में सवारी करेंगे जिसने ज्यादातर ऐसी दुनिया में ड्राइव करना सीखा है जो मौजूद नहीं है - और आपको हाँ कहने में क्या लगेगा? दूसरा: जब अगला "AI पलायन" शीर्षक दिखाई देता है, तो क्या आप पूछेंगे कि मशीन ने क्या किया - या एक इंसान क्या करना भूल गया?