कल, जबकि हम में से अधिकांश अभी भी बात कर रहे थे AI, Google चुपचाप उसे चूहा सौंप दिया।

अक्टूबर 30, को Gemini API चेंजलॉग ने लंबे परिणामों के साथ एक छोटी पंक्ति दर्ज की: कंप्यूटर का उपयोग अब आम तौर पर इंटरैक्शन और जेनरेटकंटेंट एपीआई में उपलब्ध है। सरल भाषा में, एक डेवलपर अब एक एजेंट का निर्माण कर सकता है जो स्क्रीन के स्क्रीनशॉट को देखता है, यह तय करता है कि क्या करना है, और अगले क्लिक, स्क्रॉल या कीस्ट्रोक का प्रस्ताव करता है। आपके कंप्यूटर पर चल रहे प्रोग्राम को अभी भी कार्रवाई करनी है, और Google सीमाओं के बारे में कुंद है: उपकरण गलतियाँ कर सकता है, यह सुरक्षा खामियों को ले जा सकता है, और महत्वपूर्ण कार्यों को करीबी पर्यवेक्षण की आवश्यकता होती है। यह महत्वपूर्ण निर्णयों, संवेदनशील डेटा, या किसी भी चीज़ के लिए इसका उपयोग करने के खिलाफ चेतावनी देता है जहां गलत क्लिक को पूर्ववत नहीं किया जा सकता है।

वह चेतावनी पूरी कहानी है, क्योंकि यह सप्ताह भी था जब विश्वास कहीं और टूट गया। अक्टूबर 29, Anthropicके Claude Code एक्सटेंशन, संस्करण 2.1.312 और 2.1.313, की प्रतियों से छेड़छाड़ की गई प्रतियां लगभग ग्यारह घंटे तक Cursorके एक्सटेंशन मार्केटप्लेस में बैठे रहे और अधिकांश 5,000 उपयोगकर्ताओं तक पहुंचे। उन्होंने लगातार SSH पिछले दरवाजे पर लगाया, और Cursor चेतावनी दी कि केवल एक्सटेंशन को अनइंस्टॉल करने से यह नहीं हटेगा। Anthropic का कहना है कि उसके अपने सिस्टम से समझौता नहीं किया गया था; किसी ने इसके बजाय Cursorके बाज़ार तक पहुंच का दुरुपयोग किया। उन दो तथ्यों को एक साथ पढ़ें और तस्वीर तेज हो जाती है: हम AI एजेंटों को हाथ दे रहे हैं, और हाथ सॉफ़्टवेयर के माध्यम से पहुंचते हैं जिन्हें हम वास्तव में निरीक्षण किए बिना इंस्टॉल करते हैं।

OpenAI, उसी दिन, अक्टूबर 30, विपरीत दिशा में चला गया और अपने चैटबॉट को एक अलग तरह का हाथ दिया: रोकने की शक्ति। ChatGPT अब उन खातों से व्यावहारिक हथियार और सुरक्षा-प्रणाली की जानकारी वापस रखेंगे जो भविष्यवाणी करता है कि यह किशोरों से संबंधित है, भले ही प्रश्न हानिरहित हो, और यह अपने आप बातचीत को समाप्त करने में सक्षम होगा जब कोई हिंसा पर केंद्रित लगता है, बार-बार समाप्त होने के साथ एक खाते को रोकने में सक्षम होता है। शुरुआती 2027के लिए पहली सामुदायिक सुरक्षा रिपोर्ट का वादा किया गया है। इसलिए एक सप्ताह में, एक कंपनी ने एक AI भेज दिया जो आपके लिए बटन दबा सकता है, और दूसरी ने एक AI भेज दी जो आपसे बात करने से इनकार कर सकती है। दोनों एजेंसी के बारे में निर्णय हैं, बेहतर उत्तरों के बारे में नहीं।

इस भविष्य का एक शांत संस्करण है, और यह एक अप्रत्याशित स्थान से आया है: इंग्लैंड में योजना कार्यालय। Google डीपमाइंड का कहना है कि इसके Gemini-निर्मित प्लानअसिस्ट ने तीन परिषदों में शुरुआती पायलटों में हाउसहोल्डर मूल्यांकन कार्यों पर खर्च किए गए अधिकारियों के समय में 58% की कटौती की है, और अब यह बारह और परिषदों के साथ बारह महीने के बीटा में आगे बढ़ रहा है। जो विवरण मायने रखता है वह प्रतिशत नहीं है। यह है कि अधिकारी हर आवेदन पर अंतिम निर्णय लेते हैं। मशीन पूरी तरह से उद्धृत रिपोर्ट का मसौदा तैयार करती है; एक इंसान अभी भी हस्ताक्षर करता है।

तो यहीं पर मैं उतरता हूं, और मैं वास्तव में इस बारे में बहस करना चाहता हूं। मैं ऐसे एजेंट से नहीं डरता जो क्लिक कर सके। मुझे एक ऐसे एजेंट से डर लगता है जो क्लिक करता है जबकि कोई नहीं देख रहा होता है, टूल के माध्यम से किसी ने भी जांच नहीं की, उन कार्यों पर कोई भी पूर्ववत नहीं कर सकता। सवाल अब यह नहीं है कि AI कंप्यूटर का उपयोग कर सकते हैं या नहीं। यह कर सकता है, और अब से यह उत्पादन में होगा, डेमो में नहीं। सवाल यह है कि हम अपने लिए क्या रखते हैं: अंतिम क्लिक, अंतिम हस्ताक्षर, रोकने का अधिकार।

मुझे ईमानदारी से बताओ। पहला काम क्या है जो आप आज रात एक एजेंट को सौंपेंगे, बिना निगरानी के, और वह कौन सा काम है जिसे आप कभी नहीं सौंपेंगे, चाहे वह कितना भी अच्छा क्यों न हो? आपका जवाब वह नीति है जो पूरा उद्योग अभी भी गायब है।