بالأمس، بينما كان معظمنا لا يزال يتحدث AI, Google سلمها الفأرة بهدوء.

في أكتوبر 30, ، سجل سجل التغييرات Gemini API سطرا قصيرا له عواقب طويلة: استخدام الحاسوب أصبح متاحا الآن بشكل عام عبر واجهات التفاعلات وتوليد المحتوى. بلغة بسيطة، يمكن للمطور الآن بناء وكيل ينظر إلى لقطات الشاشة للشاشة، ويقرر ما يجب فعله، ويقترح النقر التالي أو التمرير أو الضغط على لوحة المفاتيح. لا يزال على البرنامج الذي يعمل على جهازك أن ينفذ الإجراءات، Google صارم بشأن الحدود: يمكن للأداة أن ترتكب أخطاء، وقد تحمل ثغرات أمنية، والمهام المهمة تحتاج إلى إشراف دقيق. تحذر من استخدامها في القرارات الحرجة، أو البيانات الحساسة، أو أي شيء لا يمكن فيه التراجع عن نقرة خاطئة.

هذا التحذير هو القصة كاملة، لأن هذا كان أيضا الأسبوع الذي انكسر فيه الثقة في مكان آخر. في أكتوبر 29, تم التلاعب بنسخ من إضافة Claude Code Anthropicوإصداراتها 2.1.312 و2.1.313, في سوق Cursorالملحقات لمدة حوالي إحدى عشرة ساعة ووصلت إلى 5,000 المستخدمين على الأكثر. زرعوا بابا خلفيا SSH مستمرا، وحذروا Cursor من أن مجرد إلغاء تثبيت الإضافة لن يزيله. تقول Anthropic إن أنظمتها لم تخترق؛ بل أساء شخص ما استخدام الوصول إلى سوق Cursorبدلا من ذلك. عند قراءة هاتين الحقيقتين معا، تتضح الصورة: نحن نمنح AI العملاء أيدي، والأيدي تمتد عبر البرمجيات التي نثبتها دون أن تفحصها فعليا.

OpenAI, في نفس اليوم، 30, أكتوبر اتجه في الاتجاه المعاكس وأعطى روبوت الدردشة الخاص به يدا مختلفة: قوة التوقف. ستحتجب ChatGPT الآن معلومات الأسلحة العملية وأنظمة الأمن من الحسابات التي تتوقع أنها تخص المراهقين، حتى عندما يبدو السؤال غير مؤذي، وستتمكن من إنهاء المحادثة بنفسها عندما يبدو أن أحدهم مهووسا بالعنف، مع تكرار النهايات التي يمكنها إيقاف الحساب. يعد بأول تقرير سلامة مجتمعي في أوائل 2027. لذا في أسبوع واحد، شحنت شركة AI يمكنه الضغط على الأزرار لك، وأخرى AI يمكنه رفض الاستمرار في الحديث معك. كلاهما قرارات حول الوكالة، وليس عن إجابات أذكى.

هناك نسخة أكثر هدوءا من هذا المستقبل، وقد جاء من مكان غير متوقع: مكاتب التخطيط في إنجلترا. تقول Google DeepMind إن PlanAssist التي بنتها Geminiقلصت الوقت الذي يقضيه الضباط في مهام تقييم أصحاب المنازل بنسبة 58٪ في التجارب التجريبية المبكرة عبر ثلاثة مجالس، وهي الآن تدخل في فترة تجريبية مدتها اثني عشر شهرا مع اثني عشر مجلسا إضافيا. التفصيل المهم ليس النسبة المئوية. بل أن الضباط يحتفظون بالكلمة الأخيرة في كل طلب. الآلة تكتب تقارير مستشهدة بالكامل؛ ولا يزال الإنسان يوقع.

لذا هنا أجد نفسي، وأريد حقا أن أجادل حول هذا. لست خائفا من وكيل يمكنه التفاعل. أنا أخاف من وكيل ينقر بينما لا أحد يراقب، من خلال أدوات لم يتحقق منها أحد، في مهام لا يمكن لأحد التراجع عنها. السؤال لم يعد ما إذا كان بإمكان AI استخدام الكمبيوتر. يمكنه ذلك، ومن الآن فصاعدا سيفعل، في الإنتاج، وليس في العروض التوضيحية. السؤال هو ما الذي نحتفظ به لأنفسنا: النقرة النهائية، التوقيع النهائي، الحق في قول توقف.

قل لي بصراحة. ما هي أول مهمة قد تسلمها لوكيل الليلة بدون إشراف، وما هي المهمة الوحيدة التي لن تسلمها أبدا مهما كانت جيدة؟ إجابتك هي السياسة التي لا تزال الصناعة كلها مفقودة.