Dün, çoğumuz hâlâ konuşurken AI, Google sessizce fareyi uzattı.

30, Ekim'de Gemini API değişiklik kaydı, uzun sonuçlar doğuran kısa bir çizgi kaydetti: Bilgisayar Kullanımı artık Etkileşimler ve GenerateContent API'lerinde genel olarak erişilebilir. Açık dilde, bir geliştirici artık bir ekran ekran görüntülerine bakan, ne yapacağına karar veren ve bir sonraki tıklama, kaydırma veya tuş basmasını öneren bir ajan oluşturabilir. Bilgisayarınızda çalışan program hâlâ işlemi gerçekleştirmek zorunda, Google sınırları konusunda açık söz: araç hata yapabilir, güvenlik hataları taşıyabilir ve önemli görevler sıkı denetim gerektirir. Kritik kararlar, hassas veriler veya yanlış tıklamanın geri alınamayacağı herhangi bir şey için kullanılmaması konusunda uyarıda bulunur.

Bu uyarı tam hikaye, çünkü aynı zamanda başka bir yerde güvenin çöktüğü haftaydı. 29, Ekim'de Anthropic'un Claude Code uzantısı olan 2.1.312 ve 2.1.313, sürümlerinin tahrip edilmiş kopyaları yaklaşık on bir saat boyunca Cursor'un uzantı pazarında bekledi ve en fazla 5,000 kullanıcıya ulaştı. Kalıcı bir SSH arka kapı yerleştirdiler ve Cursor , uzantının sadece kaldırılmasının onu kaldırmayacağını uyardı. Anthropic , kendi sistemlerinin tehlikeye girmediğini söylüyor; bunun yerine birisi Cursor'un pazar yerine erişimi kötüye kullandı. Bu iki gerçeği birlikte okuyun ve tablo keskinleşiyor: AI ajanlara eller veriyoruz ve eller kurduğumuz yazılımı hiç incelemeden uzanıyor.

OpenAI, aynı gün, Ekim 30, tam tersi yöne kaydı ve sohbet botuna farklı bir el verdi: durdurma gücü. ChatGPT , artık gençlere ait olduğunu tahmin ettiği hesaplardan pratik silahlar ve güvenlik sistemi bilgilerini saklayacak, soru zararsız görünse bile, ve biri şiddete takıntılı göründüğünde konuşmayı kendi başına sona erdirebilecek; tekrarlayan sonlar hesabı duraklatabilir. İlk Topluluk Güvenliği Raporu erken 2027vaat ediliyor. Yani bir hafta içinde bir şirket sizin için düğmelere basabilen bir AI gönderdi, diğeri ise sizinle konuşmaya devam edebilen bir AI gönderdi. Her ikisi de akıllıca cevaplar değil, ajansla ilgili kararlar.

Bu geleceğin daha sakin bir versiyonu var ve bu durum beklenmedik bir yerden geldi: İngiltere'deki planlama ofisleri. Google DeepMind, Geminigeliştirdiği PlanAssist'in, üç konseyde erken pilot uygulamalarda görevlilerin evli değerlendirme görevlerine harcadığı zamanı % 58azalttığını ve şimdi on iki konseyle on iki aylık bir beta sürümüne geçtiğini söylüyor. Önemli olan yüzde değil. Önemli olan her başvuruda son sözü görevlilerin söylemesidir. Makine tam atıf edilmiş raporları taslak olarak hazırlar; bir insan hâlâ imza atıyor.

İşte burada varıyorum ve gerçekten bunun üzerine tartışmak istiyorum. Tıklayabilen bir ajandan korkmuyorum. Kimse izlemezken, kimsenin kontrol etmediği araçlarla, kimsenin geri alamayacağı görevlerde tıklama yapan bir ajandan korkuyorum. Soru artık AI bilgisayar kullanıp kullanamayacağı. Kullanabileceği ve bundan sonra da yapacak, demolarda değil, üretimde. Soru kendimize ne sakladığımız: son tıklama, son imza, 'dur' deme hakkı.

Dürüstçe söyle. Bu gece bir ajana denetimsiz ilk vereceğin görev nedir ve ne kadar iyi olursa olsun asla teslim etmeyeceğin tek görev hangisi? Cevabın tüm sektörün hâlâ eksik olduğu politika.