Ieri, mentre la maggior parte di noi stava ancora parlando con AI, Google gli ha passato il mouse in silenzio.

Il 30, ottobre il changelog Gemini API ha registrato una breve riga con lunghe conseguenze: Computer Use è ora generalmente disponibile nelle API Interactions e GenerateContent. In termini semplici, uno sviluppatore può ora costruire un agente che guarda screenshot di uno schermo, decide cosa fare e propone il prossimo clic, scorrimento o pressione di tasto. Il programma in esecuzione sul tuo computer deve comunque eseguire l'azione, e Google è chiaro sui limiti: lo strumento può commettere errori, può avere falle di sicurezza e compiti importanti necessitano di una supervisione attenta. Avverte di non usarlo per decisioni critiche, dati sensibili o qualsiasi cosa in cui un clic sbagliato non possa essere annullato.

Quell'avvertimento è tutta la storia, perché questa è stata anche la settimana in cui la fiducia si è spezzata altrove. L'ottobre 29, copie manomesse dell'estensione Claude Code di Anthropic, versioni 2.1.312 e 2.1.313, sono rimaste nel marketplace delle estensioni di Cursorper circa undici ore e hanno raggiunto al massimo 5,000 utenti. Hanno piazzato una backdoor persistente SSH e Cursor avvertito che semplicemente disinstallare l'estensione non l'avrebbe rimossa. Anthropic dice che i suoi stessi sistemi non sono stati compromessi; qualcuno ha abusato dell'accesso al marketplace di Cursorinvece. Leggi questi due fatti insieme e il quadro si fa più nitido: stiamo dando mano ai AItuoi agenti, e le mani passano attraverso il software che installiamo senza mai verificarlo davvero.

OpenAI, nello stesso giorno, ottobre 30, si è mosso nella direzione opposta e ha dato al chatbot una mano diversa: il potere di fermarsi. ChatGPT ora tratterrà informazioni pratiche sulle armi e sui sistemi di sicurezza da account che prevede appartengano agli adolescenti, anche quando la domanda sembra innocua, e sarà in grado di chiudere una conversazione da sola quando qualcuno sembra fissato sulla violenza, con finali ripetuti che possono mettere in pausa un account. Un primo Rapporto sulla Sicurezza della Comunità è promesso per l'inizio del 2027. Così, in una settimana, un'azienda ha spedito un AI che può premere i pulsanti per te, e un'altra ha spedito un AI che può rifiutarsi di continuare a parlarti. Entrambe sono decisioni sull'agenzia, non su risposte più intelligenti.

Esiste una versione più calma di questo futuro, ed è arrivata da un luogo improbabile: gli uffici di pianificazione in Inghilterra. Google DeepMind afferma che il suo PlanAssist costruito da Geminiha ridotto del 58% il tempo che gli agenti impiegano nei compiti di valutazione dei proprietari di casa nel primo periodo pilota in tre consigli, e ora sta passando a una beta di dodici mesi con altri dodici consigli. Il dettaglio che conta non è la percentuale. È che gli ufficiali abbiano l'ultima parola su ogni domanda. La macchina redige rapporti completamente citati; un essere umano firma ancora.

Quindi qui è dove arrivo, e voglio sinceramente discutere di questo. Non ho paura di un agente che sa cliccare. Ho paura di un agente che clicca mentre nessuno guarda, tramite strumenti che nessuno ha controllato, su compiti che nessuno può annullare. La domanda non è più se AI possa usare un computer. Può, e d'ora in poi lo farà, in produzione, non nelle demo. La domanda è cosa teniamo per noi: il clic finale, la firma finale, il diritto di dire stop.

Dimmi onestamente. Qual è il primo compito che affidresti a un agente stasera, senza supervisione, e qual è l'unico compito che non consegneresti mai, per quanto possa essere buono? La tua risposta è la politica che manca ancora a tutto il settore.