Ayer, mientras la mayoría aún hablábamos con AI, Google le pasé el ratón en voz baja.

El 30, de octubre el registro de cambios de Gemini API registró una línea corta con largas consecuencias: El uso del ordenador está ahora disponible en general en las APIs de Interacciones y GenerarContenido. En términos sencillos, un desarrollador puede ahora crear un agente que vea capturas de pantalla de una pantalla, decida qué hacer y proponga el siguiente clic, desplazamiento o pulsación de tecla. El programa que se ejecuta en tu ordenador aún tiene que llevar a cabo la acción, y Google es directo con los límites: la herramienta puede cometer errores, puede conllevar fallos de seguridad y tareas importantes requieren supervisión cercana. Advierte contra su uso para decisiones críticas, datos sensibles o cualquier cosa en la que un clic equivocado no pueda deshacerse.

Esa advertencia es toda la historia, porque esta también fue la semana en que la confianza se rompió en otro lugar. El octubre de 29, copias manipuladas de la extensión Claude Code de Anthropic, las versiones 2.1.312 y 2.1.313, permanecieron en el mercado de extensiones de Cursordurante unas once horas y alcanzaron como máximo 5,000 usuarios. Plantaron una puerta trasera persistente SSH y Cursor advirtieron que simplemente desinstalar la extensión no la eliminaría. Anthropic dice que sus propios sistemas no fueron comprometidos; alguien abusó del acceso al marketplace de Cursoren su lugar. Lee estos dos hechos juntos y la imagen se aclara: estamos dando manos a AI agentes, y las manos atraviesan el software que instalamos sin inspeccionarlo realmente.

OpenAI, ese mismo día, octubre 30, en dirección contraria y dio a su chatbot una mano diferente: el poder de detenerse. ChatGPT ahora retendrá información práctica sobre armas y sistemas de seguridad de cuentas que predice que pertenecen a adolescentes, incluso cuando la pregunta parezca inofensiva, y podrá terminar una conversación por sí sola cuando alguien parezca obsesionado con la violencia, con finales repetidos que pueden pausar una cuenta. Se promete un primer Informe de Seguridad Comunitaria para principios de 2027. Así que en una semana, una empresa envió un AI que puede pulsar botones por ti, y otra envió un AI que puede negarse a seguir hablando contigo. Ambas son decisiones sobre agencia, no sobre respuestas más inteligentes.

Existe una versión más tranquila de este futuro, y llegó desde un lugar inesperado: oficinas de planificación en Inglaterra. Google DeepMind dice que su PlanAssist Geminiconstruido redujo el tiempo que los agentes dedican a las tareas de evaluación de los hogares en un 58% en los primeros pilotos de tres ayuntamientos, y ahora está entrando en una beta de doce meses con doce consejos más. El detalle que importa no es el porcentaje. Es que los oficiales tengan la última palabra en cada solicitud. La máquina redacta informes completamente citados; un humano sigue firmando.

Así que aquí es donde llego, y realmente quiero discutir sobre esto. No le tengo miedo a un agente que pueda hacer clic. Me da miedo a un agente que hace clic mientras nadie está mirando, a través de herramientas que nadie comprobó, en tareas que nadie puede deshacer. La cuestión ya no es si AI puede usar un ordenador. Puede, y a partir de ahora lo hará, en producción, no en demos. La cuestión es qué nos quedamos para nosotros: el clic final, la firma final, el derecho a decir stop.

Dime con sinceridad. ¿Cuál sería la primera tarea que le darías a un agente esta noche, sin supervisión, y cuál sería la tarea que nunca entregarías, por muy buena que se ponga? Tu respuesta es la política que aún le falta a toda la industria.