Ontem, enquanto a maioria de nós ainda conversava com AI, Google entreguei o rato para ele, silenciosamente.

Em outubro de 30, , o registro de alterações do Gemini API registrou uma linha curta com longas consequências: O Uso do Computador agora está geralmente disponível nas APIs Interactions e GenerateContent. Em linguagem simples, um desenvolvedor pode agora criar um agente que analisa capturas de tela de uma tela, decide o que fazer e propõe o próximo clique, rolagem ou tecla pressionada. O programa que está rodando no seu computador ainda precisa executar a ação, e Google é direta quanto aos limites: a ferramenta pode cometer erros, pode apresentar falhas de segurança e tarefas importantes precisam de supervisão próxima. Ela alerta contra o uso dela para decisões críticas, dados sensíveis ou qualquer coisa onde um clique errado não possa ser revertido.

Esse alerta é toda a história, porque esta também foi a semana em que a confiança foi quebrada em outro lugar. Em outubro de 29, , cópias adulteradas da extensão Claude Code da Anthropic, versões 2.1.312 e 2.1.313, ficaram no marketplace de extensões da Cursorpor cerca de onze horas e alcançaram no máximo 5,000 usuários. Eles plantaram uma porta SSH persistente e Cursor alertaram que simplesmente desinstalar a extensão não a removeria. Anthropic diz que seus próprios sistemas não foram comprometidos; alguém abusou do acesso ao marketplace da Cursorem vez disso. Leia esses dois fatos juntos e a imagem fica mais nítida: estamos dando mãos aos agentes AI, e as mãos passam pelo software que instalamos sem nunca realmente inspecioná-lo.

OpenAI, no mesmo dia, outubro 30, seguiu na direção oposta e deu ao chatbot uma mão diferente: o poder de parar. ChatGPT agora vai reter informações práticas de armas e sistemas de segurança de contas que prevê pertencer a adolescentes, mesmo quando a pergunta parecer inofensiva, e poderá encerrar uma conversa sozinha quando alguém parecer obcecado com violência, com finais repetidos que podem pausar uma conta. Um primeiro Relatório de Segurança Comunitária é prometido para o início de 2027. Assim, em uma semana, uma empresa enviou um AI que pode apertar botões para você, e outra enviou um AI que pode se recusar a continuar falando com você. Ambas são decisões sobre agência, não sobre respostas mais inteligentes.

Existe uma versão mais calma desse futuro, e ela veio de um lugar improvável: escritórios de planejamento na Inglaterra. Google DeepMind diz que seu PlanAssist construído Geminireduziu o tempo que os oficiais gastavam em tarefas de avaliação de moradores em 58% nos primeiros pilotos em três conselhos, e agora está entrando em um beta de doze meses com mais doze conselhos. O detalhe que importa não é a porcentagem. É que os oficiais têm a palavra final em cada solicitação. A máquina elabora relatórios totalmente citados; um humano ainda assina.

Então é aqui que eu paro, e eu realmente quero discutir sobre isso. Não tenho medo de um agente que consegue clicar. Tenho medo de um agente que clica enquanto ninguém está assistindo, por meio de ferramentas que ninguém verificou, em tarefas que ninguém pode desfazer. A questão não é mais se AI consegue usar um computador. Ele pode, e daqui em diante vai, na produção, não nas demonstrações. A questão é o que guardamos para nós: o clique final, a assinatura final, o direito de dizer para parar.

Me diga honestamente. Qual seria a primeira tarefa que você entregaria a um agente hoje à noite, sem supervisão, e qual seria a tarefa que você nunca entregaria, não importa o quão boa seja? Sua resposta é a política que toda a indústria ainda está faltando.