Em algum lugar da China hoje, um táxi percorreu cem mil quilômetros sem se mover um centímetro.

Isso não é um enigma. Na terça-feira, a Baidu lançou o Apollo World, um sistema AI que constrói uma cópia da estrada real — não um desenho animado, mas uma simulação viva que prevê como o tráfego, o clima e os pedestres mudam de um segundo para o outro — e depois permite que os robotaxis dirijam dentro dela. O sistema transmite dados de câmeras e lidar em tempo real, então o cérebro do carro pode sentir o mundo falso quase da mesma forma que percebe o mundo real. Baidu diz que o Apollo World pode gerar até 100,000 quilômetros de direção simulada por dia. Para um carro de teste com um motorista de segurança, isso equivale a cerca de três anos de trabalho, comprimidos em 24 horas.

Por que isso importa? Porque testes reais de estrada são lentos, caros e, no pior dos casos, perigosos. Você não pode pedir para uma cidade real encenar o mesmo quase acidente mil vezes para que seu software aprenda com isso. Uma simulação pode. Pode chover sob demanda, pode jogar um ciclista para fora de trás de uma van estacionada repetidas vezes, e ninguém se machuca quando o carro erra. A Baidu já está usando o Apollo World para treinar o Apollo Go, a maior frota de robotáxi da China, que quer levar globalmente — enquanto rivais WeRide, Pony.ai e Momenta correm a mesma corrida, e Morgan Stanley estima que a frota de robotáxi da China pode chegar a um milhão de veículos até 2035.

Mas aqui está a parte que não para de me incomodar. Uma simulação só é tão honesta quanto as pessoas que a construíram. Se a cópia do mundo errar um pouco com a chuva, ou na hora do rush, ou a forma como um pedestre cansado atravessa um pouco errado, então o carro aprende a lição errada perfeitamente — e aprende cem mil quilômetros por dia. A rua real ainda tem a palavra final, e Baidu não finge o contrário. Mas repare na mudança: a estrada não é mais a sala de aula. A sala de aula é uma cópia da estrada, e a qualidade da cópia agora é o jogo inteiro. Quem confere a cópia? Quem decide quando ela é boa o suficiente para confiar passageiros reais? Ninguém tem uma resposta satisfatória ainda, e essa pergunta vai importar mais a cada quilômetro que nunca aconteceu.

E no mesmo dia, uma segunda matéria respondeu discretamente a uma pergunta mais assustadora da semana passada. Você talvez se lembre dos relatos de que modelos AI da Anthropic, OpenAI, Meta e Google haviam "escapado" de seus ambientes de teste durante testes de segurança por uma empresa chamada Irregular — chegando à internet pública, em alguns casos aos sistemas de outras empresas. Na terça-feira, o CEO Dan Lahav, da Irregular, disse em um evento da Bloomberg em Londres que as fugas foram causadas por erro humano: os controles de segurança no ambiente de teste estavam configurados incorretamente, os modelos não violaram nenhuma salvaguarda, e o problema foi corrigido no mesmo dia em que ocorreu. O próprio documento de IPO da Anthropicjá havia revelado que quatro de seus modelos chegaram a sistemas reais durante os testes, e que atrasou o treinamento do próximo modelo fronte em mais de um mês para proteger seus pesos. Juntando, a imagem é menos dramática e mais desconfortável: as máquinas não escaparam. Deixamos uma porta aberta.

Acho isso reconfortante e condenador ao mesmo tempo. Reconfortante, porque não há nenhum gênio do jailbreak aqui — apenas um erro de configuração, a história mais antiga da computação. Condenador, porque as pessoas que constroem os sistemas mais poderosos da Terra ainda cometem o mesmo erro que o resto de nós: elas configuram algo errado e só percebem quando já é tarde demais. A semana começou com todos perguntando se podemos confiar nos agentes AI . Termina com uma pergunta mais simples e difícil: podemos confiar em nós mesmos para montar corretamente os testes, as simulações e os guarda-corpos? A história do Baidu e a história do Irregular são a mesma história contada duas vezes. Em uma, construímos um mundo falso para ensinar máquinas. No outro, construímos uma sala supostamente lacrada e esquecemos de trancá-la. Em ambos os casos, a máquina só foi tão boa quanto o ambiente que demos a ela.

Então é aqui que eu paro. A corrida de robotáxi não será vencida por quem tiver mais carros. Será vencida por quem construir a cópia mais fiel da realidade — e por quem for mais cuidadoso com as salas reais, permissões reais e configurações reais nesses sistemas. Isso é menos empolgante do que uma revolta de robôs, e muito mais importante. Um milhão de quilômetros simulados é barato. Confiança não é.

Duas perguntas para você, e eu realmente quero suas respostas nos comentários. Primeiro: você viajaria em um táxi que aprendeu a dirigir principalmente em um mundo que não existe — e o que seria preciso para você dizer sim? Segundo: quando aparecer a próxima manchete "AI fuga", você vai perguntar o que a máquina fez — ou o que um humano esqueceu de fazer?