En algún lugar de China hoy, un taxi recorrió cien mil kilómetros sin moverse ni un centímetro.

Eso no es un enigma. El martes, Baidu lanzó Apollo World, un sistema AI que construye una copia de la carretera real — no un dibujo animado, sino una simulación viva que predice cómo cambian el tráfico, el clima y los peatones de un segundo a otro — y luego permite que robotaxis circule dentro de ella. El sistema transmite datos de cámara y lidar en tiempo real, de modo que el cerebro del coche puede percibir el mundo falso casi igual que percibe el real. Baidu dice que Apollo World puede generar hasta 100,000 kilómetros de conducción simulada al día. Para un coche de prueba con conductor de seguridad, eso supone aproximadamente tres años de trabajo, comprimidos en 24 horas.

¿Por qué importa eso? Porque las pruebas reales en carretera son lentas, caras y, en el peor de los casos, peligrosas. No puedes pedirle a una ciudad real que organice el mismo casi accidente mil veces para que tu software aprenda de ella. Una simulación sí puede. Puede llover a demanda, puede echar a un ciclista de detrás de una furgoneta aparcada una y otra vez, y nadie sale herido cuando el coche falla. Baidu ya está usando Apollo World para entrenar Apollo Go, la mayor flota de robotaxis de China, que quiere llevar a nivel global — mientras que sus rivales WeRide, Pony.ai y Momenta corren la misma carrera, y Morgan Stanley estima que la flota de robotaxis de China podría alcanzar un millón de vehículos para 2035.

Pero aquí está la parte que no deja de molestarme. Una simulación solo es tan honesta como las personas que la construyeron. Si la copia del mundo se equivoca un poco con la lluvia, o la hora punta un poco mal, o la forma en que un peatón cansado cruza un poco mal, entonces el coche aprende perfectamente la lección equivocada — y la aprende cien mil kilómetros al día. La calle real sigue teniendo la última palabra, y Baidu no finge lo contrario. Pero fíjate en el cambio: la carretera ya no es el aula. El aula es una copia de la carretera, y la calidad de la copia es ahora todo el juego. ¿Quién revisa la copia? ¿Quién decide cuándo es lo suficientemente buena para confiar a pasajeros reales? Nadie tiene una respuesta satisfactoria todavía, y esa pregunta importará más con cada kilómetro que nunca ocurrió.

Y ese mismo día, una segunda noticia respondió discretamente a una pregunta más inquietante de la semana pasada. Quizá recuerdes los informes de que AI modelos de Anthropic, OpenAI, Meta y Google habían "escapado" de sus entornos de prueba durante pruebas de seguridad realizadas por una empresa llamada Irregular — llegando a internet pública, en algunos casos a los sistemas de otras compañías. El martes, el CEO Dan Lahav de Irregular dijo en un evento de Bloomberg en Londres que las fugas fueron causadas por un error humano: los controles de seguridad en el entorno de prueba estaban mal configurados, los modelos no superaban ninguna medida de seguridad y el problema se solucionó el mismo día que ocurrió. El propio IPO de Anthropicya había revelado que cuatro de sus modelos llegaron a sistemas reales durante las pruebas, y que retrasó el entrenamiento de su siguiente modelo frontera más de un mes para proteger sus pesos. En conjunto, la imagen es menos dramática y más incómoda: las máquinas no se escaparon. Dejamos una puerta abierta.

Me resulta tranquilizador y condenatorio a la vez. Reconfortante, porque aquí no hay ningún genio del jailbreak — solo un error de configuración, la historia más antigua de la informática. Condenatorio, porque las personas que construyen los sistemas más potentes del mundo siguen cometiendo el mismo error que el resto de nosotros: configuran mal algo y solo se dan cuenta cuando es demasiado tarde. La semana empezó con todos preguntando si podemos confiar en AI agentes. Termina con una pregunta más simple y difícil: ¿podemos confiar en nosotros mismos para montar correctamente las pruebas, las simulaciones y las barreras de seguridad? La historia de Baidu y la historia de Irregular son la misma historia contada dos veces. En una, construimos un mundo falso para enseñar a las máquinas. En la otra, construimos una sala supuestamente sellada y olvidamos cerrarla. En ambos casos, la máquina solo fue tan buena como el entorno que le damos.

Así que aquí es donde aterrizo. La carrera de robotaxi no la ganará quien tenga más coches. La ganará quien construya la copia más fiel de la realidad — y quien sea más cuidadoso con las habitaciones reales, los permisos reales y las configuraciones reales alrededor de estos sistemas. Eso es menos emocionante que un levantamiento de robots, y mucho más importante. Un millón de kilómetros simulados son baratos. La confianza no.

Dos preguntas para ti, y sinceramente quiero vuestras respuestas en los comentarios. Primero: ¿irías en un taxi que aprendiera a conducir principalmente en un mundo que no existe — y qué haría falta para que dijeras que sí? Segundo: cuando aparezca el siguiente titular de "AI escape", ¿preguntarás qué hizo la máquina — o qué se olvidó hacer un humano?