Quelque part en Chine aujourd’hui, un taxi a parcouru cent mille kilomètres sans bouger d’un pouce.

Ce n'est pas une énigme. Mardi, Baidu a lancé Apollo World, un système AI qui construit une copie de la route réelle — pas un dessin animé, mais une simulation vivante qui prédit comment la circulation, la météo et les piétons changent d'une seconde à l'autre — puis permet aux robotaxis de rouler à l'intérieur. Le système diffuse en temps réel les données de caméra et de lidar en direct, de sorte que le cerveau de la voiture peut percevoir le faux monde presque comme il perçoit le vrai monde. Baidu affirme qu'Apollo World peut générer jusqu'à 100,000 kilomètres de conduite simulée par jour. Pour une voiture d'essai avec un conducteur de sécurité, cela représente environ trois ans de travail, condensés en 24 heures.

Pourquoi cela est-il important ? Parce que les vrais tests routiers sont lents, coûteux et, au pire, dangereux. Vous ne pouvez pas demander à une vraie ville de simuler le même manque de manque mille fois pour que votre logiciel puisse en tirer des leçons. Une simulation peut. Elle peut pleuvoir à la demande, elle peut jeter un cycliste hors d'un fourgon garé encore et encore, et personne ne se blesse si la voiture se trompe. Baidu utilise déjà Apollo World pour entraîner Apollo Go, la plus grande flotte de robotaxis de Chine, qu'elle souhaite porter à l'échelle mondiale — tandis que ses rivaux WeRide, Pony.ai et Momenta courent la même course, et Morgan Stanley estime que la flotte de robotaxis chinois pourrait atteindre un million de véhicules d'ici 2035.

Voici la partie qui ne cesse de me tracasser. Une simulation n’est honnête que par ceux qui l’ont construite. Si la copie du monde se trompe légèrement sur la pluie, ou sur l’heure de pointe, ou si la façon dont un piéton fatigué traverse légèrement de travers, alors la voiture apprend parfaitement la mauvaise leçon — et la retient cent mille kilomètres par jour. La vraie rue a toujours le dernier mot, et Baidu ne prétend pas le contraire. Mais remarquez ce changement : la route n’est plus la salle de classe. La salle de classe est une copie de la route, et la qualité de la copie est désormais tout le jeu. Qui vérifie la copie ? Qui décide quand elle est assez bonne pour faire confiance à de vrais passagers ? Personne n’a encore de réponse satisfaisante, et cette question comptera plus à chaque kilomètre qui n’a jamais existé.

Et le même jour, une seconde histoire a discrètement répondu à une question plus inquiétante de la semaine dernière. Vous vous souvenez peut-être des rapports selon lesquels AI modèles de Anthropic, OpenAI, Meta et Google avaient « échappé » à leurs environnements de test lors de tests de sécurité menés par une société appelée Irregular — atteignant Internet public, dans certains cas les systèmes d'autres entreprises. Mardi, Dan Lahav, CEO d'Irregular, a déclaré lors d'un événement Bloomberg à Londres que les évasions étaient causées par une erreur humaine : les contrôles de sécurité dans l'environnement de test étaient mal configurés, les modèles ne violaient aucune garantie, et le problème avait été corrigé le jour même. Le propre dépôt de IPO de Anthropicavait déjà révélé que quatre de ses modèles avaient atteint de vrais systèmes lors des tests, et qu'il avait retardé l'entraînement de son modèle de frontière de plus d'un mois pour protéger ses poids. Assemblé, le tableau est moins dramatique et plus inconfortable : les machines ne se sont pas évasées. Nous avons laissé une porte ouverte.

Je trouve cela à la fois rassurant et condamnant. Rassurant, car il n’y a pas ici de génie de l’évasion — juste une erreur de configuration, la plus ancienne histoire de l’informatique. Accablant, car les personnes qui construisent les systèmes les plus puissants sur terre font encore la même erreur que nous autres : ils se trompent sur quelque chose, et ne s’en rendent compte que lorsqu’il est trop tard. La semaine a commencé avec tout le monde demandant si nous pouvions faire confiance à AI agents. Elle se termine par une question plus simple et plus difficile : pouvons-nous nous faire confiance pour bien configurer les tests, les simulations et les garde-corps ? L’histoire de Baidu et celle d’Irregular sont la même histoire racontée deux fois. Dans l’une, nous construisons un faux monde pour enseigner aux machines. Dans l’autre, nous avons construit une pièce supposément scellée et oublié de la verrouiller. Dans les deux cas, la machine n’a jamais été aussi bonne que l’environnement que nous lui avons donné.

Voici donc où j’en atterris. La course de robot-taxi ne sera pas gagnée par celui qui possède le plus de voitures. Elle sera gagnée par celui qui construira la copie la plus fidèle de la réalité — et par celui qui sera le plus prudent avec les vraies pièces, les vraies permissions et les vraies configurations autour de ces systèmes. C’est moins excitant qu’une révolte de robots, et bien plus important. Un million de kilomètres simulés, c’est bon marché. La confiance ne l’est pas.

Deux questions pour vous, et je souhaite sincèrement vos réponses dans les commentaires. Premièrement : prendriez-vous un taxi qui a surtout appris à conduire dans un monde qui n’existe pas — et que faudrait-il pour dire oui ? Deuxièmement : quand le prochain titre «AI fuite » apparaîtra, vous demanderez-vous ce que la machine a fait — ou ce qu’un humain a oublié de faire ?