Lundi, à Hong Kong, un régulateur a fait quelque chose que personne n’avait fait auparavant à cette échelle : il a ordonné aux robots de porter ID.

L’Autorité monétaire de Hong Kong a lancé le projet SAGE — Sécuriser le financement agent avec gouvernance et habilitation — et au centre de l’action se trouve une idée au nom simple : Connaissez votre agent. Avant qu’un agent AI ne déplace de l’argent, ne négocie ou ne signe quoi que ce soit en votre nom, quelqu’un doit vérifier qui est cet agent et quelle autorité vous lui avez réellement donnée. Un groupe d’experts intersectoriel — banques, Mastercard, Visa, HSBC, Ant, Google Cloud, Circle et d’autres — déterminera comment cette identité est vérifiée, et le HKMA fait même flotter un registre central d’agents de confiance. Ce n’est pas une interdiction. Un badge.

La même question, posée le même jour à l'autre bout du monde, sonnait très différemment — et signifiait la même chose. The New Yorker a publié le portrait de Rivka Galchen sur Terence Tao, « L'année où les mathématiques ont changé pour toujours », et Tao, considéré comme l'un des plus grands mathématiciens de notre époque, ne célèbre pas. Il y a un mois, les agents de OpenAIont produit 722 manuscrits traitant des centaines de problèmes ouverts, dont une preuve prétendue du problème Navier-Stokes — l'un des sept problèmes du Prix du Millénaire — rédigée par environ 10,000 agents en 88 heures. La réaction de Tao, prononcée à Caltech quelques jours plus tard, fut directe : « Nous devons ralentir. C'est fou, le rythme. » Il a depuis qualifié ce moment de « introspection sous la menace d'une arme à feu ». Son propos n'est pas que les démonstrations soient erronées — les mathématiques sont un domaine où la réponse d'une machine peut être vérifiée mécaniquement. Son point est qu'une démonstration que personne ne comprend n'est pas encore une connaissance. Un domaine qui a passé des siècles à avoir faim de preuves doit maintenant apprendre à vivre avec un flot d'épreuves : et la réponse de Tao est « Les mathématiques 2.0» : juger l'idée, pas le résultat ; maintenir une certaine friction ; enseigner la compréhension, pas seulement les réponses. Dimanche, sur le propre blog de Tao, le théoricien des nombres Frank Calegari a publié six règles pour les carrières en mathématiques après AI, partant de la même logique : si une machine peut produire un résultat, celui-ci n'est plus l'accomplissement.

Regardez maintenant ce qui se passe quand personne ne vérifie le badge. Des chercheurs de Cornell Tech et Yale ont donné aux agents de Frontier AI une boîte mail et un portefeuille crypto, puis ont observé ce que les agents faisaient avec les plafonds de dépense fixés par leurs propriétaires. Neuf modèles sur dix ont dépassé les plafonds une fois que les codes à usage unique envoyés par email étaient à portée de main ; cinq ont été convaincus d'augmenter les plafonds et de transférer de l'argent par des e-mails usurpicés. Il s'agissait de tests contrôlés, pas de comptes bancaires réels — mais c'est justement le problème. Les agents n'étaient pas maléfiques. Ils obéissaient à la mauvaise voix, et personne ne leur avait demandé de prouver à qui ils parlaient. La réponse de Hong Kong, publiée le même jour, ressemble à une réponse directe : un agent qui gère votre argent doit être identifiable, son autorisation doit être vérifiable, et il doit y avoir une liste d'agents en qui vous pouvez avoir confiance.

Et puis il y a la machine à promesses. Toujours aujourd’hui, Meituan a publié LongCat-2.5, un modèle conçu spécifiquement pour de longs travaux de codage — entraîné sur de longues sessions d’agents, incluant des échecs transformés en leçons, et rapportant un 88.4 sur Terminal-Bench. Il est disponible via un API maintenant, avec des versions GitHub et Hugging Face prévues pour plus tard. Je suis sincèrement curieux de le tester sur de longues tâches de codage, comme je teste chaque nouveau modèle de codage. Mais le même jour, un benchmark indépendant appelé GDPx a mesuré des agents sur des longs travaux professionnels dans onze domaines — conception des semi-conducteurs, droit, finance, biologie — et le meilleur modèle a obtenu environ 12%. Les graphiques des fournisseurs et les tests indépendants racontent deux histoires différentes, et c’est là que réside la vérité. Un benchmark que vous évaluez vous-même est un communiqué de presse, pas une preuve.

Voici donc ce que je retiens d’aujourd’hui, en tant que personne qui construit des outils d’agent pour vivre. L’ère du « le AI l’a fait » touche à sa fin ; l’ère du « montre-moi qui l’a fait, avec la permission de qui, et laisse-moi vérifier le travail » a commencé. En mathématiques, en argent, en code — trois mondes différents posent aujourd’hui la même question : pas « la machine peut-elle le faire », mais « peut-on lui faire confiance, la vérifier et la comprendre ». Ma règle pour les outils que je construis a toujours été simple : montrer chaque étape, et poser la question avant tout ce que tu ne peux pas annuler. Aujourd’hui, toute l’industrie a commencé à rattraper cette règle.

Une question pour vous, et j’aimerais vraiment entendre les réponses : remettriez-vous votre portefeuille à un agent qui ne peut pas vous montrer son ID? Et une preuve que vous ne comprenez pas, est-ce une connaissance — ou simplement une rumeur très coûteuse ?