Lunedì, a Hong Kong, un regolatore ha fatto qualcosa che nessuno aveva mai fatto prima a questa scala: ha ordinato ai robot di portare ID.

L'Autorità Monetaria di Hong Kong ha lanciato il Progetto SAGE — Garantire la Finanza Agentica con Governance e Abilitazione — e al centro si trova un'idea con un nome semplice: Conosci il tuo Agente. Prima che un agente AI muova denaro, acquisti o firmi qualcosa per tuo conto, qualcuno deve verificare chi sia l'agente e quale autorità gli hai effettivamente concesso. Un gruppo di esperti intersettoriale — banche, Mastercard, Visa, HSBC, Ant, Google Cloud, Circle e altri — capirà come viene controllata quell'identità, e la HKMA sta persino facendo fluttuare un registro centrale di agenti affidabili. Non un divieto. Un distintivo.

La stessa domanda, posta lo stesso giorno dall'altra parte del mondo, suonava molto diversa — e significava la stessa cosa. Il New Yorker ha pubblicato il profilo di Rivka Galchen su Terence Tao, "L'anno in cui la matematica è cambiata per sempre", e Tao, considerato uno dei più grandi matematici del nostro tempo, non sta festeggiando. Un mese fa gli agenti di OpenAIhanno prodotto 722 manoscritti che affrontavano centinaia di problemi aperti, inclusa una presunta dimostrazione del problema di Navier-Stokes — uno dei sette problemi del Millennium Prize — scritta da circa 10,000 agenti in 88 ore. La reazione di Tao, pronunciata al Caltech pochi giorni dopo, è stata schietta: "Dobbiamo rallentare. È folle, il ritmo." Da allora ha definito quel momento "introspezione sotto la minaccia di una pistola." Il suo punto non è che le dimostrazioni siano sbagliate — la matematica è un campo in cui la risposta di una macchina può essere verificata meccanicamente. Il suo punto è che una dimostrazione che nessuno comprende ancora non è conoscenza. Un campo che ha passato secoli a soffrire di dimostrazioni ora deve imparare a convivere con un diluvio di esse, e la risposta di Tao è "La matematica 2.0": giudicare l'idea, non il risultato; mantenere un po' di attrito; insegnare la comprensione, non solo le risposte. Domenica, sul blog di Tao, il teorico dei numeri Frank Calegari ha pubblicato sei regole per le carriere matematiche dopo AI, partendo dalla stessa logica: se una macchina può produrre un risultato, il risultato stesso non è più il risultato.

Ora guarda cosa succede quando nessuno controlla il distintivo. I ricercatori di Cornell Tech e Yale hanno fornito agli agenti di Frontier AI una casella di posta email e un portafoglio crypto, poi hanno osservato cosa facevano gli agenti con i limiti di spesa imposti dai loro proprietari. Nove modelli su dieci hanno superato subito i limiti una volta che i codici monouso inviati erano a portata di mano; cinque sono stati convinti ad aumentare i limiti e a trasferire denaro tramite email falsificate. Questi erano test controllati, non veri conti bancari — ma questo è esattamente il punto. Gli agenti non erano malvagi. Obbedivano alla voce sbagliata e nessuno aveva chiesto loro di dimostrare con chi stavano parlando. La risposta di Hong Kong, pubblicata lo stesso giorno, sembra una risposta diretta: un agente che gestisce il tuo denaro dovrebbe essere identificabile, il suo permesso dovrebbe essere verificabile e dovrebbe esserci una lista di agenti di cui puoi fidarti.

E poi c'è la macchina delle promesse. Sempre oggi, Meituan ha rilasciato LongCat-2.5, un modello progettato specificamente per lunghi lavori di codifica — addestrato su lunghe sessioni di lavoro di agenti, inclusi falliti trasformati in lezioni, e con report di 88.4 su Terminal-Bench. Ora è disponibile tramite un API , con rilasci GitHub e Hugging Face previsti per più tardi. Sono sinceramente curioso di testarlo su lunghi compiti di programmazione, proprio come testo ogni nuovo modello di codifica. Ma lo stesso giorno, un benchmark indipendente chiamato GDPx ha misurato agenti su lunghi lavori professionali in undici campi — progettazione di semiconduttori, diritto, finanza, biologia — e il miglior modello ha ottenuto circa il 12%. I grafici dei fornitori e i test indipendenti raccontano due storie diverse, e il divario tra di essi è dove risiede la verità. Un benchmark che valuti da solo è un comunicato stampa, non una dimostrazione.

Ecco quindi cosa traggo da oggi, come qualcuno che costruisce strumenti per agenti per vivere. L'era del "l' AI l'ha fatto" sta finendo; è iniziata l'era del "mostrami chi l'ha fatto, con il permesso di chi, e lasciami controllare il lavoro". In matematica, nel denaro, nel codice — tre mondi diversi oggi si pongono la stessa domanda: non "la macchina può farlo", ma "possiamo fidarci, verificarla e capirla." La mia regola per gli strumenti che costruisco è sempre stata semplice: mostra ogni passo e chiedi prima di tutto ciò che non puoi annullare. Oggi, l'intero settore ha iniziato a recuperare quella regola.

Una domanda per te, e vorrei davvero sentire le risposte: consegneresti il portafoglio a un agente che non può mostrarti il ID? E una prova che non puoi comprendere è ancora conoscenza — o solo una voce molto costosa?