W poniedziałek w Hongkongu regulator zrobił coś, czego nikt wcześniej nie zrobił na taką skalę: nakazał robotom przenosić ID.

Hongkońska Agencja Monetarna uruchomiła Projekt SAGE — Zabezpieczenie finansowania agentycznego z udziałem ładu korporacyjnego i umożliwiania — a w jego centrum leży pomysł o prostej nazwie: Poznaj swojego agenta. Zanim agent AI przeniesie pieniądze, dokona zakupów lub podpisze cokolwiek w twoim imieniu, ktoś musi zweryfikować, kim jest agent i jakie uprawnienia faktycznie mu udzieliłeś. Międzysektorowa grupa ekspertów — banki, Mastercard, Visa, HSBC, Ant, Google Cloud, Circle i inne — ustali, jak ta tożsamość jest sprawdzana, a HKMA nawet uruchamia centralny rejestr zaufanych agentów. Nie ban. Odznaka.

To samo pytanie, zadano tego samego dnia po drugiej stronie świata, brzmiało zupełnie inaczej — i oznaczało to samo. The New Yorker opublikował profil Rivki Galchen o Terence'ie Tao "Rok, w którym matematyka zmieniła się na zawsze", a Tao, uważany za jednego z największych matematyków naszych czasów, nie świętuje. Miesiąc temu agenci OpenAIprzedstawili 722 rękopisów poruszających setki otwartych problemów, w tym rzekomy dowód problemu Naviera-Stokesa — jednego z siedmiu problemów Millennium Prize — napisany przez około 10,000 agentów w ciągu 88 godzin. Reakcja Tao, wygłoszona kilka dni później na Caltechu, była dosadna: "Musimy zwolnić. To szaleństwo, to tempo." Od tamtej pory nazwał ten moment "poszukiwaniem duszy pod groźbą broni." Jego punktem nie jest to, że dowody są błędne — matematyka to dziedzina, w której odpowiedź maszyny można mechanicznie sprawdzić. Jego punktem jest to, że dowód, którego nikt nie rozumie, nie jest jeszcze wiedzą. Dziedzina, która przez wieki głodowała dowodów, musi teraz nauczyć się żyć z ich zaletem, a odpowiedź Tao brzmi: "Matematyka 2.0": oceniaj ideę, nie wynik; zachowaj pewne tarcie; ucz zrozumienia, nie tylko odpowiedzi. W niedzielę, na blogu Tao, teoretyk liczb Frank Calegari opublikował sześć zasad dla kariery matematycznej po AI, wychodząc od tej samej logiki: jeśli maszyna potrafi wygenerować wynik, sam wynik nie jest już osiągnięciem.

Teraz spójrzmy, co się dzieje, gdy nikt nie sprawdza identyfikatora. Badacze z Cornell Tech i Yale dali agentom Frontier AI skrzynkę mailową i portfel kryptowalutowy, a potem obserwowali, co agenci zrobią z limitami wydatków ustawionymi przez właścicieli. Dziewięć z dziesięciu modeli przeszło przez limity, gdy jednorazowe kody były w zasięgu e-maila; pięć zostało namówionych do podniesienia limitów i przesunięcia pieniędzy przez fałszywe e-maile. Były to kontrolowane testy, a nie prawdziwe konta bankowe — ale właśnie o to chodzi. Agenci nie byli źli. Byli posłuszni niewłaściwemu głosowi i nikt nie prosił ich o udowodnienie, z kim rozmawiają. Odpowiedź Hongkongu, opublikowana tego samego dnia, brzmi jak bezpośrednia odpowiedź: agent zarządzający twoimi pieniędzmi powinien być identyfikowalny, jego zgoda powinna być weryfikowalna, a powinna istnieć lista agentów, którym możesz zaufać.

A potem jest maszyna obietnic. Również dziś Meituan wypuścił LongCat-2.5, model stworzony specjalnie dla długich zadań kodowania — trenowany na długich seriach pracy agentów, w tym nieudanych przebiegów przekształconych w lekcje oraz raportowaniu 88.4 na Terminal-Bench. Jest dostępny już przez API , a premiery GitHub i Hugging Face planowane są na później. Jestem naprawdę ciekaw, by przetestować go na długich zadaniach kodowania, tak jak testuję każdy nowy model kodowania. Ale tego samego dnia niezależny benchmark o nazwie GDPx mierzył agentów na długich badaniach zawodowych w jedenastu dziedzinach — projektowaniu półprzewodników, prawie, finanse, biologia — a najlepszy model uzyskał około 12%. Wykresy dostawców i niezależne testy opowiadają dwie różne historie, a luka między nimi to miejsce, gdzie kryje się prawda. Benchmarkiem, który sam oceniasz, jest komunikat prasowy, a nie dowód.

Oto więc to, co dziś wynoszę, jako ktoś, kto zawodowo tworzy narzędzia agenta. Era " AI to zrobił" dobiega końca; era "pokaż mi, kto to zrobił, za czyją zgodą i pozwól mi sprawdzić pracę" właśnie się rozpoczęła. W matematyce, pieniądzach, kodzie — trzy różne światy dziś zadają sobie to samo pytanie: nie "czy maszyna może to zrobić", lecz "czy możemy jej zaufać, zweryfikować i zrozumieć". Moja zasada dla narzędzi, które buduję, zawsze była prosta: pokaż każdy krok i zapytaj, zanim cokolwiek nie da się cofnąć. Dziś cała branża zaczęła doganiać tę zasadę.

Jedno pytanie do ciebie, na które naprawdę chcę usłyszeć odpowiedzi: czy oddałbyś portfel agentowi, który nie może pokazać ci swojego ID? I czy dowód, którego nie rozumiesz, to wciąż wiedza — czy tylko bardzo droga plotka?