月曜日、香港で規制当局がこれまで誰もこの規模でやったことのないことを行いました。ロボットに「 IDを運ぶように指示したのです。」

香港金融管理局はプロジェクト SAGE ―ガバナンスと支援を伴う代理人金融の確保――を開始し、その中心にはシンプルな名前のアイデアがあります:「エージェントを知る」です。 AI エージェントが資金を移動したり、買い物をしたり、あなたの代わりに何かに署名する前に、誰かがその代理人が誰で、実際にどのような権限を与えたかを確認しなければなりません。銀行、マスターカード、ビザ、 HSBC, アント、 Google クラウド、サークルなど、業界を超えた専門家グループがその身元確認方法を調査し、 HKMA は信頼できるエージェントの中央登録簿まで浮かべています。禁止ではありません。バッジです。

同じ質問が世界の反対側で同じ日に投げかけられたものの、まったく異なる響きであり、同じ意味を持っていた。ニューヨーカー紙はリヴカ・ガルチェンによるテレンス・タオのプロフィール『数学が永遠に変わった年』を掲載し、現代の偉大な数学者の一人とされるタオは、決して祝っているわけではない。1か月前、 OpenAIのエージェントたちは数百の未解決の問題に取り組む 722 本の原稿を提出し、その中にはミレニアム賞7つの問題の一つであるナビエ・ストークス問題の証明とされるものも含まれており、約 10,000 人のエージェントが 88 時間で書いた。数日後にカリフォルニア工科大学で発表されたタオの反応は率直だった。「ペースを落とさなければならない。このペースは狂気じみている。」彼はその後、その瞬間を「銃を突きつけて魂を探る」と呼んでいる。彼の言いたいのは証明が間違っているということではない――数学は機械の答えを機械的に検証できる分野の一つだ。彼の言いたいのは、誰も理解していない証明はまだ知識ではないということだ。何世紀にもわたって証明を渇望してきたこの分野が、今や大量の証明と共に生きることを学ばなければならない。タオの答えは「数学 2.0」だ:出力ではなくアイデアを判断し、摩擦を保つこと;答えだけでなく理解を教えること。日曜日、タオ自身のブログで、数論家フランク・カレガリは、同じ論理から AI, 数学キャリアのための6つのルールを発表した。機械が結果を生み出せるなら、その結果自体がもはや成果ではない。

さて、誰もバッジを確認しなかった場合に何が起こるか見てみましょう。コーネル工科大学とイェール大学の研究者たちは、フロンティア AI のエージェントにメールの受信箱と暗号通貨ウォレットを提供し、その後、エージェントが所有者が設定した支出上限をどう扱うかを観察しました。10モデル中9モデルは、メールで一度きりのコードが届くと上限をすっかり超えました。5人は、偽装されたメールで上限を引き上げ、資金を移動させるよう説得されました。これらは本物の銀行口座ではなく、管理されたテストでしたが、まさにそれがポイントです。エージェントたちは悪人ではありませんでした。彼らは間違った声に従い、誰とも彼らが誰と話しているのか証明を求めていなかったのです。香港の回答は、同じ日に公開され、まるで直接の返答のように読めます。つまり、あなたの資金を扱うエージェントは特定可能で、その許可が検証可能で、信頼できるエージェントのリストがあるべきです。

そして、約束マシンもあります。また本日、美団は長時間のコーディング作業向けに特化したモデルを LongCat-2.5, リリースしました。これは、エージェント作業の長期実行を訓練し、失敗した実行をレッスンに変換し、Terminal-Benchで 88.4 を報告するものでした。現在は API を通じて利用可能で、 GitHub やHugging Faceのリリースは後日予定です。私は新しいコーディングモデルをテストするのと同じように、長時間のコーディングタスクでテストしてみたいと本当に興味があります。しかし同じ日に、GDPxという独立したベンチマークが、半導体設計、法学、金融、生物学の11分野にわたる長期的なプロフェッショナル作業におけるエージェントを測定し、最良のモデルは約 12%のスコアを記録しました。ベンダーチャートと独立したテストは異なる物語を語っており、その間のギャップこそが真実の所在です。自分で評価するベンチマークは、証明ではなくプレスリリースです。

そこで、エージェントツールを作る仕事をしている者として、今日から私が得たものを紹介します。「 AI がやった」時代は終わりつつあります。「誰がやったのか、誰の許可で、仕事を確認しさせてくれ」という時代が始まりました。数学、お金、コードの分野で――今日、三つの異なる世界が同じ問いを投げかけました。「機械ができるか」ではなく、「それを信頼し、検証し、理解できるか」です。私が作るツールに対する私のルールはいつもシンプルでした:すべてのステップを見せ、取り消せないことの前に必ず尋ねること。今日、業界全体がそのルールに追いつき始めました。

あなたに一つだけ質問があります。そして本当に答えを聞きたいのです。財布の IDを示せないエージェントに渡しますか?そして、理解できない証拠はまだ知識なのか、それともただの高価な噂に過ぎませんか?