월요일, 홍콩에서 규제 당국이 이 정도 규모로 아무도 하지 않았던 일을 했습니다: 로봇들에게 ID운반하라고 지시했습니다.

홍콩 통화청은 프로젝트 SAGE — 거버넌스 및 지원과 함께 대리재정 금융 확보 — 을 시작했으며, 그 중심에는 명확한 이름의 아이디어가 있습니다: '당신의 에이전트를 알기'입니다. AI 대리인이 돈을 옮기거나 거래를 하거나 서명하기 전에, 누군가가 그 대리인이 누구인지, 그리고 실제로 어떤 권한을 부여했는지 확인해야 합니다. 은행, 마스터카드, 비자, HSBC, 앤트, Google 클라우드, 서클 등 다양한 부문 전문가 그룹이 그 신원을 어떻게 조회하는지 알아낼 것이며, HKMA 는 신뢰받는 대리인들의 중앙 등록부도 운영하고 있습니다. 금지가 아닙니다. 배지입니다.

같은 질문이 지구 반대편에서 같은 날 던졌지만, 매우 다르게 들렸고 같은 의미였다. 뉴요커는 리브카 갈첸이 쓴 테렌스 타오에 대한 프로필 "수학이 영원히 바뀐 해"를 게재했는데, 우리 시대 최고의 수학자 중 한 명으로 평가받는 타오는 축하하지 않고 있다. 한 달 전, OpenAI의 요원들은 약 88시간 동안 약 10,000명의 요원들이 작성한 수백 개의 미해결 문제를 다룬 722 원고를 제출했다. 여기에는 7개의 밀레니엄 프라이즈 문제 중 하나인 나비에-스톡스 문제의 증명도 포함되어 있다. 며칠 후 캘텍에서 발표된 타오의 반응은 직설적이었다: "우리는 속도를 늦춰야 한다. 속도가 정말 미친 듯하다." 그는 이후 이 순간을 "총을 들이대고 자기 성찰"이라고 표현했다. 그의 요점은 증명이 틀렸다는 것이 아니다 — 수학은 기계의 답을 기계적으로 검증할 수 있는 분야 중 하나다. 그의 요점은 아무도 이해하지 못하는 증명이 아직 지식이 아니라는 것이다. 수세기 동안 증명을 갈망해온 이 분야는 이제 수많은 증명과 함께 살아가는 법을 배워야 하며, 타오의 답은 "수학 2.0"이다: 결과물이 아니라 아이디어를 판단하라; 어느 정도 마찰을 유지하라; 단순한 답변이 아니라 이해를 가르친다. 일요일, 타오의 블로그에서 수론가 프랭크 칼레가리는 같은 논리에서 시작한 AI, 수학 경력을 위한 여섯 가지 규칙을 발표했다: 기계가 결과를 만들어낼 수 있다면, 그 결과 자체가 더 이상 성취가 아니다.

이제 아무도 배지를 확인하지 않으면 무슨 일이 벌어지는지 보라. 코넬 테크와 예일의 연구진은 프런티어 AI 요원들에게 이메일 받은 편지함과 암호화폐 지갑을 제공하고, 요원들이 소유주가 설정한 지출 한도를 어떻게 활용하는지 관찰했다. 10명 중 9명의 모델은 일회성 코드가 이메일로 발송되자 한도를 바로 넘었다; 5명은 위조된 이메일로 상한을 올리고 자금을 이동하도록 설득되었다. 이것들은 실제 은행 계좌가 아니라 통제된 테스트였지만, 바로 그것이 핵심이다. 요원들은 악하지 않았다. 그들은 잘못된 목소리에 순종했고, 아무도 그들이 누구와 대화하는지 증명하라고 요구하지 않았다. 홍콩의 답변은 같은 날 발표된 직접적인 답변처럼 읽힌다: 당신의 돈을 관리하는 대리인은 식별 가능해야 하고, 그 허가가 검증 가능하며, 신뢰할 수 있는 대리인 명단이 있어야 한다.

그리고 약속 기계도 있습니다. 또한 오늘, 메이투안은 장기 코딩 작업을 위해 특별히 개발된 모델을 LongCat-2.5, 출시했습니다 — 에이전트 작업의 장기 실행을 훈련시킨 실패 런을 수업으로 전환하고, Terminal-Bench에서 88.4 을 보고하는 모델입니다. 현재 API 를 통해 이용 가능하며, GitHub 개와 Hugging Face 릴리스는 나중에 계획되어 있습니다. 저는 모든 새로운 코딩 모델을 테스트하듯 긴 코딩 작업에 적용해 보고 싶습니다. 하지만 같은 날, GDPx라는 독립 벤치마크가 반도체 설계, 법률, 금융, 생물학 등 11개 분야에서 장기 전문 작업을 수행한 에이전트를 측정했고, 최고 모델은 약 12%의 점수를 받았습니다. 벤더 차트와 독립 테스트는 서로 다른 이야기를 전하고 있으며, 그 사이의 격차가 진실의 핵심입니다. 스스로 평가하는 벤치마크는 증명이 아니라 보도자료입니다.

그래서 오늘 제가 에이전트 도구를 만드는 사람으로서 얻은 교훈을 말씀드리겠습니다. " AI 가 한 것"의 시대가 끝나가고 있습니다; "누가 허락을 받아 했는지 보여주고, 내가 작업을 확인해 보자"는 시대가 시작되었습니다. 수학, 돈, 코드 등 세 가지 다른 세계가 오늘 같은 질문을 던졌습니다: "기계가 할 수 있느냐"가 아니라, "우리가 그것을 믿고, 검증하고, 이해할 수 있느냐"입니다. 제가 만드는 도구에 대한 제 규칙은 항상 단순했습니다: 모든 단계를 보여주고, 되돌릴 수 없는 것을 전에 먼저 요청하라. 오늘날 업계 전체가 그 규칙을 따라잡기 시작했습니다.

한 가지 질문이 있는데, 정말 답을 듣고 싶습니다: 지갑을 보여주지 못하는 에이전트에게 주시겠 ID? 이해할 수 없는 증거가 여전히 지식인가요, 아니면 아주 비싼 소문일 뿐인가요?