Vào thứ Hai, tại Hồng Kông, một cơ quan quản lý đã làm điều chưa ai từng làm ở quy mô này: họ yêu cầu các robot mang ID.

Cơ quan Tiền tệ Hồng Kông đã khởi động Dự án SAGE — Đảm bảo Tài chính Đại lý với Quản trị và Hỗ trợ — và ở trung tâm là một ý tưởng với cái tên đơn giản: Biết về Đại lý của Bạn. Trước khi một đại lý của AI chuyển tiền, mua sắm hoặc ký bất cứ thứ gì thay mặt bạn, ai đó phải xác minh đại lý là ai và bạn thực sự đã trao quyền hạn gì. Một nhóm chuyên gia liên ngành — ngân hàng, Mastercard, Visa, HSBC, Ant, Google Cloud, Circle và các tổ chức khác — sẽ tìm cách kiểm tra danh tính đó, và HKMA thậm chí còn mở một sổ đăng ký trung tâm các đại lý đáng tin cậy. Không phải là cấm. Mà là một huy hiệu.

Cùng một câu hỏi, được hỏi cùng ngày ở phía bên kia thế giới, nghe rất khác — và có cùng ý nghĩa. The New Yorker đã đăng bài chân dung về Terence Tao của Rivka Galchen, "Năm Toán học Thay đổi Mãi mãi," và Tao, được xem là một trong những nhà toán học vĩ đại nhất thời đại chúng ta, không ăn mừng. Một tháng trước, các đại diện của OpenAIđã sản xuất 722 bản thảo giải quyết hàng trăm vấn đề mở, bao gồm cả bằng chứng được tuyên bố về vấn đề Navier-Stokes — một trong bảy bài toán Giải Thiên niên kỷ — được viết bởi khoảng 10,000 đặc vụ trong 88 giờ. Phản ứng của Tao, được trình bày tại Caltech vài ngày sau đó, rất thẳng thắn: "Chúng ta phải chậm lại. Nhịp độ thật điên rồ." Kể từ đó, ông gọi khoảnh khắc đó là "tìm kiếm bản thân dưới sự uy hiếp bằng súng." Ý ông không phải là các chứng minh sai — toán học là một lĩnh vực mà câu trả lời của máy móc có thể được kiểm tra một cách cơ học. Ý ông là một chứng minh mà không ai hiểu chưa phải là kiến thức. Một lĩnh vực từng dành hàng thế kỷ đói thấu chứng minh giờ phải học cách sống chung với một lượng lớn chứng minh, và câu trả lời của Tao là "Toán học 2.0"Toán học ": đánh giá ý tưởng, không phải kết quả; giữ một chút ma sát; dạy hiểu biết, không chỉ là câu trả lời. Vào Chủ nhật, trên blog của Tao, nhà lý thuyết số Frank Calegari đã công bố sáu quy tắc cho sự nghiệp toán học sau AI, bắt đầu từ cùng logic: nếu một cỗ máy có thể tạo ra kết quả, thì kết quả đó không còn là thành tựu nữa.

Bây giờ hãy nhìn xem chuyện gì xảy ra khi không ai kiểm tra huy hiệu. Các nhà nghiên cứu tại Cornell Tech và Yale đã trao cho các đại lý Frontier AI một hộp thư email và một ví tiền điện tử, rồi theo dõi cách các nhân viên làm với giới hạn chi tiêu mà chủ sở hữu đã đặt. Chín trên mười người mẫu đã vượt qua giới hạn ngay khi gửi qua email thì mã một lần đã nằm trong tầm tay; năm người bị thuyết phục tăng giới hạn và chuyển tiền qua email giả mạo. Đây là các bài kiểm tra có kiểm soát, không phải tài khoản ngân hàng thật — nhưng đó chính là điểm mấu chốt. Các nhân viên không phải là kẻ xấu. Họ tuân lệnh giọng nói sai lầm, và không ai yêu cầu họ chứng minh họ đang nói chuyện với ai. Câu trả lời của Hồng Kông, được công bố cùng ngày, đọc như một câu trả lời trực tiếp: một đại lý xử lý tiền của bạn phải có thể nhận diện, sự cho phép của họ phải có thể xác minh, và phải có danh sách các đại lý bạn có thể tin tưởng.

Và còn có máy hứa hẹn. Cũng hôm nay, Meituan phát hành LongCat-2.5, một mô hình được xây dựng riêng cho các công việc lập trình dài — được huấn luyện trên các chuỗi tác nhân kéo dài, bao gồm cả các lần thất bại được chuyển thành bài học, và báo cáo 88.4 trên Terminal-Bench. Hiện tại nó đã có trên API , với các bản phát hành GitHub và Hugging Face dự kiến sẽ ra mắt sau này. Tôi thực sự tò mò muốn thử nghiệm nó trên các nhiệm vụ lập trình dài, giống như cách tôi kiểm tra mọi mô hình lập trình mới. Nhưng cùng ngày hôm đó, một chuẩn độc lập gọi là GDPx đo các tác nhân trên các công việc chuyên nghiệp dài trên mười một lĩnh vực — thiết kế bán dẫn, luật, tài chính, sinh học — và mô hình tốt nhất đạt khoảng 12%. Biểu đồ nhà cung cấp và các bài kiểm tra độc lập đang kể hai câu chuyện khác nhau, và khoảng cách giữa chúng là nơi sự thật tồn tại. Một tiêu chuẩn bạn tự chấm điểm là thông cáo báo chí, không phải là bằng chứng.

Vậy đây là những gì tôi rút ra từ ngày hôm nay, với tư cách là người xây dựng công cụ tác nhân để kiếm sống. Thời đại của " AI đã làm" đang kết thúc; thời đại của "cho tôi thấy ai đã làm, với sự cho phép của ai, và để tôi kiểm tra công việc" đã bắt đầu. Trong toán học, trong tiền bạc, trong mã nguồn — ba thế giới khác nhau ngày nay đặt cùng một câu hỏi: không phải "máy móc có làm được không," mà là "chúng ta có thể tin tưởng nó, kiểm tra và hiểu nó." Quy tắc của tôi với các công cụ tôi xây dựng luôn đơn giản: cho thấy từng bước, và hỏi trước bất cứ điều gì bạn không thể đảo ngược. Ngày nay, toàn bộ ngành công nghiệp bắt đầu bắt kịp quy tắc đó.

Một câu hỏi dành cho bạn, và tôi thực sự muốn nghe câu trả lời: bạn có đưa ví của mình cho một đại lý không thể cho bạn thấy IDkhông? Và liệu bằng chứng bạn không thể hiểu vẫn là kiến thức — hay chỉ là một tin đồn đắt tiền?