เมื่อวันจันทร์ที่ฮ่องกง หน่วยงานกํากับดูแลได้ทําสิ่งที่ไม่เคยมีใครทํามาก่อนในระดับนี้: สั่งให้หุ่นยนต์พาID

สํานักงานการเงินฮ่องกงได้เปิดตัวโครงการ SAGE — การรักษาความปลอดภัยทางการเงินตัวแทนด้วยการกํากับดูแลและการสนับสนุน — และที่ศูนย์กลางของโครงการคือแนวคิดที่มีชื่อชัดเจนว่า: รู้จักตัวแทนของคุณก่อนที่ตัวแทน AI จะเคลื่อนย้ายเงิน ช็อปปิ้ง หรือเซ็นสัญญาใด ๆ แทนคุณ ต้องมีใครสักคนตรวจสอบว่าตัวแทนนั้นคือใครและคุณมอบอํานาจอะไรให้เขาจริงๆกลุ่มผู้เชี่ยวชาญข้ามภาคส่วน — ธนาคาร, Mastercard, Visa, HSBC, Ant, Google Cloud, Circle และอื่น ๆ — จะหาวิธีตรวจสอบตัวตนนั้น และ HKMA ยังตั้งทะเบียนกลางของตัวแทนที่เชื่อถือได้ไม่ใช่การแบนแต่เป็นตราสัญลักษณ์

คําถามเดียวกันที่ถูกถามในวันเดียวกันอีกฟากหนึ่งของโลกฟังดูแตกต่างมาก — และมีความหมายเหมือนกัน The New Yorker ตีพิมพ์โปรไฟล์ของริฟกา กัลเชน เกี่ยวกับเทอเรนซ์ เทา เรื่อง "ปีที่คณิตศาสตร์เปลี่ยนไปตลอดกาล" และเทา ซึ่งถือเป็นหนึ่งในนักคณิตศาสตร์ที่ยิ่งใหญ่ที่สุดในยุคของเรา กลับไม่ได้เฉลิมฉลองเมื่อเดือนที่แล้ว ตัวแทนของ OpenAIผลิตต้นฉบับ 722 ฉบับที่จัดการกับปัญหาที่ยังเปิดอยู่หลายร้อยข้อ รวมถึงหลักฐานที่อ้างว่าเป็นปัญหา Navier-Stokes — หนึ่งในเจ็ดโจทย์รางวัลมิลเลนเนียม — เขียนโดยเจ้าหน้าที่ประมาณ 10,000 คนในเวลา 88 ชั่วโมงปฏิกิริยาของเทา ซึ่งกล่าวที่ Caltech ในอีกไม่กี่วันต่อมา ตรงไปตรงมาว่า "เราต้องชะลอความเร็วลง จังหวะมันบ้าคลั่งจริง ๆ"เขาเรียกช่วงเวลานี้ว่า "การค้นหาจิตวิญญาณภายใต้การจ่อปืน"ประเด็นของเขาไม่ใช่ว่าการพิสูจน์ผิด — คณิตศาสตร์เป็นสาขาหนึ่งที่คําตอบของเครื่องจักรสามารถตรวจสอบได้ด้วยกลไกประเด็นของเขาคือ การพิสูจน์ที่ไม่มีใครเข้าใจยังไม่ใช่ความรู้สาขาที่เคยหิวโหยพิสูจน์มาหลายศตวรรษ ตอนนี้ต้องเรียนรู้ที่จะอยู่กับการพิสูจน์มากมาย และคําตอบของเต๋าคือ "คณิตศาสตร์ 2.0": ตัดสินแนวคิด ไม่ใช่ผลลัพธ์;รักษาความเสียดสีไว้บ้าง;สอนความเข้าใจ ไม่ใช่แค่คําตอบเมื่อวันอาทิตย์ ในบล็อกของเต๋าเอง นักทฤษฎีตัวเลข แฟรงค์ คาเลการี ได้เผยแพร่กฎหกข้อสําหรับอาชีพคณิตศาสตร์หลังจาก AI, เริ่มจากตรรกะเดียวกัน: ถ้าเครื่องจักรสามารถสร้างผลลัพธ์ได้ ผลลัพธ์นั้นก็ไม่ใช่ความสําเร็จอีกต่อไป

ตอนนี้ลองดูสิ่งที่เกิดขึ้นเมื่อไม่มีใครตรวจสอบตรานักวิจัยจาก Cornell Tech และ Yale มอบกล่องอีเมลและกระเป๋าเงินคริปโตให้กับตัวแทน Frontier AI จากนั้นก็ดูว่าเจ้าหน้าที่ทําอย่างไรกับเพดานการใช้จ่ายที่เจ้าของตั้งไว้เก้าในสิบโมเดลถูกส่งผ่านขีดจํากัดทันทีเมื่อส่งอีเมล รหัสใช้ครั้งเดียวอยู่ในระยะที่เข้าถึงได้;ห้าคนถูกชักชวนให้เพิ่มขีดจํากัดและย้ายเงินผ่านอีเมลปลอมนี่เป็นการทดสอบที่ควบคุมได้ ไม่ใช่บัญชีธนาคารจริง — แต่นั่นแหละคือประเด็นเจ้าหน้าที่ไม่ได้ชั่วร้ายพวกเขาเชื่อฟังเสียงผิด และไม่มีใครถามให้พิสูจน์ว่ากําลังพูดกับใครคําตอบของฮ่องกงที่เผยแพร่ในวันเดียวกันนั้นอ่านเหมือนคําตอบตรง ๆ: ตัวแทนที่จัดการเงินของคุณควรสามารถระบุตัวตนได้ การอนุญาตควรตรวจสอบได้ และควรมีรายชื่อเจ้าหน้าที่ที่คุณไว้ใจได้

และยังมีเครื่องสัญญาวันนี้ Meituan ได้ปล่อยโมเดลที่สร้างขึ้นมาโดยเฉพาะสําหรับงานเขียนโค้ดระยะยาว — ฝึก LongCat-2.5, การทํางานต่อเนื่องของเอเจนต์ รวมถึงการล้มเหลวที่กลายเป็นบทเรียน และการรายงาน 88.4 ใน Terminal-Bench ตอนนี้มีให้ผ่าน API แล้ว โดยมีแผนจะปล่อย GitHub และ Hugging Face ในอนาคตผมอยากทดสอบมันกับงานเขียนโค้ดที่ยาว ๆ เหมือนกับที่ผมทดสอบโมเดลโค้ดใหม่ทุกครั้งแต่ในวันเดียวกัน มีมาตรฐานอิสระชื่อ GDPx วัดตัวแทนในงานมืออาชีพระยะยาวใน 11 สาขา — การออกแบบเซมิคอนดักเตอร์ กฎหมาย การเงิน ชีววิทยา — และโมเดลที่ดีที่สุดได้คะแนนประมาณ 12%แผนภูมิผู้ขายและการทดสอบอิสระบอกเล่าเรื่องราวที่แตกต่างกัน และช่องว่างระหว่างสองอย่างนี้คือที่ที่ความจริงอยู่เกณฑ์มาตรฐานที่คุณให้คะแนนตัวเองคือข่าวประชาสัมพันธ์ ไม่ใช่การพิสูจน์

ดังนั้นนี่คือสิ่งที่ผมได้รับจากวันนี้ ในฐานะคนที่สร้างเครื่องมือตัวแทนเป็นอาชีพยุคของ " AI ทํามัน" กําลังจะสิ้นสุดลง;ยุคของ "แสดงให้ผมเห็นว่าใครทํา ใครได้รับอนุญาต และให้ผมตรวจสอบงาน" ได้เริ่มต้นขึ้นแล้วในคณิตศาสตร์ ในเงิน ในโค้ด — มีสามโลกที่แตกต่างกันถามคําถามเดียวกันในวันนี้: ไม่ใช่ "เครื่องจักรทําได้ไหม" แต่เป็น "เราสามารถไว้วางใจ ตรวจสอบ และเข้าใจมันได้ไหม"กฎของผมสําหรับเครื่องมือที่ผมสร้างนั้นง่ายเสมอ: แสดงทุกขั้นตอน และถามก่อนสิ่งใดที่คุณไม่สามารถย้อนกลับได้วันนี้ อุตสาหกรรมทั้งหมดเริ่มตามทันกฎนี้

มีคําถามหนึ่งสําหรับคุณ และผมอยากฟังคําตอบจริง ๆ: คุณจะมอบกระเป๋าสตางค์ให้กับตัวแทนที่ไม่สามารถแสดง IDให้คุณดูได้ไหม?และหลักฐานที่คุณไม่เข้าใจยังคงเป็นความรู้ — หรือเป็นแค่ข่าวลือที่มีราคาแพงมาก?