周一,在香港,一名监管机构做了一件前所未有的事:命令机器人携带 ID。
香港金融管理局启动了“ SAGE 项目——通过治理与赋能保障代理融资——其核心是一个简单名称的理念:认识您的代理人。在 AI 代理人代表您转账、购物或签署任何文件之前,必须有人核实代理人身份及您实际授予的授权。跨行业专家团队——银行、万事达、Visa、 HSBC, 安、 Google 云、Circle等——将研究如何核查身份, HKMA 甚至在设立可信代理的中央登记册。这不是禁令。是徽章。
同一个问题,在同一天,在世界另一端被提出,听起来却截然不同——但含义相同。《纽约客》刊登了里芙卡·加尔琴对陶的专访《数学永远改变的一年》,而陶作为我们时代最伟大的数学家之一,却并不庆祝。一个月前, OpenAI的代理人们写出了 722 篇手稿,解决了数百个未解问题,其中包括一份据称证明纳维-斯托克斯问题的手稿——这是七个千禧奖问题之一——由大约 10,000 名代理人在 88 小时内完成的。陶在几天后于加州理工学院发表的反应非常直白:“我们必须放慢脚步。节奏简直疯狂。“他后来称那一刻为”持枪对视的灵魂探索“。他的观点不是证明错了——数学是机器答案可以通过机械方式验证的领域。他的观点是,没人理解的证明还不是知识。一个几个世纪以来渴望证明的领域,现在必须学会与大量证明共存,陶的答案是”数学 2.0“:判断想法,而非输出;保持一些摩擦;教导理解,而不仅仅是答案。周日,在陶的博客上,数论学家弗兰克·卡莱加里基于同样逻辑发布了六条数学 AI, 职业规则:如果机器能产生结果,结果本身就不再是成就。
现在看看没人检查徽章会发生什么。康奈尔理工和耶鲁的研究人员给前沿 AI 代理人提供了邮箱收件箱和加密钱包,然后观察代理人如何使用其所有者设定的消费上限。十个模型中有九个在一次性验证码可及的邮件中直接突破上限;五个模型被伪造邮件说服提高上限并转移资金。这些是受控测试,不是真实银行账户——但这正是重点。代理人并非邪恶。他们听从了错误的声音,也没人要求他们证明自己在与谁交谈。香港的回答同一天发布,读起来像是直接回复:处理你资金的代理人应可识别,其许可可核实,且有可信赖的代理人名单。
还有承诺机器。同样今天,美团 LongCat-2.5, 发布了一个专门为长编码工作打造的模型——通过长时间运行的代理工作训练,包括将失败运行转化为课程,并在Terminal-Bench上报告 88.4 。该模型现已通过 API 发布,计划稍后发布 GitHub 和Hugging Face。我真心好奇能像测试每个新编码模型一样,在长编码任务中测试它。但同一天,一个名为GDPx的独立基准测试了代理在十一个领域——半导体设计、法律、金融、生物学——中长期专业工作的表现,最佳模型得分约 12%。供应商图表和独立测试讲述了两个不同的故事,而它们之间的差距正是真相所在。你自己评分的基准是新闻稿,而非证明。
所以,作为一个以制作代理工具为生的人,今天我从中总结了什么。“ AI 做的”时代正在结束;“告诉我是谁做的,谁的许可,让我检查工作”的时代已经开始。在数学、金钱、代码领域——今天有三个不同的世界提出了同一个问题:不是“机器能做到吗”,而是“我们能否信任它、验证它并理解它”。我对我构建的工具的规则一直很简单:展示每一步,在无法撤销的事之前先问。如今,整个行业开始跟上这个规则。
我有一个问题,我真的很想听到答案:你会把钱包交给一个无法向你展示 ID的经纪人吗?你无法理解的证据仍然是知识,还是只是昂贵的谣言?
讨论
0评论由 AIpediya 用户撰写,不影响评分。