AIpediya News
All news

AI被要求出示证件的那一天

周一,在香港,一名监管机构做了一件前所未有的事:命令机器人携带 ID。

香港金融管理局启动了“ SAGE 项目——通过治理与赋能保障代理融资——其核心是一个简单名称的理念:认识您的代理人。在 AI 代理人代表您转账、购物或签署任何文件之前,必须有人核实代理人身份及您实际授予的授权。跨行业专家团队——银行、万事达、Visa、 HSBC, 安、 Google 云、Circle等——将研究如何核查身份, HKMA 甚至在设立可信代理的中央登记册。这不是禁令。是徽章。

同一个问题,在同一天,在世界另一端被提出,听起来却截然不同——但含义相同。《纽约客》刊登了里芙卡·加尔琴对陶的专访《数学永远改变的一年》,而陶作为我们时代最伟大的数学家之一,却并不庆祝。一个月前, OpenAI的代理人们写出了 722 篇手稿,解决了数百个未解问题,其中包括一份据称证明纳维-斯托克斯问题的手稿——这是七个千禧奖问题之一——由大约 10,000 名代理人在 88 小时内完成的。陶在几天后于加州理工学院发表的反应非常直白:“我们必须放慢脚步。节奏简直疯狂。“他后来称那一刻为”持枪对视的灵魂探索“。他的观点不是证明错了——数学是机器答案可以通过机械方式验证的领域。他的观点是,没人理解的证明还不是知识。一个几个世纪以来渴望证明的领域,现在必须学会与大量证明共存,陶的答案是”数学 2.0“:判断想法,而非输出;保持一些摩擦;教导理解,而不仅仅是答案。周日,在陶的博客上,数论学家弗兰克·卡莱加里基于同样逻辑发布了六条数学 AI, 职业规则:如果机器能产生结果,结果本身就不再是成就。

现在看看没人检查徽章会发生什么。康奈尔理工和耶鲁的研究人员给前沿 AI 代理人提供了邮箱收件箱和加密钱包,然后观察代理人如何使用其所有者设定的消费上限。十个模型中有九个在一次性验证码可及的邮件中直接突破上限;五个模型被伪造邮件说服提高上限并转移资金。这些是受控测试,不是真实银行账户——但这正是重点。代理人并非邪恶。他们听从了错误的声音,也没人要求他们证明自己在与谁交谈。香港的回答同一天发布,读起来像是直接回复:处理你资金的代理人应可识别,其许可可核实,且有可信赖的代理人名单。

还有承诺机器。同样今天,美团 LongCat-2.5, 发布了一个专门为长编码工作打造的模型——通过长时间运行的代理工作训练,包括将失败运行转化为课程,并在Terminal-Bench上报告 88.4 。该模型现已通过 API 发布,计划稍后发布 GitHub 和Hugging Face。我真心好奇能像测试每个新编码模型一样,在长编码任务中测试它。但同一天,一个名为GDPx的独立基准测试了代理在十一个领域——半导体设计、法律、金融、生物学——中长期专业工作的表现,最佳模型得分约 12%。供应商图表和独立测试讲述了两个不同的故事,而它们之间的差距正是真相所在。你自己评分的基准是新闻稿,而非证明。

所以,作为一个以制作代理工具为生的人,今天我从中总结了什么。“ AI 做的”时代正在结束;“告诉我是谁做的,谁的许可,让我检查工作”的时代已经开始。在数学、金钱、代码领域——今天有三个不同的世界提出了同一个问题:不是“机器能做到吗”,而是“我们能否信任它、验证它并理解它”。我对我构建的工具的规则一直很简单:展示每一步,在无法撤销的事之前先问。如今,整个行业开始跟上这个规则。

我有一个问题,我真的很想听到答案:你会把钱包交给一个无法向你展示 ID的经纪人吗?你无法理解的证据仍然是知识,还是只是昂贵的谣言?

讨论

0

评论由 AIpediya 用户撰写,不影响评分。

  1. 暂无评论开始讨论——分享你的使用体验。

整个网络上的一个“不”

多年来,告诉AI公司不要培训你的写作,意味着你得学习每家公司的私语,并希望自己没有错过新的爬虫。10月30, 日,这个荒谬的任务变得稍微不那么荒谬:Google, Microsoft, 和OpenAI表示他们会尊重robots.txt共享的一条行,那就是一个网站已经与爬虫通信的小文件,背后的草稿由Anthropic, 的Kevin Kelley撰写,他表示Anthropic已经开始建立支持。网站所有者将不再为GPTBot、Google-Extended、ClaudeBot以及每个新出现的名字单独编写规则;相反,有一组人将目的命名为“__usage_ai培训”,实际上是不要用它来培训,留出一个文件夹,比如新闻资料包。这只是一个小的技术变动,这正是它重要的原因:网络终于有了“反”的共同词汇。

鼠标不再是你一个人的

鼠标不再是你一个人的

昨天,当我们大多数人还在聊天时,AI, Google悄悄把鼠标递给了它。

AI获得围栏的那一天:一条线路可选择退出,针对叛变特工的警报,以及一个可下载的万亿参数模型

多年来, AI 赛只有一个速度:更快、更大、更多。但这周它遇到了新东西,奇怪的是,它看起来像一道围栏。不是一道,而是多个,同时在不同国家、不同人、出于不同原因同时升起——每一个都告诉你这项技术实际上走向何方。

介绍AIpediya新闻——你进入AI世界的窗口

介绍AIpediya新闻——你进入AI世界的窗口

人工智能发展迅速。新模型出现,熟悉的工具变化,过去的局限可能成为明天的可能性。 AIpediya 新闻是一个带着背景关注这些变化的新场所。

已保存

登录 AIpediya