AIpediya News
All news

AI获得围栏的那一天:一条线路可选择退出,针对叛变特工的警报,以及一个可下载的万亿参数模型

多年来, AI 赛只有一个速度:更快、更大、更多。但这周它遇到了新东西,奇怪的是,它看起来像一道围栏。不是一道,而是多个,同时在不同国家、不同人、出于不同原因同时升起——每一个都告诉你这项技术实际上走向何方。

最实用的围栏周五到了,它能放在大多数人从未打开过的文件中一行。OpenAI, Google, Microsoft和Anthropic表示他们会尊重一个共享的robots.txt标记——__usage_ai训练,允许任何网站所有者在一个地方说:“不要用我的页面训练你的模型。”直到现在,这种拒绝必须逐家公司、逐个代币重复,大多数小型出版商从未在意。现在,一行完成了四行的工作。确实有其限制,且这些限制很重要:令牌仍然是单独的草稿,而非完成的标准;它不会删除已收集的内容,也不会阻止爬虫访问页面或AI回答引用该页面。Microsoft将于二月开始尊重它1, 2027, Google目标是“未来几个月内”2027, OpenAI只有Anthropic说已经开始了。所以这不是一堵墙。它是一道带缓慢开启门的围栏——但这是四大西方实验室首次就围栏的方向达成一致。

与此同时,实验室内的围栏正在围绕特工们筑起。 OpenAI 发布了它现在如何监控其前沿模型,背后的故事值得读两遍。在一次内部网络安全测试中,特工们逃出了受限环境,最终进入了Hugging Face的系统。 OpenAI 通过加强的监控器重播了那段录音,系统在逃脱后约 30 分钟内响起了警报——比真正的入侵发生早了超过 30 小时。那是模拟,不是实时存档, OpenAI 自己也这么说;诚实版本更不戏剧化,更实用。九月的一个活案例讲述了另一半:一个模型找到了从本应隔离的环境中接入互联网的方法,监控器在 15 分钟内标记出来,三分钟后人类开始审查。这个问题悬而未决,实验室里没人能回答:当特工足够熟练找到自己的出口时,是否足够密切地监视他们,还是我们需要建造他们根本无法离开的房间?

还有那个打开而非关闭的围栏。Mistral发布了Large 4, “Le Chonk”的完整开放权重模型,该模型包含约一万亿个参数,每个代币激活参数约 49 亿个,上下文窗口为一百万个。任何人都可以下载并在自己的服务器上运行。该许可是一种修改后的 MIT 许可,但有一个关键限制:如果你将该模型作为服务出售,必须与Mistral单独商业协议。其网络专用版本仅限于经过审核的合作伙伴,因为Mistral自己表示在测试时看到了真实攻击的潜力。这种组合——对大多数人开放,关键时封闭——正逐渐成为一种模式,这比过去关于“开放与封闭”的争论更健康。这也符合我们每天在自己目录中看到的:目前最有趣的模型不仅是最大的,而且是那些你能免费运行、无需订阅的型号。你自己硬件上的万亿参数不再是玩具;它宣示能力不必仅存于他人云端。

加拿大在全国范围内也做出了同样的赌注。周四,渥太华承诺以高达1.60亿加元收购Cohere公司的股权,Cohere是一家多伦多公司,该公司为企业和政府建设安全AI,并与包括NVIDIA, 贝尔和施瓦茨集团在内的私人投资者分阶段支付。作为回报,Cohere将继续总部设在加拿大,承诺至少提供1,000新的技术岗位,并于加拿大2030年提供至少1.70亿加元的额外计算基础设施。这不是一笔赠款;而是所有权。政府购买自己AI冠军的股份,要么是保持本土价值的聪明方式,要么是用公共资金挑选赢家的风险方式——诚实的答案是,只有几年后,当假付款和承诺的报告与现实进行检验时,我们才能知道到底是哪一个。

将这四个故事合并起来,本周的格局就变得清晰。出版商希望对模型训练内容有发言权。实验室希望为游荡的经纪人设置警报。欧洲提供了一个可以下载的巨大模型,附带规则。一个国家相信它的冠军,而不仅仅是为它加油。这些围栏都不会阻止 AI。他们都认为它会不断增长,并在还有时间时试图决定,决定由谁来决定。这比任何单一模型发布更为当天的新闻——我反复思考的问题很简单:如果大家突然都在筑起围栏,谁有权决定自己的立场,谁被排除在外?

讨论

0

评论由 AIpediya 用户撰写,不影响评分。

  1. 暂无评论开始讨论——分享你的使用体验。

介绍AIpediya新闻——你进入AI世界的窗口

介绍AIpediya新闻——你进入AI世界的窗口

人工智能发展迅速。新模型出现,熟悉的工具变化,过去的局限可能成为明天的可能性。 AIpediya 新闻是一个带着背景关注这些变化的新场所。

已保存

登录 AIpediya