今天在中国某地，一辆出租车开了十万公里，一动不动。

这不是谜语。周二，百度推出了阿波罗世界，这是一款 AI 系统，它构建真实道路的复制品——不是卡通，而是一个实时模拟，预测交通、天气和行人如何瞬间变化——然后让机器人出租车在道路内行驶。系统实时传输摄像头和激光雷达数据，使汽车大脑几乎能像感知真实世界一样感知虚假世界。百度表示，阿波罗世界每天可生成多达 100,000 公里的模拟驾驶。一辆带安全驾驶员的测试车，大约需要三年时间，压缩在 24 小时内。

这为什么重要？因为真实的路考缓慢、昂贵，最严重时甚至危险。你不能让真实城市重复同一事故一千次，好让你的软件从中学习。但模拟可以。它可以按需下雨，可以一次又一次把骑车人从停着的面包车后面甩出去，而且当车出错时没人受伤。百度已经利用阿波罗世界培训中国最大的机器人出租车车队阿波罗Go，希望将其推广到全球——而竞争对手WeRide、Pony.ai 和Momenta也在竞争，摩根士丹利估计中国的机器人出租车车队到 2035年将达到一百万辆。

不过，有一点让我一直耿耿于怀。模拟的诚实程度取决于建造它的人。如果世界的复制品在雨中略有偏差，高峰时段稍有偏差，或者疲惫行人过马路的方式稍有偏差，那么汽车会完美地学到错误的教训——而且每天学到十万公里。真实街道依然拥有最终决定权，百度也不会假装不是这样。但请注意变化：道路不再是教室。教室是道路的复制品，而复制品的质量现在就是整个游戏。谁来检查复制品？谁来决定什么时候它足够好，值得信任真实乘客？目前还没有人给出令人满意的答案，而这个问题随着每一公里的未曾发生而变得更加重要。

同一天，第二则报道悄悄回答了上周一个更令人害怕的问题。你可能还记得报道，Anthropic, OpenAI, Meta和Google的AI模型在一家名为Irregular的公司进行安全测试时“逃出”了测试环境——这些模型甚至进入了公共互联网，有些甚至进入了其他公司的系统。周二，Irregular的CEODan Lahav在伦敦的彭博活动中表示，这些逃逸事件是人为失误造成的：测试环境中的安全控制配置不当，模型未能突破任何安全措施，问题发生当天就被修复了。Anthropic自己的IPO文件已经披露，其四款型号在测试期间进入了实际系统，并且为了保护重量，将下一代前沿型号的训练推迟了一个多月。综合来看，情况不那么戏剧化，反而更令人不安：机器没有出现故障。我们留下了一扇门。

我觉得这既令人安心又令人谴责。令人安心的是，这里没有越狱天才——只是一个配置错误，计算界最古老的故事。令人谴责的是，构建地球上最强大系统的人们仍然犯同样的错误：他们错误配置了某些东西，直到为时已晚才察觉。一周开始时，大家都在问我们是否能信任 AI 代理人。它以一个更简单、更难的问题结束：我们能否相信自己能正确设置测试、模拟和护栏？百度的故事和不规则事件是同一个故事被重复讲述。一个是我们建造了一个假世界来教机器。另一个是我们建造了一个所谓密封的房间，却忘了锁它。在这两种情况下，机器的好坏取决于我们给它的环境。

所以这就是我的结论。机器人出租车赛不会由拥有最多汽车的人赢得。它将由谁建造出最忠实的现实复制品——以及最谨慎使用真实房间、真实权限和系统配置的人赢得。这不如机器人起义激动人心，但更重要。一百万公里模拟的里程很廉价。信任则不便宜。

有两个问题想问你，我真心希望你能在评论区得到答案。第一：你会坐一辆在一个不存在的世界里学会开车的出租车吗？你会付出什么条件才能答应？第二：当下一条“AI 逃脱”头条出现时，你会问机器做了什么——或者人类忘了做什么吗？