今天在中國某處，一輛計程車開了十萬公里，一動也不動。

這不是謎語。週二，百度推出了阿波羅世界，一套 AI 系統，能建立真實道路的複製品——不是卡通，而是活生生的模擬，預測交通、天氣和行人如何隨時間變化——然後讓機器人計程車在裡面行駛。系統即時串流攝影機和雷射雷達數據，讓車輛大腦幾乎能感知真實世界。百度表示，阿波羅世界每天可產生多達 100,000 公里的模擬駕駛。一輛有安全駕駛的測試車，約需三年時間壓縮成 24 小時。

這有什麼重要？因為真正的路試緩慢、昂貴，最糟時甚至危險。你不能要求真實城市重複一千次差點出事，讓你的軟體學習。模擬可以。它可以隨時下雨，可以一次又一次把自行車騎士從停放的廂型車後面甩出去，且當車輛失誤時，沒有人受傷。百度已經利用阿波羅世界訓練中國最大的機器人計程車車隊 Apollo Go，並希望將其推向全球——而競爭對手 WeRide、Pony.ai 和 Momenta 也在競賽，摩根士丹利估計中國的機器人計程車車隊在 2035年後可能達到百萬輛。

但這裡有一點讓我一直耿耿於懷。模擬的誠實程度取決於建造它的人。如果世界的複製品在雨中稍微錯誤，尖峰時段稍微錯誤，或疲憊行人過馬路的方式稍有偏差，那麼車輛完美地學會錯誤的教訓——而且每天學十萬公里。真實街道仍擁有最終決定權，百度也不會假裝不是。但請注意變化：道路不再是教室。教室是道路的複製品，而複製品的品質現在就是整個遊戲。誰來檢查複製品？誰決定什麼時候該信任真實乘客？沒有人有令人滿意的答案，而這個問題隨著每一公里從未發生過的距離而變得更加重要。

同一天，第二則報導悄悄回答了上週一個更令人害怕的問題。你可能還記得報導說 Anthropic, OpenAI, Meta 和 Google 的AI模型在一家名為 Irregular 的公司進行安全測試時「逃脫」了他們的測試環境——甚至進入了公開網路，有些甚至是其他公司的系統。週二，Irregular 的 CEO Dan Lahav 在倫敦的一場 Bloomberg 活動中表示，這些逃逸是人為錯誤造成的：測試環境中的安全控制設定不當，模型並未違反任何防護措施，問題當天就被修正了。Anthropic自己的IPO申報文件已披露，其四款模型在測試時已進入真實系統，且為了保護重量，延遲了下一個前沿型號的訓練超過一個月。綜合來看，情況較不戲劇化，反而更令人不安：這些機器沒有故障。我們忘了開門。

我覺得這既令人安心又令人譴責。令人安心的是，這裡沒有越獄天才——只是設定錯誤，這是電腦界最古老的故事。令人不安的是，建造地球上最強大系統的人仍犯我們常犯的錯誤：他們錯誤配置了某些東西，直到為時已晚才發現。這一週一開始，大家都在問我們是否能信任 AI 代理人。最後以一個更簡單、更艱難的問題作結：我們能相信自己能正確設置測試、模擬和護欄嗎？百度的故事和不規則者的故事是重複講的同一故事。一個是我們建造一個假世界來教導機器。另一個是我們建造了一個所謂密封的房間，卻忘了鎖門。在這兩種情況下，機器的品質取決於我們給它的環境。

所以這就是我的結論。機器人計程車競賽不會由擁有最多車輛的人贏得。它將由誰打造出最忠實的現實複製品——以及最謹慎使用真實房間、真實權限和系統配置的人贏得。這比機器人起義更不刺激，但更重要。一百萬公里模擬公里是廉價的。信任則不便宜。

有兩個問題想問你，我真心希望你能在留言區得到答案。第一：你會搭乘一輛在一個不存在的世界裡學會開車的計程車嗎？你需要什麼條件才能說願意？第二：當下一個「AI 逃脫」的標題出現時，你會問機器做了什麼——還是人類忘了做什麼？