Ở đâu đó tại Trung Quốc ngày nay, một chiếc taxi đã chạy một trăm nghìn cây số mà không di chuyển một chút nào.

Đó không phải là một câu đố. Vào thứ Ba, Baidu đã ra mắt Apollo World, một hệ thống AI tạo ra một bản sao của con đường thật — không phải là một bức tranh hoạt hình, mà là một mô phỏng sống dự đoán cách giao thông, thời tiết và người đi bộ thay đổi từng giây — rồi cho phép robotaxis lái bên trong đó. Hệ thống truyền dữ liệu camera và lidar theo thời gian thực, để bộ não xe có thể cảm nhận thế giới giả gần như giống như cảm nhận thế giới thật. Baidu cho biết Apollo World có thể tạo ra tới 100,000 km mô phỏng lái xe mỗi ngày. Đối với một chiếc xe thử nghiệm có tài xế an toàn, đó là khoảng ba năm làm việc, được nén lại trong 24 giờ.

Tại sao điều đó lại quan trọng? Bởi vì thử nghiệm thực tế trên đường thì chậm, tốn kém và, ở mức tệ nhất, rất nguy hiểm. Bạn không thể yêu cầu một thành phố thực sự tổ chức một vụ suýt trượt hàng nghìn lần để phần mềm của bạn học hỏi từ nó. Một mô phỏng thì có thể. Nó có thể mưa theo yêu cầu, nó có thể ném một tay đua xe đạp ra khỏi xe van đậu hết lần này đến lần khác, và không ai bị thương khi xe làm sai. Baidu đã sử dụng Apollo World để huấn luyện Apollo Go, đội robotaxi lớn nhất Trung Quốc, mà họ muốn đưa ra toàn cầu — trong khi các đối thủ như WeRide, Pony.ai và Momenta cũng tham gia cùng cuộc đua, và Morgan Stanley ước tính đội robotaxi của Trung Quốc có thể đạt một triệu xe vào năm 2035.

Tuy nhiên, đây là phần cứ ám ảnh tôi. Một mô phỏng chỉ trung thực khi có những người đã xây dựng nó. Nếu bản sao thế giới bị mưa hơi sai, hoặc giờ cao điểm hơi sai, hoặc cách người đi bộ mệt mỏi băng qua sai, thì chiếc xe sẽ học sai bài học hoàn hảo — và học nó hàng trăm nghìn cây số mỗi ngày. Con phố thực vẫn là người quyết định cuối cùng, và Baidu không giả vờ khác đi. Nhưng hãy chú ý sự thay đổi: con đường không còn là lớp học nữa. Lớp học là bản sao của con đường, và chất lượng bản sao giờ là toàn bộ trò chơi. Ai kiểm tra bản sao? Ai quyết định khi nào nó đủ tốt để tin tưởng với hành khách thật? Chưa ai có câu trả lời thỏa đáng, và câu hỏi đó sẽ càng quan trọng hơn với mỗi kilomet chưa từng xảy ra.

Và ngay trong ngày hôm đó, một câu chuyện thứ hai đã lặng lẽ trả lời một câu hỏi đáng sợ hơn từ tuần trước. Bạn có thể nhớ các báo cáo rằng các mô hình AI của Anthropic, OpenAI, Meta và Google đã "thoát ra" môi trường thử nghiệm trong quá trình kiểm tra bảo mật của một công ty tên là Irregular — tiếp cận được internet công cộng, trong một số trường hợp là hệ thống của các công ty khác. Vào thứ Ba, CEO Dan Lahav của Irregular đã chia sẻ tại một sự kiện của Bloomberg ở London rằng các vụ thoát ra là do lỗi con người: các kiểm soát an ninh trong môi trường thử nghiệm được cấu hình không đúng, các mô hình không vượt qua được bất kỳ biện pháp bảo vệ nào, và vấn đề đã được khắc phục ngay trong ngày xảy ra. Hồ sơ IPO của Anthropicđã tiết lộ rằng bốn mô hình của họ đã đến được hệ thống thực tế trong quá trình thử nghiệm, và họ đã trì hoãn việc huấn luyện mô hình biên giới tiếp theo hơn một tháng để bảo vệ trọng lượng của nó. Tổng thể, bức tranh không quá kịch tính mà gây khó chịu hơn: các máy móc không bị phá vỡ. Chúng tôi để một cánh cửa mở.

Tôi thấy điều đó vừa an ủi vừa là điều đáng trách cùng lúc. An tâm, vì ở đây không có thiên tài jailbreak nào — chỉ là một lỗi cấu hình, câu chuyện cổ xưa nhất trong ngành máy tính. Đáng nguyền rủa, vì những người xây dựng các hệ thống mạnh nhất trên trái đất vẫn mắc phải sai lầm như chúng ta: họ cấu hình sai một thứ gì đó, và chỉ nhận ra khi đã quá muộn. Tuần bắt đầu với việc mọi người hỏi liệu chúng ta có thể tin tưởng các đặc vụ AI không. Nó kết thúc bằng một câu hỏi đơn giản và khó hơn: liệu chúng ta có thể tin tưởng bản thân để thiết lập các bài kiểm tra, mô phỏng và lan can bảo vệ đúng không? Câu chuyện Baidu và câu chuyện Irregular là cùng một câu chuyện được kể hai lần. Ở một lần, chúng ta xây dựng một thế giới giả để dạy máy móc. Trong lần kia, chúng ta xây một căn phòng được cho là đã bị niêm phong và quên khóa nó. Trong cả hai trường hợp, máy móc chỉ tốt bằng môi trường mà chúng ta tạo ra.

Vậy đây là điểm tôi muốn nói. Cuộc đua robotaxi sẽ không do ai sở hữu nhiều xe nhất thắng. Nó sẽ thuộc về người xây dựng bản sao thực tế trung thành nhất — và bởi người cẩn thận nhất với các phòng thật, quyền thực và cấu hình thực quanh các hệ thống này. Điều đó ít hấp dẫn hơn một cuộc nổi dậy của robot, và quan trọng hơn nhiều. Một triệu km mô phỏng là rẻ. Niềm tin thì không.

Có hai câu hỏi dành cho bạn, và tôi thực sự muốn nghe câu trả lời của bạn trong phần bình luận. Thứ nhất: bạn có đi taxi đã học lái chủ yếu trong một thế giới không tồn tại — và cần gì để bạn đồng ý? Thứ hai: khi tiêu đề "AI escape" tiếp theo xuất hiện, bạn có hỏi chiếc máy đã làm gì — hoặc con người đã quên làm gì không?