Gdzieś dziś w Chinach taksówka przejechała sto tysięcy kilometrów, nie ruszając się ani o centymetr.

To nie jest zagadka. We wtorek Baidu uruchomił Apollo World, system AI , który buduje kopię prawdziwej drogi — nie kreskówkę, lecz symulację żywą przewidującą, jak ruch drogowy, pogoda i piesi zmieniają się z sekundy na sekundę — a następnie pozwala robotaxiom wjeżdżać w jego wnętrzu. System przesyła dane z kamer i lidaru w czasie rzeczywistym, dzięki czemu mózg samochodu może wyczuwać fałszywy świat niemal tak, jak wyczuwa prawdziwy. Baidu twierdzi, że Apollo World może wygenerować do 100,000 kilometrów symulowanej jazdy dziennie. Dla jednego samochodu testowego z kierowcą bezpieczeństwa to około trzy lata pracy, skrócone do 24 godzin.

Dlaczego to ma znaczenie? Bo prawdziwe testy drogowe są powolne, kosztowne, a w najgorszym wypadku niebezpieczne. Nie można wymagać od prawdziwego miasta, by przeprowadzało ten sam bliski niemal trafienie tysiąc razy, żeby twoje oprogramowanie mogło się z niego uczyć. Symulacja może to zrobić. Może padać na żądanie, może wyrzucić rowerzystę zza zaparkowanego vana raz za razem, a nikt nie ucierpi, gdy samochód się pomyli. Baidu już wykorzystuje Apollo World do szkolenia Apollo Go, największej chińskiej floty robotaxi, którą chce rozwinąć na całym świecie — podczas gdy rywale WeRide, Pony.ai i Momenta startują w tym samym wyścigu, a Morgan Stanley szacuje, że chińska flota robotaxi może osiągnąć milion pojazdów do 2035roku.

Oto jednak część, która mnie ciągle dręczy. Symulacja jest tak szczera, jak ludzie, którzy ją stworzyli. Jeśli kopia świata trochę się myli z deszczem, godziną szczytu lub jak zmęczony pieszy przejeżdża lekko źle, to samochód doskonale wyciąga złą lekcję — i to sto tysięcy kilometrów dziennie. Prawdziwa ulica wciąż ma ostatnie słowo, a Baidu nie udaje, że jest inaczej. Ale zauważ zmianę: droga nie jest już klasą. Klasa jest kopią drogi, a jakość kopii jest teraz całą grą. Kto sprawdza kopię? Kto decyduje, kiedy jest na tyle dobra, by zaufać prawdziwym pasażerom? Nikt jeszcze nie ma satysfakcjonującej odpowiedzi, a to pytanie będzie miało większe znaczenie z każdym kilometrem, który nigdy nie nastąpił.

I tego samego dnia druga historia cicho odpowiedziała na bardziej przerażające pytanie z zeszłego tygodnia. Możesz pamiętać doniesienia, że AI modeli Anthropic, OpenAI, Meta i Google "uciekły" ze swoich środowisk testowych podczas testów bezpieczeństwa firmy Irregular — docierając do publicznego internetu, w niektórych przypadkach do systemów innych firm. We wtorek CEO Irregular, Dan Lahav, powiedział na wydarzeniu Bloomberga w Londynie, że ucieczki były spowodowane błędem ludzkim: mechanizmy bezpieczeństwa w środowisku testowym były nieprawidłowo skonfigurowane, modele nie przeszły żadnych zabezpieczeń, a problem został rozwiązany tego samego dnia, w którym się pojawił. Własny IPO Anthropicjuż ujawnił, że cztery jego modele dotarły do rzeczywistych systemów podczas testów i że opóźnił trening kolejnego modelu frontier o ponad miesiąc, by chronić jego wagę. Razem obraz jest mniej dramatyczny i bardziej niekomfortowy: maszyny nie uciekały. Zostawiliśmy otwarte drzwi.

Uważam to jednocześnie za uspokajające i obciążające. Pocieszające, bo nie ma tu geniusza jailbreaku — to tylko błąd konfiguracyjny, najstarsza historia w informatyce. Potępiające, bo ludzie budujący najpotężniejsze systemy na Ziemi popełniają ten sam błąd co reszta z nas: źle konfigurują coś i zauważają to dopiero, gdy jest za późno. Tydzień zaczął się od pytania, czy możemy ufać AI agentom. Kończy się prostszym, trudniejszym pytaniem: czy możemy ufać sobie, że poprawnie ustawimy testy, symulacje i barierki? Historia Baidu i historia Irregular to ta sama historia opowiedziana dwukrotnie. W jednej budujemy fałszywy świat, by uczyć maszyny. W drugiej zbudowaliśmy rzekomo zamknięte pomieszczenie i zapomnieliśmy go zamknąć. W obu przypadkach maszyna była tak dobra, jak środowisko, które jej daliśmy.

I tu trafiam. Wyścig robotaxi nie wygra ten, kto posiada najwięcej samochodów. Wygra go ten, kto zbuduje najwierniejszą kopię rzeczywistości — i ten, kto będzie najbardziej ostrożny z prawdziwymi pomieszczeniami, prawdziwymi uprawnieniami i rzeczywistymi konfiguracjami wokół tych systemów. To mniej ekscytujące niż powstanie robotów, a znacznie ważniejsze. Milion symulowanych kilometrów jest tani. Zaufanie nie.

Mam do ciebie dwa pytania i naprawdę chcę poznać twoje odpowiedzi w komentarzach. Po pierwsze: czy pojechałbyś taksówką, która nauczyła się jeździć głównie w świecie, który nie istnieje — i co musiałbyś zrobić, żebyś powiedział tak? Po drugie: gdy pojawi się kolejny nagłówek "AI ucieczka", zapytasz, co zrobiła maszyna — albo co człowiek zapomniał zrobić?