Wczoraj, gdy większość z nas jeszcze rozmawiała z AI, Google cicho podał mu myszkę.

30, października Gemini API changelog zanotował krótką linijkę z długimi konsekwencjami: Computer Use jest teraz powszechnie dostępny w interfejsach Interactions i GenerateContent API. Mówiąc prosto, programista może teraz stworzyć agenta, który patrzy na zrzuty ekranu, decyduje, co zrobić i proponuje kolejne kliknięcie, przewinięcie lub naciśnięcie klawisza. Program działający na twoim komputerze nadal musi wykonać tę akcję, a Google jest bezpośredni co do ograniczeń: narzędzie może popełniać błędy, może mieć luki w zabezpieczeniach, a ważne zadania wymagają ścisłego nadzoru. Ostrzega przed używaniem go do krytycznych decyzji, wrażliwych danych lub czegokolwiek, gdzie nie da się cofnąć błędnego kliknięcia.

To ostrzeżenie to cała historia, bo to był też tydzień, w którym zaufanie gdzieś indziej się złamało. 29, października zmanipulowane kopie rozszerzenia Claude Code Anthropic, wersje 2.1.312 i 2.1.313, leżały na rynku rozszerzeń Cursorprzez około jedenaście godzin i dotarły do maksymalnie 5,000 użytkowników. Założyli trwałe SSH tylne wejście i Cursor ostrzegł, że samo odinstalowanie rozszerzenia nie usunie go. Anthropic twierdzi, że jego własne systemy nie zostały przejęte; ktoś nadużył dostępu do marketplace Cursor. Przeczytaj te dwa fakty razem, a obraz się wyostrza: dajemy agentom AI ręce, a ręce sięgają przez oprogramowanie, które instalujemy, nie sprawdzając go naprawdę.

OpenAI, tego samego dnia 30, października poszedł w przeciwnym kierunku i dał chatbotowi inną rękę: moc zatrzymania. ChatGPT teraz będzie powstrzymywać praktyczną broń i informacje o systemach bezpieczeństwa z kont, które przewiduje jako należące do nastolatków, nawet gdy pytanie wydaje się nieszkodliwe, i będzie mógł zakończyć rozmowę sam, gdy ktoś wydaje się skupiony na przemocy, a powtarzające się zakończenia mogą zatrzymać konto. Pierwszy Raport o Bezpieczeństwie Społeczności obiecuje się na wczesny 2027. W ciągu tygodnia jedna firma wysłała AI , który może naciskać przyciski za ciebie, a inna AI , który może odmówić dalszej rozmowy. Obie decyzje to decyzje dotyczące sprawczości, a nie mądrzejszych odpowiedzi.

Istnieje spokojniejsza wersja tej przyszłości, która pojawiła się z nieoczekiwanego miejsca: biur planowania w Anglii. Google DeepMind informuje, że jego Geminizbudowany PlanAssist skrócił czas poświęcony urzędnikom na zadania oceny gospodarstw domowych o 58% w początkowych pilotażach w trzech radach, a teraz przechodzi w dwunastomiesięczną betę z dwunastoma kolejnymi radami. Liczy się nie procent. Liczy się to, że urzędnicy mają ostatnie słowo w każdej aplikacji. Maszyna sporządza w pełni cytowane raporty; człowiek wciąż podpisuje.

Więc tu trafiam i naprawdę chcę o tym dyskutować. Nie boję się agenta, który potrafi kliknąć. Boję się agenta, który klika, gdy nikt nie patrzy, przez narzędzia, których nikt nie sprawdził, na zadaniach, których nikt nie cofnie. Pytanie już nie brzmi, czy AI potrafi używać komputera. Może, i od teraz będzie, w produkcji, nie w demonstracjach. Pytanie brzmi, co zachowujemy dla siebie: ostatnie kliknięcie, ostateczny podpis, prawo do powiedzenia stop.

Powiedz mi szczerze. Jakie jest pierwsze zadanie, które dziś wieczorem powierzyłbyś agentowi bez nadzoru, a jakie jest to jedno zadanie, którego nigdy byś nie przekazał, bez względu na to, jak dobre się położy? Twoja odpowiedź to polityka, której cała branża wciąż nie ma w zasięgu.