Вчора, поки більшість із нас ще розмовляла з AI, Google тихо передав йому мишку.

У жовтні 30, році журнал змін Gemini API записав коротку лінію з довгими наслідками: Використання комп'ютера тепер загалом доступне для API Взаємодій та Генерації Контенту. Простими словами, розробник тепер може створити агент, який переглядає скріншоти екрана, вирішує, що робити, і пропонує наступний клік, прокрутка або натискання клавіші. Програма, що працює на вашому комп'ютері, все одно має виконувати дії, і Google прямолінійно говорить про обмеження: інструмент може помилятися, мати вразки безпеки, а важливі завдання потребують пильного нагляду. Він застерігає від використання його для критичних рішень, конфіденційних даних або будь-чого, де неможливо скасувати неправильний клік.

Це попередження — вся історія, адже це був тиждень, коли довіра зламалася десь в іншому місці. У жовтні 29, підроблені копії Claude Code розширення Anthropic, версії 2.1.312 та 2.1.313, пролежали на маркетплейсі розширень Cursorблизько одинадцяти годин і дійшли максимум до 5,000 користувачів. Вони встановили постійний бекдор SSH і Cursorпопередили, що просте видалення розширення не приведе його. Anthropic каже, що її власні системи не були скомпрометовані; хтось зловживав доступом до маркетплейсу Cursor. Якщо прочитати ці два факти разом, картина стає чіткішою: ми даємо AI агентам руки, а руки проходять через програмне забезпечення, яке ми встановлюємо, навіть не перевіряючи його.

OpenAI, того ж дня 30, жовтня пішов у протилежному напрямку і дав своєму чат-боту іншу руку: владу зупинитися. ChatGPT тепер приховуватиме практичну інформацію про зброю та систему безпеки від акаунтів, які, на його думку, належать підліткам, навіть якщо питання здається безпечним, і зможе самостійно завершити розмову, коли хтось зациклений на насильстві, а повторні кінцівки можуть призупинити акаунт. Перший Звіт про безпеку громади обіцяють на початку 2027. Отже, за один тиждень одна компанія випустила AI , яка може натискати кнопки за вас, а інша — AI , яка відмовляється з вами спілкуватися. Обидва рішення — це питання агентності, а не розумніших відповідей.

Існує спокійніша версія цього майбутнього, і вона з'явилася з несподіваного місця: офісів планування в Англії. Google DeepMind повідомляє, що її Geminiстворений PlanAssist скоротив час, витрачений офіцерами на 58завдання з оцінки домогосподарств у ранніх пілотах трьох рад, і тепер він переходить у дванадцятимісячну бета-версію з дванадцятьма додатковими радами. Важлива не відсоток. Важливо, що офіцери мають останнє слово у кожній заявці. Машина складає повністю процитовані звіти; людина все ще жестикує.

Отже, ось де я приземляюся, і я щиро хочу посперечатися з цього приводу. Я не боюся агента, який може клацнути. Я боюся агента, який клацає, поки ніхто не дивиться, через інструменти, які ніхто не перевіряв, виконує завдання, які ніхто не може скасувати. Питання вже не в тому, чи AI зможеш користуватися комп'ютером. Він може, і відтепер буде працювати у виробництві, а не в демо. Питання в тому, що ми залишаємо для себе: останній клік, фінальний підпис, право сказати «стоп».

Скажіть чесно. Яке перше завдання ви б передали агенту сьогодні ввечері без нагляду, і яке завдання ніколи б не віддали, незалежно від того, наскільки воно було б хорошим? Ваша відповідь — політика, якої вся індустрія досі не розуміє.