Hôm qua, khi hầu hết chúng tôi vẫn đang nói chuyện với AI, Google lặng lẽ đưa con chuột cho nó.

Vào ngày 30, tháng 10, nhật ký thay đổi Gemini API ghi lại một dòng ngắn với hậu quả dài: Computer Use hiện đã phổ biến trên các API Tương tác và Tạo nội dung. Nói một cách đơn giản, lập trình viên giờ đây có thể xây dựng một agent xem ảnh chụp màn hình, quyết định hành động và đề xuất lần nhấp chuột, cuộn hoặc nhấn phím tiếp theo. Chương trình đang chạy trên máy tính của bạn vẫn phải thực hiện hành động đó, và Google thẳng thắn về giới hạn: công cụ có thể mắc lỗi, có thể có lỗ hổng bảo mật, và các nhiệm vụ quan trọng cần được giám sát chặt chẽ. Nó cảnh báo không nên sử dụng nó cho các quyết định quan trọng, dữ liệu nhạy cảm hoặc bất cứ điều gì mà một cú nhấp chuột sai không thể hoàn tác.

Cảnh báo đó là toàn bộ câu chuyện, vì đây cũng là tuần mà niềm tin đã bị phá vỡ ở nơi khác. Vào tháng 10, 29, đã chỉnh sửa các bản sao của tiện ích mở rộng Claude Code của Anthropic, các phiên bản 2.1.312 và 2.1.313, đã nằm trên thị trường tiện ích mở rộng của Cursorkhoảng mười một giờ và chỉ tiếp cận được 5,000 người dùng. Họ đã cài đặt một cửa hậu SSH dai dẳng, và Cursor cảnh báo rằng chỉ đơn giản gỡ cài đặt tiện ích mở rộng sẽ không loại bỏ nó. Anthropic nói rằng hệ thống của chính họ không bị xâm phạm; ai đó đã lạm dụng quyền truy cập vào thị trường của Cursorthay vào đó. Đọc hai sự thật đó cùng nhau thì bức tranh sẽ rõ nét hơn: chúng ta đang trao tay cho AI nhân viên, và tay họ vươn ra qua phần mềm mà chúng ta cài đặt mà không thực sự kiểm tra.

OpenAI, cùng ngày, 30, tháng 10 lại đi theo hướng ngược lại và trao cho chatbot của mình một bàn tay khác: quyền lực để dừng lại. ChatGPT giờ đây sẽ giữ lại thông tin về vũ khí và hệ thống an ninh thực tế từ các tài khoản mà họ dự đoán thuộc về thanh thiếu niên, ngay cả khi câu hỏi đó có vẻ vô hại, và nó sẽ có thể tự kết thúc cuộc trò chuyện khi ai đó dường như bị ám ảnh bởi bạo lực, với việc kết thúc lặp đi lặp lại có thể tạm dừng tài khoản. Báo cáo An toàn Cộng đồng đầu tiên được hứa hẹn dành cho 2027sớm. Vì vậy, trong một tuần, một công ty đã gửi một AI có thể nhấn nút cho bạn, và công ty khác đã gửi một AI có thể từ chối tiếp tục trò chuyện với bạn. Cả hai đều là quyết định về quyền hành động, không phải về câu trả lời thông minh hơn.

Có một phiên bản bình tĩnh hơn của tương lai này, và nó xuất phát từ một nơi không ngờ tới: các văn phòng quy hoạch ở Anh. Google DeepMind cho biết PlanAssist do Geminixây dựng đã cắt giảm thời gian các cán bộ dành cho các nhiệm vụ đánh giá hộ gia đình xuống 58% trong các thử nghiệm đầu tiên ở ba hội đồng, và hiện đang bước vào giai đoạn beta mười hai tháng với mười hai hội đồng nữa. Chi tiết quan trọng không phải là tỷ lệ phần trăm. Mà là các cán bộ giữ quyền quyết định cuối cùng cho mọi đơn đăng ký. Máy soạn thảo các báo cáo được trích dẫn đầy đủ; một con người vẫn ký.

Vậy đây là nơi tôi dừng lại, và tôi thực sự muốn tranh luận về điều này. Tôi không sợ một tác nhân có thể nhấp chuột. Tôi sợ một tác nhân nhấp nháy khi không ai theo dõi, qua các công cụ không ai kiểm tra, trên những nhiệm vụ không ai có thể hoàn tác. Câu hỏi không còn là liệu AI có thể sử dụng máy tính hay không. Nó có thể, và từ giờ trở đi sẽ sử dụng trong sản xuất, không phải trong các bản demo. Câu hỏi là chúng ta giữ gì cho riêng mình: tiếng nhấp chuột cuối cùng, chữ ký cuối cùng, quyền nói dừng lại.

Hãy nói thật với tôi. Nhiệm vụ đầu tiên bạn sẽ giao cho một đại lý tối nay mà không có giám sát là gì, và nhiệm vụ nào bạn sẽ không bao giờ giao, dù nó có tốt đến đâu? Câu trả lời của bạn là chính sách mà cả ngành vẫn còn thiếu.