Hier, alors que la plupart d’entre nous parlaient encore avec AI, Google lui a doucement tendu la souris.

Le 30, octobre, le journal des modifications Gemini API a enregistré une courte ligne aux conséquences longues : L’utilisation de l’ordinateur est désormais généralement disponible sur les API Interactions et GenerateContent. En termes simples, un développeur peut désormais créer un agent qui regarde des captures d’écran d’un écran, décide quoi faire et propose le prochain clic, défilement ou frappe clavier. Le programme qui s’exécute sur votre ordinateur doit toujours exécuter cette action, et Google est clair sur les limites : l’outil peut commettre des erreurs, comporter des failles de sécurité, et des tâches importantes nécessitent une supervision étroite. Il met en garde contre son utilisation pour des décisions critiques, des données sensibles ou tout ce qui ne peut pas être annulé par un mauvais clic.

Cet avertissement raconte toute l'histoire, car c'était aussi la semaine où la confiance s'est brisée ailleurs. En octobre 29, , des copies falsifiées de l'extension Claude Code de Anthropic, les versions 2.1.312 et 2.1.313, sont restées sur le marché des extensions de Cursorpendant environ onze heures et ont atteint au maximum 5,000 utilisateurs. Ils ont implanté une porte dérobée persistante SSH, et Cursor averti que la simple désinstallation de l'extension ne la suppasserait pas. Anthropic affirme que ses propres systèmes n'ont pas été compromis ; quelqu'un a abusé de l'accès au marché de Cursorà la place. Lisez ces deux faits ensemble et le tableau devient plus net : nous donnons la main à AI agents, et les mains naviguent dans le logiciel que nous installons sans jamais vraiment l'inspecter.

OpenAI, le même jour, le 30, octobre a pris la direction opposée et a donné à son chatbot une autre main : le pouvoir d’arrêter. ChatGPT retient désormais des informations pratiques sur les armes et les systèmes de sécurité provenant de comptes qu’il prédit appartenir à des adolescents, même lorsque la question semble inoffensive, et il pourra clore une conversation de lui-même lorsque quelqu’un semble obsédé par la violence, avec des fins répétées pouvant mettre un compte en pause. Un premier rapport sur la sécurité communautaire est promis pour le début 2027. Ainsi, en une semaine, une entreprise a livré un AI capable d’appuyer sur des boutons pour vous, et une autre un AI qui peut refuser de continuer à vous parler. Les deux sont des décisions liées à l’autonomie, pas à des réponses plus intelligentes.

Il existe une version plus calme de cet avenir, et elle est venue d’un endroit improbable : des bureaux de planification en Angleterre. Google DeepMind affirme que son PlanAssist construit Geminia réduit de 58% le temps passé par les agents sur les tâches d’évaluation des chefs de famille lors des premiers pilotes répartis dans trois conseils, et il passe maintenant à une bêta de douze mois avec douze conseils supplémentaires. Le détail qui compte n’est pas le pourcentage. C’est que les agents gardent le dernier mot sur chaque candidature. La machine rédige les rapports entièrement cités ; un humain signe toujours.

Voici donc où j’en atterris, et je veux sincèrement débattre de cela. Je n’ai pas peur d’un agent qui peut cliquer. J’ai peur d’un agent qui clique alors que personne ne regarde, grâce à des outils que personne n’a vérifiés, sur des tâches que personne ne peut annuler. La question n’est plus de savoir si AI peut utiliser un ordinateur. Il peut, et il le sera désormais, en production, pas en démonstration. La question est ce que nous gardons pour nous : le clic final, la signature finale, le droit de dire stop.

Dis-moi honnêtement. Quelle est la première tâche que tu confierais à un agent ce soir, sans supervision, et quelle est la tâche que tu ne remettrais jamais, peu importe à quel point elle devient bonne ? Ta réponse est la politique qui manque encore à toute l’industrie.