Gisteren, terwijl de meesten van ons nog met AI, Google praatten, gaf ik hem stilletjes de muis.

Op 30, oktober registreerde de Gemini API changelog een korte regel met lange gevolgen: Computer Use is nu algemeen beschikbaar via de Interactions en GenerateContent API's. In gewone taal kan een ontwikkelaar nu een agent bouwen die screenshots van een scherm bekijkt, beslist wat te doen en de volgende klik, scroll of toetsaanslag voorstelt. Het programma dat op je computer draait moet de actie nog steeds uitvoeren, en Google is duidelijk over de beperkingen: de tool kan fouten maken, kan beveiligingsfouten hebben en belangrijke taken vereisen nauwlettend toezicht. Het waarschuwt voor het gebruik ervan voor kritieke beslissingen, gevoelige gegevens of alles waar een verkeerde klik niet ongedaan kan worden gemaakt.

Die waarschuwing is het hele verhaal, want dit was ook de week waarin het vertrouwen ergens anders brak. Op 29, oktober zaten gemanipuleerde kopieën van Anthropic's Claude Code extensie, versies 2.1.312 en 2.1.313, ongeveer elf uur in de extensiemarktplaats van Cursoren bereikten hooguit 5,000 gebruikers. Ze plaatsten een persistent SSH achterdeurtje, en Cursor waarschuwden dat het simpelweg verwijderen van de extensie het niet zou verwijderen. Anthropic zegt dat hun eigen systemen niet gecompromitteerd waren; iemand misbruikte de toegang tot Cursor's marktplaats in plaats daarvan. Lees die twee feiten samen en het beeld wordt scherper: we geven AI agenten handen, en de handen reiken door de software die we installeren zonder het ooit echt te inspecteren.

OpenAI, op dezelfde dag ging oktober 30, de tegenovergestelde kant op en gaf zijn chatbot een andere soort hand: de kracht om te stoppen. ChatGPT zal nu praktische wapens en beveiligingsinformatie van accounts achterhouden die volgens hen toebehoren aan tieners, zelfs als de vraag onschuldig lijkt, en het kan een gesprek zelf beëindigen wanneer iemand geobsedeerd lijkt op geweld, waarbij herhaalde beëindigingen een account kunnen pauzeren. Een eerste Community Safety Report wordt beloofd voor het begin van 2027. Dus in één week heeft één bedrijf een AI uitgebracht die knoppen voor je kan indrukken, en een ander een AI die weigert met je te blijven praten. Beide zijn beslissingen over handelingsbekwaamheid, niet over slimmere antwoorden.

Er is een rustigere versie van deze toekomst, en die kwam uit een onwaarschijnlijke hoek: planningsbureaus in Engeland. Google DeepMind zegt dat het Geminigebouwde PlanAssist de tijd die ambtenaren aan huisbewonersbeoordeling besteedden in vroege pilots in drie gemeenten met 58% heeft verminderd, en nu gaat het in een twaalf maanden durende bèta met twaalf extra gemeenten. Het belangrijkste detail is niet het percentage. Het is dat ambtenaren het laatste woord hebben bij elke aanvraag. De machine stelt volledig geciteerde rapporten op; een mens ondertekent nog steeds.

Dus hier kom ik uit, en ik wil hier oprecht over discussiëren. Ik ben niet bang voor een agent die kan klikken. Ik ben bang voor een agent die klikt terwijl niemand kijkt, via tools die niemand heeft gecontroleerd, taken die niemand ongedaan kan maken. De vraag is niet langer of AI een computer kan gebruiken. Dat kan wel, en vanaf nu zal dat zo zijn, in productie, niet in demo's. De vraag is wat we voor onszelf houden: de laatste klik, de laatste handtekening, het recht om stop te zeggen.

Vertel het me eerlijk. Wat is de eerste taak die je vanavond aan een agent zou geven, zonder toezicht, en wat is de ene taak die je nooit zou overdragen, hoe goed die ook wordt? Jouw antwoord is het beleid dat de hele sector nog steeds mist.