Gestern, während die meisten von uns noch mit AI, Google sprachen, reichten wir ihm leise die Maus.

Am 30, . Oktober verzeichnete das Gemini API Changelog eine kurze Zeile mit langen Konsequenzen: Computer Use ist nun allgemein über die Interactions- und GenerateContent-APIs verfügbar. In klarer Sprache kann ein Entwickler jetzt einen Agenten erstellen, der Screenshots eines Bildschirms ansieht, entscheidet, was zu tun ist, und den nächsten Klick, Scroll oder Tastendruck vorschlägt. Das Programm, das auf Ihrem Computer läuft, muss die Aktion weiterhin ausführen, und Google ist offen über die Grenzen: Das Tool kann Fehler machen, es kann Sicherheitslücken mit sich bringen, und wichtige Aufgaben müssen genau überwacht werden. Es warnt davor, es für kritische Entscheidungen, sensible Daten oder irgendetwas zu verwenden, bei dem ein falscher Klick nicht rückgängig gemacht werden kann.

Diese Warnung ist die ganze Geschichte, denn dies war auch die Woche, in der das Vertrauen woanders zerbrach. Am 29, . Oktober manipulierte Kopien der Claude Code-Erweiterung von Anthropic, Versionen 2.1.312 und 2.1.313, lagen etwa elf Stunden im Marktplatz der Cursor-Erweiterung und erreichten höchstens 5,000 Nutzer. Sie installierten eine persistente SSH Backdoor, und Cursor warnten, dass eine einfache Deinstallation der Erweiterung sie nicht entfernen würde. Anthropic sagt, seine eigenen Systeme seien nicht kompromittiert worden; jemand habe stattdessen den Zugang zum Marktplatz von Cursormissbraucht. Liest man diese beiden Fakten zusammen, wird das Bild deutlicher: Wir geben AI Agenten die Hände, und die Hände greifen durch die Software, die wir installieren, ohne sie wirklich zu prüfen.

OpenAI, am selben Tag, Oktober 30, , in die entgegengesetzte Richtung und gab seinem Chatbot eine andere Hand: die Macht zu stoppen. ChatGPT wird nun praktische Waffen und Sicherheitssysteminformationen von Konten zurückhalten, die er voraussagt, dass sie Jugendlichen gehören, selbst wenn die Frage harmlos erscheint, und es wird in der Lage sein, ein Gespräch von selbst zu beenden, wenn jemand auf Gewalt fixiert scheint, wobei wiederholte Enden ein Konto pausieren können. Ein erster Community Safety Report wird für frühe 2027versprochen. In einer Woche hat also ein Unternehmen einen AI ausgeliefert, der Knöpfe drücken kann, und ein anderes einen AI , der sich weigern kann, weiter mit dir zu sprechen. Beides sind Entscheidungen von Handlungsfähigkeit, nicht von klügeren Antworten.

Es gibt eine ruhigere Version dieser Zukunft, und sie kam aus einer unerwarteten Perspektive: den Planungsbüros in England. Google DeepMind sagt, dass das Geminigebaute PlanAssist die Zeit, die Beamte für Haushaltsbewertungsaufgaben aufwendeten, in frühen Pilotprojekten in drei Gemeinden um 58% gekürzt hat und nun in eine zwölfmonatige Beta mit zwölf weiteren Räten übergeht. Das entscheidende Detail ist nicht der Prozentsatz. Sondern dass die Beamten bei jedem Antrag das letzte Wort haben. Die Maschine entwirft vollständig zitierte Berichte; ein Mensch unterschreibt noch.

Hier lande ich also, und ich möchte wirklich darüber diskutieren. Ich habe keine Angst vor einem Agenten, der klicken kann. Ich habe Angst vor einem Agenten, der klickt, während niemand zusieht, durch Werkzeuge, die niemand überprüft hat, bei Aufgaben, die niemand rückgängig machen kann. Die Frage ist nicht mehr, ob AI einen Computer benutzen kann. Es kann es, und ab jetzt wird es das auch in der Produktion sein, nicht mehr in Demos. Die Frage ist, was wir für uns behalten: den letzten Klick, die letzte Unterschrift, das Recht, Stopp zu sagen.

Sag es mir ehrlich. Was ist die erste Aufgabe, die du heute Abend einem Agenten unbeaufsichtigt übergeben würdest, und was ist die eine Aufgabe, die du niemals übergeben würdest, egal wie gut sie wird? Deine Antwort ist die Richtlinie, die der ganzen Branche immer noch fehlt.