昨日、ほとんどの人がまだ話している間に、静かにAI, Googleを渡しました。

10月 30, 日、 Gemini API の変更ログには長い影響を伴う短い記述がありました。「コンピュータ使用」は、InteractionsおよびGenerateContent API全体で一般的に利用可能になりました。簡単に言えば、開発者は画面のスクリーンショットを見て何をするかを判断し、次のクリック、スクロール、キーストロークを提案するエージェントを構築できるようになりました。あなたのコンピュータ上で動作するプログラムは依然として実行しなければならず、制限は Google っきりと述べています。ツールはミスを犯す可能性があり、セキュリティ上の欠陥を抱え、重要な作業は厳重な監視が必要です。重要な意思決定や機密データ、誤ったクリックが元に戻せない場合などには使わないよう警告しています。

この警告こそが全てであり、この週に他の場所で信頼が壊れたのも事実です。10月29, Claude CodeAnthropicの拡張拡張の改ざんされたコピーが、2.1.313, 2.1.312Cursorの拡張機能マーケットプレイスに約11時間放置され、最大で5,000ユーザーにしか届かなかった。彼らは永続的なSSHバックドアを仕込み、Cursorは拡張機能を単にアンインストールしても解除できないと警告した。Anthropic自身のシステムは侵害されていないと述べている。誰かがCursorのマーケットプレイスへのアクセスを悪用したのだ。この二つの事実を合わせて読むと、状況がはっきりします。私たちはAIエージェントに手を渡しているのに、その手はインストールしたソフトウェアをほとんど検査せずに手を伸ばしているのです。

OpenAI, 同じ日に、10月 30, は逆方向に動き、チャットボットに異なる手を与えました。それは停止の力です。 ChatGPT は、たとえ質問が無害に見えても、ティーン向けと予測される実用的な武器やセキュリティシステムの情報を差し止め、暴力に固執しているように見える人が会話を自動で終わらせ、繰り返し終わらせるとアカウントを一時停止できるようになっています。最初のコミュニティ安全報告書が早期に 2027に約束されています。つまり、1週間で、ある会社はボタンを押すことができる AI を、別の会社は話しかけを拒否できる AI を出荷しました。どちらも賢い答えではなく、主体性の問題です。

この未来にはより穏やかなバージョンがあり、それは意外な場所からやってきた:イングランドの計画事務所から。 Google DeepMindによると、 Gemini開発のPlanAssistは、3つの自治体で初期パイロットで世帯主評価に費やす時間を 58%削減し、現在はさらに12の自治体で12か月のベータ版に入っている。重要なのは割合ではない。重要なのは、すべての申請に対して最終決定権を持つことだ。機械は完全に引用された報告書を作成し、人間が署名を続ける。

だから、ここで私の立場に立つ。私は本当にこの件について議論したい。私はクリックできるエージェントを恐れていない。誰も見ていない間にクリックし、誰も確認していないツールを使ってクリックし、誰も元に戻せないタスクをクリックするエージェントを恐れている。問題はもはや AI コンピューターを使えるかどうかではない。使えるし、これからはデモではなく、本格的な環境で使う。問題は、私たちが自分たちのために何を残すか、最後のクリック、最後の署名、停止と言う権利だ。

正直に教えてください。今夜、監督なしでエージェントに最初に任せるタスクは何ですか?どんなに良い仕事でも絶対に渡したくないタスクは何ですか?あなたの答えは、業界全体がまだ欠けているポリシーです。