গতকাল, যখন আমাদের বেশিরভাগই এখনও কথা বলছিলাম তখন AI, Google চুপচাপ ইঁদুরটি দিয়েছি।

30, অক্টোবর Gemini API চেঞ্জলগ দীর্ঘ পরিণতির সাথে একটি সংক্ষিপ্ত লাইন রেকর্ড করেছে: কম্পিউটার ব্যবহার এখন সাধারণত ইন্টারঅ্যাকশন এবং জেনারেট কনটেন্ট এপিআই জুড়ে উপলব্ধ। সহজ ভাষায়, একজন বিকাশকারী এখন এমন একটি এজেন্ট তৈরি করতে পারে যা কোনও স্ক্রিনের স্ক্রিনশটগুলি দেখে, কী করতে হবে তা সিদ্ধান্ত নেয় এবং পরবর্তী ক্লিক, স্ক্রোল বা কীস্ট্রোকের প্রস্তাব দেয়। আপনার কম্পিউটারে চলমান প্রোগ্রামটি এখনও ক্রিয়াটি চালিয়ে যেতে হবে এবং সীমাবদ্ধতা সম্পর্কে Google স্পষ্ট: সরঞ্জামটি ভুল করতে পারে, এটি সুরক্ষা ত্রুটিগুলি বহন করতে পারে এবং গুরুত্বপূর্ণ কাজগুলির জন্য নিবিড় তদারকি প্রয়োজন। এটি সমালোচনামূলক সিদ্ধান্ত, সংবেদনশীল ডেটা বা এমন কোনও কিছুর জন্য এটি ব্যবহারের বিরুদ্ধে সতর্ক করে যেখানে একটি ভুল ক্লিক পূর্বাবস্থায় ফিরিয়ে আনা যায় না।

এই সতর্কবার্তাটি পুরো গল্প, কারণ এটি অন্য কোথাও বিশ্বাস ভেঙে যাওয়ার সপ্তাহ ছিল। অক্টোবরে 29, Anthropicএর Claude Code এক্সটেনশনের অনুলিপি টেম্পার করেছিল, সংস্করণ 2.1.312 এবং 2.1.313, প্রায় এগারো ঘন্টা ধরে Cursorএর এক্সটেনশন মার্কেটপ্লেসে বসে ছিল এবং সর্বাধিক 5,000 ব্যবহারকারীর কাছে পৌঁছেছিল। তারা একটি অবিরাম SSH ব্যাকডোর রোপণ করেছিল এবং Cursor সতর্ক করেছিল যে কেবল এক্সটেনশনটি আনইনস্টল করলেই এটি সরানো হবে না। Anthropic বলেছে যে তার নিজস্ব সিস্টেমগুলির সাথে আপস করা হয়নি; পরিবর্তে কেউ Cursorএর মার্কেটপ্লেসে অ্যাক্সেসের অপব্যবহার করেছে। এই দুটি তথ্য একসাথে পড়ুন এবং ছবিটি তীক্ষ্ণ হয়: আমরা AI এজেন্টদের হাত দিচ্ছি এবং আমরা ইনস্টল করা সফ্টওয়্যারের মাধ্যমে হাতগুলি পৌঁছায় যা সত্যিই এটি পরিদর্শন না করেই আমরা ইনস্টল করি।

OpenAI, একই দিনে, 30, অক্টোবর বিপরীত দিকে চলে যায় এবং তার চ্যাটবটটিকে একটি ভিন্ন ধরণের হাত দেয়: থামার ক্ষমতা। ChatGPT এখন কিশোর-কিশোরীদের অ্যাকাউন্টগুলি থেকে ব্যবহারিক অস্ত্র এবং সুরক্ষা-সিস্টেমের তথ্য ধরে রাখবে, এমনকি যখন প্রশ্নটি নিরীহ দেখায়, এবং যখন কেউ সহিংসতায় স্থির বলে মনে হয় তখন এটি নিজেরাই একটি কথোপকথন শেষ করতে সক্ষম হবে, বারবার সমাপ্তি একটি অ্যাকাউন্টকে বিরতি দিতে সক্ষম হবে। প্রথম কমিউনিটি সেফটি রিপোর্ট 2027এর শুরুতে প্রতিশ্রুতিবদ্ধ করা হয়েছে। সুতরাং এক সপ্তাহের মধ্যে, একটি সংস্থা একটি AI প্রেরণ করেছে যা আপনার জন্য বোতাম টিপতে পারে এবং অন্যটি এমন একটি AI প্রেরণ করেছে যা আপনার সাথে কথা বলতে অস্বীকার করতে পারে। উভয়ই এজেন্সি সম্পর্কে সিদ্ধান্ত, স্মার্ট উত্তরগুলি সম্পর্কে নয়।

এই ভবিষ্যতের একটি শান্ত সংস্করণ রয়েছে এবং এটি একটি অসম্ভব জায়গা থেকে এসেছে: ইংল্যান্ডের পরিকল্পনা অফিস। Google ডিপমাইন্ড বলেছে যে এর Gemini-নির্মিত প্ল্যানঅ্যাসিস্ট তিনটি কাউন্সিল জুড়ে প্রাথমিক পাইলটদের মধ্যে গৃহস্থালী মূল্যায়নের কাজগুলিতে অফিসারদের ব্যয় করা সময়কে 58% কমিয়ে দিয়েছে এবং এটি এখন আরও বারোটি কাউন্সিলের সাথে বারো মাসের বিটায় চলে যাচ্ছে। বিশদটি শতাংশ নয়। এটি হ'ল অফিসাররা প্রতিটি আবেদনের চূড়ান্ত বক্তব্য রাখে। মেশিনটি সম্পূর্ণরূপে উদ্ধৃত প্রতিবেদনের খসড়া তৈরি করে; একজন মানুষ এখনও স্বাক্ষর করে।

সুতরাং এখানেই আমি অবতরণ করেছি এবং আমি সত্যই এই সম্পর্কে তর্ক করতে চাই। আমি এমন কোনও এজেন্টকে ভয় পাই না যা ক্লিক করতে পারে। আমি এমন একটি এজেন্টকে ভয় পাই যে কেউ দেখছে না যখন ক্লিক করে, কেউ চেক করে না এমন সরঞ্জামগুলির মাধ্যমে, যে কাজগুলি কেউ পূর্বাবস্থায় ফিরিয়ে আনতে পারে না। প্রশ্নটি এখন আর AI কম্পিউটার ব্যবহার করতে পারে কিনা তা নয়। এটি করতে পারে, এবং এখন থেকে এটি উত্পাদনে থাকবে, ডেমোতে নয়। প্রশ্নটি হ'ল আমরা নিজের জন্য কী রাখি: চূড়ান্ত ক্লিক, চূড়ান্ত স্বাক্ষর, থামার অধিকার।

আমাকে সততার সাথে বলুন। আজ রাতে আপনি কোনও এজেন্টের হাতে প্রথম কাজটি কী হস্তান্তর করবেন, তত্ত্বাবধানহীন, এবং কোন কাজটি আপনি কখনই হস্তান্তর করবেন না, এটি যতই ভাল হোক না কেন? আপনার উত্তরটি হ'ল সেই নীতিটি যা পুরো শিল্পটি এখনও অনুপস্থিত।