เมื่อวานนี้ ขณะที่พวกเราส่วนใหญ่ยังคุยกันอยู่ AI, Googleก็ส่งเมาส์ให้มันอย่างเงียบ ๆ

เมื่อเดือนตุลาคม 30, changelog Gemini API บันทึกบรรทัดสั้น ๆ ที่มีผลกระทบยาวนาน: Computer Use ตอนนี้พร้อมใช้งานทั่วไปใน Interactions และ GenerateContent API พูดง่าย ๆ นักพัฒนาสามารถสร้างเอเจนต์ที่ดูภาพหน้าจอ ตัดสินใจว่าจะทําอะไร และเสนอการคลิก เลื่อน หรือกดแป้นพิมพ์ถัดไปโปรแกรมที่รันบนคอมพิวเตอร์ของคุณยังคงต้องดําเนินการตามคําสั่ง และ Google ก็พูดตรง ๆ ถึงข้อจํากัด: เครื่องมือนี้อาจทําผิดพลาด อาจมีช่องโหว่ด้านความปลอดภัย และงานสําคัญต้องได้รับการดูแลอย่างใกล้ชิดมันเตือนว่าไม่ควรใช้เครื่องมือนี้กับการตัดสินใจสําคัญ ข้อมูลสําคัญ หรือสิ่งที่ไม่สามารถย้อนกลับการคลิกผิดได้

คําเตือนนั้นคือเรื่องราวทั้งหมด เพราะนี่คือสัปดาห์ที่ความไว้วางใจแตกสลายที่อื่นในเดือนตุลาคม 29, ปลอมแปลงสําเนาส่วนขยาย Claude Code ของ Anthropicเวอร์ชัน 2.1.312 และ 2.1.313, อยู่ในตลาดส่วนขยายของ Cursorประมาณสิบเอ็ดชั่วโมงและเข้าถึงผู้ใช้ไม่เกิน 5,000 คนพวกเขาฝังช่องทางหลัง SSH ที่คงอยู่ และ Cursor เตือนว่าการถอนการติดตั้งส่วนขยายจะไม่ลบมันออกAnthropic กล่าวว่าระบบของตนเองไม่ได้ถูกเจาะ;มีคนใช้สิทธิ์เข้าถึงตลาดของ Cursorแทนอ่านข้อเท็จจริงสองข้อนี้พร้อมกัน ภาพจะชัดเจนขึ้น: เรากําลังมอบมือให้เจ้าหน้าที่AI และมือเหล่านั้นเข้าถึงซอฟต์แวร์ที่เราติดตั้งโดยไม่เคยตรวจสอบจริงจัง

OpenAI, ในวันเดียวกัน ตุลาคม 30, ก็เปลี่ยนทิศทางและมอบอํานาจที่แตกต่างให้กับแชทบอทของตน: อํานาจในการหยุด ChatGPT จะระงับข้อมูลอาวุธและระบบรักษาความปลอดภัยที่นําไปใช้จริงจากบัญชีที่คาดว่าเป็นของวัยรุ่น แม้ว่าคําถามจะดูไม่เป็นอันตราย และจะสามารถจบการสนทนาได้เองเมื่อมีคนดูเหมือนจะหมกมุ่นกับความรุนแรง โดยการจบซ้ํา ๆ อาจหยุดบัญชีได้รายงานความปลอดภัยชุมชนฉบับแรกถูกสัญญาว่าจะมีสําหรับ 2027แรกดังนั้นในหนึ่งสัปดาห์ บริษัทหนึ่งจัดส่ง AI ที่สามารถกดปุ่มให้คุณได้ และอีกบริษัทหนึ่งส่ง AI ที่ปฏิเสธที่จะพูดคุยกับคุณต่อไปทั้งสองเป็นการตัดสินใจเกี่ยวกับอํานาจ ไม่ใช่คําตอบที่ฉลาดกว่า

อนาคตนี้ยังมีเวอร์ชันที่สงบกว่า และมันมาจากสถานที่ที่ไม่น่าจะเป็นไปได้: สํานักงานวางแผนในอังกฤษ Google DeepMind กล่าวว่า PlanAssist ที่สร้างขึ้น Geminiช่วยลดเวลาที่เจ้าหน้าที่ใช้ในการประเมินของเจ้าของครัวเรือนลง 58% ในโครงการนําร่องเบื้องต้นในสามสภา และตอนนี้กําลังเข้าสู่ช่วงเบต้า 12 เดือนที่มีสภาเพิ่มอีกสิบสองแห่งรายละเอียดที่สําคัญไม่ใช่เปอร์เซ็นต์แต่เป็นเจ้าหน้าที่ที่มีสิทธิ์ตัดสินใจขั้นสุดท้ายในทุกคําขอเครื่องจักรร่างรายงานที่อ้างอิงครบถ้วน;ยังมีมนุษย์ที่เซ็นอยู่

ดังนั้นนี่คือจุดที่ผมตัดสินใจ และผมอยากจะถกเถียงเรื่องนี้จริง ๆผมไม่กลัวเอเจนต์ที่สามารถคลิกได้ผมกลัวเอเจนต์ที่คลิกได้ในขณะที่ไม่มีใครดู ผ่านเครื่องมือที่ไม่มีใครตรวจสอบ ในงานที่ไม่มีใครย้อนกลับได้คําถามไม่ใช่ว่า AI จะใช้คอมพิวเตอร์ได้หรือไม่มันสามารถใช้ได้ และจากนี้ไปจะใช้ในกระบวนการผลิต ไม่ใช่ในเดโมคําถามคือเราจะเก็บอะไรไว้กับตัวเอง: คลิกสุดท้าย ลายเซ็นสุดท้าย สิทธิ์ในการบอกว่าหยุด

บอกฉันตรงๆ สิงานแรกที่คุณจะมอบให้ตัวแทนคืนนี้โดยไม่มีผู้ดูแลคืออะไร และงานเดียวที่คุณจะไม่มอบหมายให้ ไม่ว่าจะดีแค่ไหนก็ตามคืออะไร?คําตอบของคุณคือนโยบายที่ทั้งอุตสาหกรรมยังขาดอยู่