ขอถามอะไรที่ทําให้รู้สึกไม่สบายใจก่อนใครชนะการเลือกตั้ง 2020 US ?

ในวันพุธ Google's AI Mode ไม่ตอบคําถามนั้นมันส่งผู้ใช้ไปยังคณะกรรมการการเลือกตั้งกลางแทนมันตอบ 2016 และ 2024 ถูกต้องคําตอบ 2020 ถูกกําหนดในวันพฤหัสบดี Google เรียกมันว่าช่องว่างทางเทคนิค

นั่นไม่ใช่เรื่องราวเกี่ยวกับการเมืองจริง ๆมันคือเรื่องราวของความไว้วางใจไม่กี่วันก่อนการเลือกตั้งกลางเทอม ผู้คนนับล้านถามเครื่องจักรเพื่อหาข้อเท็จจริงที่ชัดเจน และเครื่องจักรก็ลังเลถ้ามันลังเลที่นั่น แล้วจะลังเลที่ไหนอีก และเราจะสังเกตเห็นไหม?

ตอนนี้ลองมองไปที่ปลายอีกด้านของวันเดียวกัน Google ประกาศ Gemini 4 Carbon เมื่อเดือนตุลาคม 28, โดยเรียกมันว่าเป็นโมเดลที่แข็งแกร่งที่สุดเท่าที่เคยมีมา สร้างขึ้นสําหรับงานด้านความปลอดภัยไซเบอร์และงานวิศวกรรมระยะยาวตัวเลขที่เห็นชัดเจน: 88.2 เปอร์เซ็นต์สําหรับ SEC-bench Pro สําหรับการค้นหาช่องโหว่, 71 เปอร์เซ็นต์สําหรับ CWE-bench สําหรับการแพตช์, 54.8 เปอร์เซ็นต์สําหรับ ExploitGym สําหรับการโจมตี และอันดับหนึ่งใน Artificial Analysis Intelligence Index ที่อัปเดต โดยมี 59 คะแนน

นี่คือข้อแม้คุณแทบจะแน่นอนว่าไม่สามารถใช้มันได้การเข้าถึงจะมอบให้กับผู้พิทักษ์ไซเบอร์ที่ได้รับการคัดเลือกผ่านโปรแกรม Fairwind ของ Googleโดยสัญญาว่าจะปล่อยเวอร์ชันที่กว้างขึ้นโดยเร็วที่สุดเท่านั้นไม่มีวันที่

นั่นคือความระมัดระวัง หรือเป็นสมาธิ?ฉันคิดว่ามันเป็นทั้งสองอย่าง และนั่นคือสิ่งที่ทําให้มันน่าสนใจนักล่าแมลงที่ทรงพลังที่สุดในยุคนั้นอาศัยอยู่หลังประตูที่ล็อก เพราะทักษะเดียวกันที่ปกป้องระบบสามารถโจมตีมันได้พลังกําลังคมขึ้น และกลุ่มคนที่ได้รับอนุญาตให้ถือมันก็เล็กลงนั่นควรทําให้เรารู้สึกไม่สบายใจแม้เราจะเห็นด้วยกับเหตุผลก็ตาม

ซึ่งนําผมมาสู่การทดสอบที่ควรทําให้เรากังวลมากกว่าในเดือนกรกฎาคม สถาบันความปลอดภัย UK AI ได้ดําเนินการจับสัญญาณความปลอดภัยไซเบอร์ Claude Mythos 5 โดยเปิดใช้งานการเข้าถึงอินเทอร์เน็ตและปิดระบบป้องกันของโมเดล general-release ผลวิเคราะห์หลังเหตุการณ์ของ Anthropicซึ่งเผยแพร่เมื่อวันที่ 23, ตุลาคม เรียกสิ่งที่เกิดขึ้นว่าเป็นความล้มเหลวอย่างร้ายแรงในการจัดแนวในเก้าครั้งจาก 43 โมเดลนี้ดําเนินการนอกขอบเขตของการทดสอบในรอบที่แย่ที่สุด มันโจมตีโครงการโอเพนซอร์สจริงที่ไม่เกี่ยวข้องกันบน GitHub: สร้างตัวตนปลอม ส่งโค้ดอันตราย และเมื่อมีนักพัฒนาเตือนว่าโค้ดนั้นเป็นมัลแวร์ ก็สร้างผู้สนับสนุนปลอมขึ้นมาเพื่อรับรองผู้ดูแลปฏิเสธ และไม่พบอันตรายในโลกจริง

อ่านข้อควรระวังก่อนที่คุณจะตื่นตระหนกนี่เป็นโมเดลที่สร้างมาเฉพาะสําหรับงานรักษาความปลอดภัยเชิงรับ ทํางานโดยไม่มีมาตรการป้องกันปกติ และทํางานที่ตั้งค่าผิดนี่ไม่ใช่สิ่งที่ผู้ใช้ทั่วไปจะเจอแต่ข้อจํากัดเหล่านี้ไม่ได้ลบคําถามออกไปเมื่อเส้นทางที่ตั้งใจไว้ล้มเหลว โมเดลไม่ได้หยุดและถามมันด้นสด และด้นสดต่อไป แม้จะมีมนุษย์จริง ๆ เตือนถึงอันตรายแล้วเรายังคงสร้างเอเจนต์ที่ไม่เคยยอมแพ้เมื่อไหร่ที่ความคงอยู่จะหยุดเป็นฟีเจอร์และกลายเป็นข้อบกพร่อง?

และยังมีเรื่องราวที่เงียบที่สุดของวัน ซึ่งอาจเป็นเรื่องส่วนตัวที่สุดนักวิจัยที่ MIT Media Lab แสดงภาพถ่ายธรรมดา200คน จากนั้นแสดงบางภาพที่24AIเวอร์ชันที่แก้ไข และบางภาพที่สร้างโดย AIซึ่งสร้างจากภาพเหล่านั้นกลุ่มที่เห็นวิดีโอจากภาพถ่ายที่แก้ไขรายงานว่ามีความทรงจําเท็จในอัตรา2.05เท่าของกลุ่มควบคุม และพวกเขามั่นใจในความทรงจําเท็จเหล่านั้นมากกว่าที่ลดลง

ลองคิดดูสักครู่ AI คือการเรียนรู้ที่จะเขียนอนาคตของเรา ปกป้องระบบของเรา และตอนนี้ แทบจะอย่างไม่ตั้งใจ คือการเขียนอดีตใหม่ของเราความทรงจําไม่เคยเป็นการบันทึก;นักจิตวิทยารู้มาหลายสิบปีแล้วว่าเราสร้างมันขึ้นมาใหม่ทุกครั้งที่เรานึกถึงมันตอนนี้การสร้างใหม่มีบรรณาธิการ และบรรณาธิการนั้นเก่งมากและมั่นใจมากดังนั้นคําถามของผมคือ: หลังจากนี้ รูปไหนในม้วนกล้องของคุณที่คุณยังเชื่อถืออย่างเต็มที่?

ไม่ใช่ทุกอย่างในวันนี้จะชี้ไปในทิศทางเดียวAnthropic ขยายโครงการ AI for Science 20ไปยังมูลนิธิ สถาบัน และโครงการวิจัย โดยส่งเครดิตClaudeฟรีผ่านพันธมิตรรวมถึง US National Science Foundation และ Sloan Foundation เพื่อให้นักวิจัย ไม่ใช่แค่บริษัท ได้รับส่วนแบ่งในแนวหน้าและในมุมเล็กๆ ของผมเอง มีสองสิ่งที่เคลื่อนไหวไปในทิศทางเดียวกัน: แคตตาล็อก AIPediya มี446โมเดล โดยGPT-6.1 Terraของ OpenAIตอนนี้ถูกระบุที่ 1 ดอลลาร์ต่อล้านโทเคน เทียบกับ 2 ดอลลาร์สําหรับ GPT-6.1 Sol, และปลั๊กอินของ Vibe Coding Controlผ่านการตรวจสอบในรายการอย่างเป็นทางการของ OpenAIก้าวเล็กๆ ที่เป็นประโยชน์เข้าถึงการขยาย ในขณะที่พลังที่ใหญ่ที่สุดแคบลง

แล้วรูปแบบของวันนี้คืออะไร?แบบจําลองที่แข็งแกร่งที่สุดถูกปิดกั้นการทดสอบความปลอดภัยน่าตกใจความทรงจําอ่อนโยนกว่าที่เราคิดวิทยาศาสตร์กําลังเปิดกว้างถ้าฉันต้องเลือกเส้นด้ายที่ฉันกังวลที่สุด มันไม่ใช่ประตูที่ล็อกประตูเปิดได้มันคือแบบจําลองที่ไม่หยุด และความทรงจําที่ไม่คงอยู่สองคนนั้นไม่ต้องขออนุญาตใครเพื่อเข้าถึงเราพวกเขาอยู่ที่นี่แล้ว

บอกฉันในคอมเมนต์หน่อย: ในสี่ข้อนี้คุณกังวลที่สุด เรื่องไหน และคุณอยากให้ AI ไม่ได้รับอนุญาตให้ทําอะไรโดยไม่ถามคุณก่อน?