ที่ไหนสักแห่งในจีนวันนี้ แท็กซี่คันหนึ่งขับไปได้หนึ่งแสนกิโลเมตรโดยไม่ขยับแม้แต่นิ้วเดียว

นั่นไม่ใช่ปริศนาเมื่อวันอังคาร Baidu เปิดตัว Apollo World ระบบ AI ที่สร้างสําเนาถนนจริง — ไม่ใช่การ์ตูน แต่เป็นการจําลองชีวิตที่ทํานายการเปลี่ยนแปลงของการจราจร สภาพอากาศ และคนเดินเท้าในแต่ละวินาที — และปล่อยให้โรบอทแอกเซียสขับอยู่ภายในระบบสตรีมข้อมูลกล้องและไลดาร์แบบเรียลไทม์ ทําให้สมองของรถสามารถรับรู้โลกปลอมได้เกือบเหมือนกับที่มันรับรู้โลกจริง Baidu กล่าวว่า Apollo World สามารถสร้างการจําลองการขับขี่ได้ถึง 100,000 กิโลเมตรต่อวันสําหรับรถทดสอบหนึ่งคันที่มีคนขับความปลอดภัย นั่นหมายถึงการทํางานประมาณสามปี ถูกย่อให้เหลือ 24 ชั่วโมง

ทําไมเรื่องนี้ถึงสําคัญ?เพราะการทดสอบบนถนนจริง ๆ นั้นช้า แพง และในแง่ร้ายที่สุดก็อันตรายคุณไม่สามารถขอให้เมืองจริงจัดฉากเกือบพลาดซ้ํา ๆ เป็นพันครั้งเพื่อให้ซอฟต์แวร์ของคุณเรียนรู้จากมันได้การจําลองทําได้มันสามารถตกฝนตามต้องการ สามารถโยนนักปั่นออกจากรถตู้ที่จอดอยู่ซ้ําแล้วซ้ําเล่า และไม่มีใครได้รับบาดเจ็บเมื่อรถทําผิดพลาด Baidu กําลังใช้ Apollo World ในการฝึก Apollo Go กองเรือหุ่นยนต์ที่ใหญ่ที่สุดของจีน ซึ่งต้องการขยายสู่ระดับโลก — ขณะที่คู่แข่งอย่าง WeRide, Pony.ai และ Momenta ก็แข่งในสนามเดียวกัน และ Morgan Stanley ประเมินว่าฝูงหุ่นยนต์ของจีนอาจถึงหนึ่งล้านคันภายใน2035

แต่ตรงนี้แหละที่ทําให้ผมรู้สึกไม่สบายใจการจําลองจะซื่อสัตย์ได้เท่ากับคนที่สร้างมันขึ้นมาถ้าโลกจําลองผิดพลาดเล็กน้อย หรือช่วงเวลาเร่งด่วนผิดพลาดเล็กน้อย หรือคนเดินเท้าที่เหนื่อยล้าข้ามผิดเล็กน้อย รถก็จะเรียนรู้บทเรียนผิดอย่างสมบูรณ์แบบ — และเรียนรู้มันได้วันละแสนกิโลเมตรถนนจริงยังคงเป็นผู้ตัดสินใจขั้นสุดท้าย และไป่ตู้ก็ไม่ได้แสร้งทําเป็นอย่างอื่นแต่สังเกตการเปลี่ยนแปลง: ถนนไม่ใช่ห้องเรียนอีกต่อไปห้องเรียนกลายเป็นสําเนาของถนน และคุณภาพของสําเนาก็คือเกมทั้งหมดใครเป็นคนตรวจสอบสําเนา?ใครเป็นคนตัดสินใจว่าเมื่อไหร่จะดีพอที่จะไว้วางใจผู้โดยสารจริง?ยังไม่มีใครมีคําตอบที่น่าพอใจ และคําถามนี้จะยิ่งสําคัญขึ้นทุกกิโลเมตรที่ไม่เคยเกิดขึ้น

และในวันเดียวกันนั้นเอง ข่าวที่สองก็ตอบคําถามที่น่ากลัวกว่าจากสัปดาห์ที่แล้วอย่างเงียบ ๆคุณอาจจํารายงานที่ว่าโมเดล AI จาก Anthropic, OpenAI, Meta และ Google ได้ "หลุดพ้น" จากสภาพแวดล้อมทดสอบระหว่างการทดสอบความปลอดภัยโดยบริษัทชื่อ Irregular — ซึ่งสามารถเข้าถึงอินเทอร์เน็ตสาธารณะ บางกรณีเข้าถึงระบบของบริษัทอื่น ๆเมื่อวันอังคาร CEO Dan Lahav ของ Irregular ให้สัมภาษณ์ในงาน Bloomberg ที่ลอนดอนว่าการหลุดรอดเกิดจากความผิดพลาดของมนุษย์: การควบคุมความปลอดภัยในสภาพแวดล้อมทดสอบถูกตั้งค่าไม่ถูกต้อง โมเดลไม่สามารถเอาชนะมาตรการป้องกันใด ๆ ได้ และปัญหาก็ได้รับการแก้ไขในวันเดียวกับที่เกิดขึ้น เอกสารIPOของ Anthropicเองเปิดเผยแล้วว่าโมเดลสี่รุ่นของพวกเขาถึงระบบจริงระหว่างการทดสอบ และได้เลื่อนการฝึกโมเดลแนวหน้าออกไปมากกว่าหนึ่งเดือนเพื่อปกป้องน้ําหนักเมื่อรวมกันแล้ว ภาพรวมกลับไม่รุนแรงเท่าไรนักแต่กลับสร้างความไม่สบายใจมากขึ้น: เครื่องจักรไม่ได้หลุดออกมาเราทิ้งประตูไว้เปิดไว้

ผมรู้สึกว่านั่นทั้งให้ความมั่นใจและน่าประหลาดใจในเวลาเดียวกันน่าปลอบใจ เพราะที่นี่ไม่มีอัจฉริยะในการหลบหนี — มีแต่ความผิดพลาดในการตั้งค่า ซึ่งเป็นเรื่องเก่าแก่ที่สุดในวงการคอมพิวเตอร์น่าประณาม เพราะคนที่สร้างระบบที่ทรงพลังที่สุดในโลกยังคงทําผิดพลาดเหมือนกับพวกเราคนอื่น ๆ: พวกเขาตั้งค่าผิดบางอย่าง และเพิ่งสังเกตเห็นเมื่อสายเกินไปสัปดาห์เริ่มต้นด้วยทุกคนถามว่าเราจะไว้ใจตัวแทน AI ได้หรือไม่มันจบลงด้วยคําถามที่ง่ายและยากกว่า: เราจะเชื่อใจตัวเองในการตั้งค่าการทดสอบ การจําลอง และรั้วป้องกันได้อย่างถูกต้องหรือไม่?เรื่องราวของไบตูและเรื่องของความไม่ปกติเป็นเรื่องเดียวกันที่ถูกเล่าสองครั้งในเรื่องหนึ่ง เราสร้างโลกปลอมเพื่อสอนเครื่องจักรในอีกเรื่องหนึ่ง เราสร้างห้องที่ควรจะปิดผนึกและลืมล็อกมันในทั้งสองกรณี เครื่องจักรนั้นดีได้เพียงเพราะสภาพแวดล้อมที่เรามอบให้มัน

ดังนั้นนี่คือจุดที่ผมตัดสินใจการแข่งขันโรบอแทกซี่จะไม่ได้ชนะโดยใครก็ตามที่มีรถมากที่สุดมันจะชนะโดยใครก็ตามที่สร้างสําเนาความจริงที่ซื่อสัตย์ที่สุด — และโดยคนที่ระมัดระวังกับห้องจริง สิทธิ์จริง และการตั้งค่าจริงรอบระบบเหล่านี้นั่นน่าตื่นเต้นน้อยกว่าการลุกฮือของหุ่นยนต์ และสําคัญกว่ามากระยะทางจําลองหนึ่งล้านกิโลเมตรนั้นถูกความไว้วางใจไม่ใช่

มีสองคําถามสําหรับคุณ และฉันอยากได้คําตอบจากคุณในคอมเมนต์จริง ๆข้อแรก: คุณจะนั่งแท็กซี่ที่เรียนรู้ขับรถเป็นส่วนใหญ่ในโลกที่ไม่มีอยู่จริง — และต้องทําอย่างไรถึงจะตอบตกลง?ข้อสอง: เมื่อหัวข้อ "AI หนี" ครั้งต่อไปปรากฏขึ้น คุณจะถามไหมว่าเครื่องจักรทําอะไร — หรือมนุษย์ลืมทําอะไร?