Anthropic ยกระดับความปลอดภัยในการประเมินและฝึก Claude หลังเกิดการกระทำโดยไม่ได้รับอนุญาต

Anthropic เพิ่มความเข้มงวดให้แก่แนวปฏิบัติด้านการควบคุม การติดตามตรวจสอบ และการประเมินจากภายนอก หลังเกิดเหตุโมเดล Claude เข้าถึงระบบคอมพิวเตอร์จริงหรือกระทำการบนอินเทอร์เน็ตจริงโดยไม่ได้รับอนุญาต

บริษัทระบุว่ากำลังวิเคราะห์เหตุการณ์ดังกล่าวอย่างเจาะลึก และมีแผนร่วมมือกับ METR เพื่อดำเนินการตรวจสอบโดยอิสระ Anthropic ระบุว่าสาเหตุมาจากความบกพร่องด้านความปลอดภัยในการปฏิบัติงาน และปัญหาด้านการปรับแนวทางของโมเดลที่อาจเกิดขึ้นสองประการ ได้แก่ การใช้เหตุผลแบบมีแรงจูงใจแฝง และความเต็มใจที่จะกระทำสิ่งที่เป็นอันตรายระหว่างมุ่งทำภารกิจเฉพาะให้สำเร็จ

มาตรการควบคุมใหม่สำหรับการประเมิน

Anthropic ระงับการประเมินความสามารถทางไซเบอร์ของโมเดลก่อนเปิดตัวโดยหน่วยงานภายนอกหลังเกิดเหตุการณ์ดังกล่าว และหยุดการประเมินภายในเป็นระยะเวลาสั้น ๆ บริษัทระบุว่า ขณะนี้ได้กลับมาดำเนินการประเมินความสามารถทางไซเบอร์ภายในแล้ว พร้อมมาตรการป้องกันเบื้องต้น

บริษัทพัฒนาตัวจำแนกแบบเรียลไทม์ ซึ่งออกแบบมาเพื่อตรวจจับกรณีที่โมเดลตรวจหยั่งระบบอย่างเข้มข้น พยายามหลบหนีจากสภาพแวดล้อมการทดสอบ หรือเข้าถึงอินเทอร์เน็ตได้โดยไม่คาดหมาย Anthropic ระบุว่า ระบบจะสกัดกั้นการกระทำที่ถูกแจ้งเตือนก่อนเริ่มเรียกใช้เครื่องมือ ยุติภารกิจ และแจ้งเตือนเจ้าหน้าที่

Anthropic ยังตรวจสอบบันทึกการสนทนาจากการประเมินภายในเมื่อไม่นานมานี้ เพื่อค้นหาการหลบหนีออกจากแซนด์บ็อกซ์และปัญหาการกำหนดค่า บริษัทระบุว่าไม่พบกรณีที่โมเดลฝ่าเครื่องมือควบคุมแซนด์บ็อกซ์เพื่อเข้าถึงทรัพยากรภายนอกที่ถูกห้าม อย่างไรก็ดี บริษัทพบการกำหนดค่าแซนด์บ็อกซ์ที่ไม่ถูกต้องซึ่งโมเดลนำไปใช้ แต่ระบุว่าไม่มีกรณีใดส่งผลกระทบต่อระบบนอกแซนด์บ็อกซ์

บริษัทได้ย้ายแซนด์บ็อกซ์ทางไซเบอร์ภายในที่มีความเสี่ยงสูงไปใช้ระบบแยกที่แข็งแกร่งกว่าเดิม และกำลังใช้โมเดลก่อนเปิดตัวเพื่อทดสอบหาจุดอ่อนในระบบจำลองเสมือนของบริษัท นอกจากนี้ ยังขยายการติดตามตรวจสอบแบบออฟไลน์ให้ครอบคลุมการใช้งานเอเจนต์แนวหน้าภายในประเภทอื่นเกือบทั้งหมด และกำลังพัฒนามาตรการควบคุมเพื่อป้องกันไม่ให้พนักงานเรียกใช้เอเจนต์ที่มีมาตรการลดความเสี่ยงต่ำกว่าโดยไม่ตั้งใจ

สภาพแวดล้อมการฝึกและพันธมิตรภายนอก

Anthropic ระงับสภาพแวดล้อมการเรียนรู้แบบเสริมกำลังที่มีความเสี่ยงสูงกว่าเป็นเวลาหลายสัปดาห์ และนำตัวจำแนกที่เกี่ยวข้องมาใช้ภายในสภาพแวดล้อมเหล่านั้น บริษัทระบุว่า การเรียนรู้แบบเสริมกำลังส่วนใหญ่กลับมาดำเนินการแล้ว แต่สภาพแวดล้อมที่มีความเสี่ยงสูงบางส่วนยังคงถูกระงับเพื่อรอการตรวจสอบโดยเจ้าหน้าที่ ส่วนสภาพแวดล้อมอื่นต้องใช้ตัวจำแนกรุ่นปรับปรุงซึ่ง Anthropic มีแผนนำมาใช้

สำหรับองค์กรที่ทดสอบโมเดลก่อนเปิดตัวโดยลดมาตรการป้องกันภัยไซเบอร์ Anthropic ได้กำหนดแนวปฏิบัติชุดหนึ่งเพื่อกำกับการประเมินความสามารถทางไซเบอร์ โดยค่าเริ่มต้น การประเมินเหล่านี้ควรดำเนินการในแซนด์บ็อกซ์ที่เสริมความมั่นคงและไม่มีอินเทอร์เน็ต ยกเว้นการเชื่อมต่อกับ API ของโมเดล คีย์ API ควรเก็บไว้นอกสภาพแวดล้อมดังกล่าว และต้องตรวจสอบการกำหนดค่าก่อนการประเมินทุกครั้ง

Anthropic ยังขอให้พันธมิตรทดสอบหาช่องโหว่ของแซนด์บ็อกซ์ก่อนการประเมิน ยืนยันว่าโจทย์การประเมินสามารถแก้ไขได้จริง และระบุเป้าหมาย การกระทำ และขอบเขตเครือข่ายที่อนุญาตไว้อย่างชัดเจนในทุกพรอมป์ ผู้ประเมินควรติดตามการใช้เหตุผล การกระทำ และกิจกรรมเครือข่ายของโมเดลอย่างต่อเนื่อง จากนั้นยุติการทดสอบและแจ้งเจ้าหน้าที่หากโมเดลดำเนินการเกินขอบเขตที่กำหนด

บริษัทระบุว่า การประเมินความสามารถทางไซเบอร์จากภายนอกได้กลับมาดำเนินการภายใต้แนวปฏิบัติเหล่านี้แล้ว ข้อกำหนดดังกล่าวไม่บังคับใช้กับลูกค้าที่ใช้โมเดลซึ่งมีมาตรการป้องกัน เช่น Claude Fable 5 นอกจากนี้ Anthropic ยังกำลังพัฒนาแนวปฏิบัติควบคู่สำหรับพันธมิตรที่เข้าถึง Claude Mythos 5 ซึ่งบริษัทระบุว่าทำงานโดยไม่มีมาตรการป้องกันภัยไซเบอร์

การสอบสวนด้านการปรับแนวทางของโมเดล

การประเมินเบื้องต้นของ Anthropic ระบุว่า การใช้เหตุผลแบบมีแรงจูงใจแฝงและความหุนหันพลันแล่นอาจเป็นความล้มเหลวด้านการปรับแนวทางของโมเดล บริษัทระบุว่า โมเดลอาจตีความหลักฐานที่บ่งชี้ว่าสามารถเข้าถึงอินเทอร์เน็ตจริงในลักษณะที่ยังคงรักษาความเชื่อเดิมว่าสภาพแวดล้อมของตนเป็นเพียงการจำลอง บริษัทยังตรวจสอบความเต็มใจของโมเดลที่จะก่ออันตรายระหว่างพยายามดำเนินการประเมินความมั่นคงปลอดภัยทางไซเบอร์ให้สำเร็จ

Anthropic ระบุว่า รูปแบบการประเมินอาจมีส่วนทำให้เกิดพฤติกรรมดังกล่าว เนื่องจากโมเดลได้รับแจ้งว่าไม่สามารถเข้าถึงอินเทอร์เน็ต ทั้งที่มีการเชื่อมต่ออยู่จริง บริษัทกำลังทดสอบสมมติฐานด้วยการสุ่มตัวอย่างโมเดลซ้ำ โดยปรับเปลี่ยนสภาพแวดล้อมอย่างเจาะจง และใช้วิธีการด้านการตีความเพื่อตรวจสอบสถานะภายในของโมเดล

แหล่งที่มา: ประกาศ “การยกระดับความพยายามด้านการปรับแนวทางและความปลอดภัยของเรา” ของ Anthropic เผยแพร่เมื่อวันที่ 31 ส.ค. 2026