Anthropic เปิดเผยรายละเอียดแนวปฏิบัติด้านความปลอดภัยสำหรับโมเดล AI แนวหน้า
Anthropic outlined cybersecurity controls it is implementing and recommended procurement rules and public-private cooperation to protect frontier AI models.
คำตอบโดยย่อ
Anthropic ประกาศมาตรการรักษาความปลอดภัยใดบ้างสำหรับการพัฒนาและนำโมเดล AI แนวหน้าไปใช้งาน?
Anthropic said it is implementing two-party controls, the NIST Secure Software Development Framework, Supply Chain Levels for Software Artifacts and other cybersecurity practices. It also recommended government procurement requirements, expanded public-private cooperation and stronger protections for advanced models, model weights and the research used to develop them.
ประเด็นสำคัญ
- Anthropic said it is implementing two-party controls, SSDF, SLSA and other cybersecurity practices.
- บริษัทแนะนำให้ใช้การอนุมัติจากหลายฝ่ายในทุกระบบที่ใช้พัฒนา ฝึก โฮสต์ และนำโมเดลปัญญาประดิษฐ์แนวหน้าไปใช้งาน
- Anthropic encouraged extending NIST’s Secure Software Development Framework to cover model development.
- บริษัทระบุว่า ในเบื้องต้น รัฐบาลอาจกำหนดมาตรการควบคุมดังกล่าวผ่านข้อกำหนดการจัดซื้อจัดจ้างสำหรับบริษัทปัญญาประดิษฐ์และผู้ให้บริการคลาวด์
- Anthropic recommended treating frontier AI laboratories similarly to critical-infrastructure companies for public-private cooperation and information sharing.
Anthropic ระบุว่ากำลังนำแนวปฏิบัติด้านความมั่นคงปลอดภัยไซเบอร์ชุดหนึ่งมาใช้ เพื่อปกป้องโมเดลปัญญาประดิษฐ์ระดับแนวหน้า ค่าน้ำหนักของโมเดล และงานวิจัยที่ใช้พัฒนาโมเดลเหล่านั้น นอกจากนี้ บริษัทยังเสนอให้กำหนดข้อกำหนดด้านการจัดซื้อจัดจ้างของภาครัฐ และส่งเสริมความร่วมมือที่ใกล้ชิดยิ่งขึ้นระหว่างห้องปฏิบัติการ AI กับหน่วยงานภาครัฐ
มาตรการที่ Anthropic ระบุไว้ประกอบด้วยการควบคุมโดยบุคคลสองฝ่าย กรอบการพัฒนาซอฟต์แวร์ที่ปลอดภัยของ NIST หรือ SSDF และกรอบระดับห่วงโซ่อุปทานสำหรับสิ่งประดิษฐ์ซอฟต์แวร์ หรือ SLSA บริษัทระบุว่าจะต้องมีการป้องกันที่เข้มแข็งยิ่งขึ้นเมื่อความสามารถของโมเดลเพิ่มสูงขึ้น และอธิบายว่างานนี้เป็นกระบวนการพัฒนาอย่างต่อเนื่องที่ต้องอาศัยทั้งภาครัฐและภาคอุตสาหกรรม
การอนุมัติโดยหลายฝ่าย
Anthropic แนะนำให้นำการควบคุมโดยบุคคลสองฝ่ายมาใช้กับระบบที่เกี่ยวข้องกับการพัฒนา การฝึก การให้บริการโฮสต์ และการนำโมเดล AI ระดับแนวหน้าไปใช้งาน บริษัทเรียกแนวทางนี้ว่า “การอนุมัติโดยหลายฝ่ายสำหรับการออกแบบโครงสร้างพื้นฐานที่มีความสำคัญต่อ AI”
ภายใต้รูปแบบที่ Anthropic อธิบายไว้ บุคคลใดบุคคลหนึ่งจะไม่มีสิทธิ์เข้าถึงสภาพแวดล้อมที่มีความสำคัญต่อระบบจริงอย่างต่อเนื่อง ผู้ที่ต้องการเข้าถึงจะต้องได้รับอนุมัติจากเพื่อนร่วมงาน มีเหตุผลรองรับทางธุรกิจ และได้รับสิทธิ์ที่จำกัดระยะเวลา บริษัทระบุว่าแม้แต่ห้องปฏิบัติการ AI ที่เพิ่งก่อตั้งก็สามารถนำระบบควบคุมดังกล่าวมาใช้ได้ โดยไม่จำเป็นต้องมีทรัพยากรในระดับเดียวกับองค์กรขนาดใหญ่
Anthropic เสนอมาตรการนี้เพื่อป้องกันผู้ก่อภัยคุกคามที่มีศักยภาพสูงและความเสี่ยงจากบุคคลภายใน พร้อมระบุว่าการควบคุมโดยบุคคลสองฝ่ายต้องอาศัยแนวปฏิบัติด้านความมั่นคงปลอดภัยไซเบอร์ในวงกว้าง เพื่อให้สามารถนำไปใช้ได้อย่างถูกต้อง
การพัฒนาโมเดลอย่างปลอดภัย
Anthropic ยังแนะนำให้นำแนวปฏิบัติด้านการพัฒนาซอฟต์แวร์อย่างปลอดภัยมาใช้ตลอดทั้งสภาพแวดล้อมของโมเดลระดับแนวหน้า โดยระบุว่า SSDF และ SLSA เป็นมาตรฐานที่สามารถประยุกต์ใช้กับการพัฒนาโมเดลและซอฟต์แวร์ที่เกี่ยวข้องได้
บริษัทระบุว่าการใช้กรอบทั้งสองร่วมกันสามารถสร้างห่วงโซ่การควบคุมดูแลสำหรับระบบ AI ที่นำไปใช้งานแล้ว Anthropic อธิบายว่านี่เป็นวิธีเชื่อมโยงโมเดลที่ถูกนำไปใช้งานกับบริษัทผู้พัฒนา และทำให้สามารถตรวจสอบแหล่งที่มาได้
Anthropic เรียกการผสานกรอบทั้งสองตามข้อเสนอนี้ว่า “กรอบการพัฒนาโมเดลอย่างปลอดภัย” พร้อมสนับสนุนให้ NIST ขยายขอบเขตของ SSDF ผ่านกระบวนการกำหนดมาตรฐาน เพื่อให้กรอบดังกล่าวครอบคลุมการพัฒนาโมเดลไว้อย่างชัดเจน
การจัดซื้อจัดจ้างและการกำกับดูแล
Anthropic ระบุว่ารัฐบาลสามารถกำหนดให้การอนุมัติโดยหลายฝ่ายและการพัฒนาโมเดลอย่างปลอดภัยเป็นข้อกำหนดด้านการจัดซื้อจัดจ้าง สำหรับบริษัท AI และผู้ให้บริการคลาวด์ที่ต้องการทำสัญญากับภาครัฐ โดยมาตรการเหล่านี้จะใช้ควบคู่กับข้อกำหนดด้านความมั่นคงปลอดภัยไซเบอร์อื่นๆ ที่บังคับใช้กับบริษัทดังกล่าว
บริษัทระบุว่ากฎการจัดซื้อจัดจ้างที่มีผลต่อผู้ให้บริการคลาวด์ในสหรัฐฯ อาจส่งผลคล้ายกับการกำกับดูแลตลาดในวงกว้าง เนื่องจากบริษัทผู้พัฒนาโมเดลระดับแนวหน้าจำนวนมากใช้โครงสร้างพื้นฐานของผู้ให้บริการเหล่านี้ Anthropic เสนอให้ใช้การจัดซื้อจัดจ้างเป็นมาตรการที่สามารถดำเนินการได้ก่อนมีข้อกำหนดด้านการกำกับดูแล
Anthropic ระบุว่ามาตรการรักษาความปลอดภัยหลายประการอาจเริ่มต้นในรูปแบบความร่วมมือโดยสมัครใจ พร้อมเสริมว่าในท้ายที่สุด รัฐบาลอาจพิจารณาใช้อำนาจด้านการจัดซื้อจัดจ้างหรือการกำกับดูแลเพื่อบังคับให้ปฏิบัติตาม
ความร่วมมือระหว่างภาครัฐและเอกชน
Anthropic แนะนำให้ห้องปฏิบัติการวิจัย AI ระดับแนวหน้าเข้าร่วมความร่วมมือระหว่างภาครัฐและเอกชนในลักษณะเดียวกับบริษัทในภาคส่วนโครงสร้างพื้นฐานสำคัญ เช่น บริการทางการเงิน พร้อมเสนอให้กำหนดให้ AI ระดับแนวหน้าเป็นภาคส่วนย่อยพิเศษของภาคเทคโนโลยีสารสนเทศที่มีอยู่
Anthropic ระบุว่าการกำหนดสถานะดังกล่าวอาจสนับสนุนให้เกิดการแลกเปลี่ยนข้อมูลและความร่วมมือระหว่างห้องปฏิบัติการ AI กับหน่วยงานภาครัฐมากขึ้น บริษัทกล่าวว่ารูปแบบความร่วมมือนี้อาจช่วยให้ห้องปฏิบัติการรับมือกับผู้ประสงค์ร้ายทางไซเบอร์ที่มีทรัพยากรพร้อมสรรพได้
ที่มา: ประกาศ “Frontier model security” ของ Anthropic เผยแพร่เมื่อวันที่ 25 กรกฎาคม 2023
คำถามที่พบบ่อย
- Anthropic กำลังนำอะไรมาใช้?
- Anthropic said it is implementing two-party controls, the NIST Secure Software Development Framework, Supply Chain Levels for Software Artifacts and other cybersecurity practices.
- Anthropic หมายถึงอะไรเมื่อกล่าวถึงการควบคุมโดยสองฝ่าย?
- Anthropic described a design in which no individual has persistent access to production-critical environments. A person must request time-limited access from a coworker and provide a business justification.
- แอนโทรปิกเสนอแนะให้รัฐบาลดำเนินมาตรการใดบ้าง?
- Anthropic proposed procurement requirements covering AI companies and cloud providers that contract with governments. It said voluntary arrangements could come first, with procurement or regulatory mandates potentially following over time.
- Anthropic เสนอให้จัดระบบความร่วมมือระหว่างภาครัฐและภาคเอกชนอย่างไร?
- Anthropic said frontier AI laboratories should cooperate with governments in a manner similar to critical-infrastructure sectors. It suggested that frontier AI could become a special subsector of the existing information technology sector.
แหล่งข้อมูล
- Frontier model security \ Anthropic — Anthropic