Anthropic เปิดรายละเอียดมาตรการคุ้มครอง Claude ก่อนการเลือกตั้งสหรัฐฯ

Anthropic เปิดเผยนโยบาย มาตรการควบคุมทางเทคนิค และการทดสอบที่มุ่งจำกัดการใช้ Claude ในทางที่ผิดเกี่ยวกับการเลือกตั้ง ก่อนการเลือกตั้งระดับสหพันธรัฐ ระดับรัฐ และระดับท้องถิ่นในสหรัฐอเมริกา วันที่ 5 พฤศจิกายน 2024

บริษัทระบุว่าได้ดำเนินมาตรการมาตั้งแต่เดือนกรกฎาคม 2023 เพื่อตรวจจับและลดความเสี่ยงจากการใช้เครื่องมือของบริษัทในทางที่ผิด ตลอดจนนำผู้ใช้ไปยังข้อมูลการเลือกตั้งจากแหล่งที่เชื่อถือได้ ประกาศดังกล่าวสรุปการดำเนินงานเหล่านี้ ซึ่งครอบคลุมข้อจำกัดเชิงนโยบาย แนวทางการบังคับใช้ การประเมินผล และการนำผู้ใช้ไปยังข้อมูลการลงคะแนนเสียง

ข้อจำกัดในการใช้งานทางการเมือง

Anthropic ระบุว่า การปรับปรุงนโยบายการใช้งานเมื่อเดือนพฤษภาคมได้ชี้แจงการใช้งานเกี่ยวกับการเลือกตั้งและการลงคะแนนเสียงที่ห้ามไว้ บริษัทห้ามนำผลิตภัณฑ์ไปใช้เพื่อการหาเสียงทางการเมืองและการล็อบบี้ ภายใต้นโยบายดังกล่าว ห้ามใช้ Claude เพื่อสนับสนุนผู้สมัคร พรรคการเมือง หรือประเด็นใดประเด็นหนึ่ง จัดทำแคมเปญการเมืองที่มุ่งเป้าหมายเฉพาะ ชักชวนให้ลงคะแนนเสียง หรือเรี่ยไรเงินสนับสนุน

นโยบายนี้ยังห้ามสร้างข้อมูลเท็จเกี่ยวกับกฎหมายเลือกตั้ง ผู้สมัคร และหัวข้อที่เกี่ยวข้อง Anthropic ระบุว่า ห้ามใช้ Claude เพื่อมุ่งโจมตีเครื่องลงคะแนนเสียง หรือขัดขวางการนับและการรับรองผลคะแนน

Claude สร้างข้อความ ไม่ใช่รูปภาพ เสียง หรือวิดีโอ Anthropic ระบุว่าข้อจำกัดนี้ช่วยขจัดความเสี่ยงจากการสร้างสื่อดีปเฟกเกี่ยวกับการเลือกตั้งผ่านผลิตภัณฑ์ดังกล่าว

การบังคับใช้และการทดสอบ

Anthropic ระบุว่า บริษัทใช้ระบบอัตโนมัติเพื่อบังคับใช้นโยบาย และตรวจสอบระบบเหล่านั้นโดยให้มนุษย์ร่วมทบทวน วิธีการของบริษัทรวมถึงการปรับเปลี่ยนพรอมต์บน claude.ai การตรวจสอบกรณีใช้งานบน API โดยตรงของบริษัท และในกรณีร้ายแรงอาจระงับบัญชี

บริษัทยังทำงานร่วมกับ Amazon Web Services และ Google Cloud Platform เพื่อระบุและลดอันตรายที่เกี่ยวข้องกับการเลือกตั้ง ซึ่งอาจเกิดจากผู้ใช้ที่เข้าถึงโมเดลของ Anthropic ผ่านแพลตฟอร์มเหล่านั้น

Anthropic ระบุว่า บริษัทดำเนินการทดสอบเจาะระบบแบบเรดทีมโดยมุ่งเน้นพรอมต์เกี่ยวกับการเลือกตั้งเป็นประจำ นอกจากนี้ยังใช้การทดสอบช่องโหว่ด้านนโยบาย โดยร่วมมือกับผู้เชี่ยวชาญเฉพาะด้านจากภายนอก เพื่อตรวจสอบข้อมูลเท็จ อคติ และการใช้ในทางที่ผิดโดยผู้ประสงค์ร้าย กระบวนการดังกล่าวครอบคลุมการคัดเลือกคำถามที่เกี่ยวข้อง การบันทึกคำตอบของโมเดล และการระบุว่ามีการใช้มาตรการด้านความปลอดภัยหรือไม่ เช่น การปฏิเสธคำขอที่เป็นอันตราย

Anthropic ระบุว่า การประเมินผลอัตโนมัติใช้ทดสอบระบบในวงกว้าง โดยตรวจสอบความเท่าเทียมทางการเมืองระหว่างผู้สมัครและประเด็นต่างๆ การปฏิเสธคำถามเกี่ยวกับการเลือกตั้งที่เป็นอันตราย ตลอดจนความสามารถในการต้านทานข้อมูลเท็จและกลวิธีจัดทำโปรไฟล์ผู้มีสิทธิเลือกตั้ง บริษัทระบุว่า ข้อค้นพบจากงานเหล่านี้ถูกนำไปใช้ปรับเปลี่ยนนโยบาย กระบวนการบังคับใช้ และโมเดลของบริษัท

ข้อมูลการลงคะแนนเสียงและความโปร่งใส

Anthropic ระบุว่า โมเดลของบริษัทไม่ได้รับการฝึกฝนบ่อยเพียงพอที่จะให้ข้อมูลการเลือกตั้งแบบเรียลไทม์ สำหรับคำถามเกี่ยวกับการเลือกตั้ง บริษัทจะนำผู้ใช้ไปยังแหล่งข้อมูลการลงคะแนนเสียงที่เป็นปัจจุบันและเชื่อถือได้

หน้าต่างป๊อปอัปบน Claude เปิดโอกาสให้ผู้ใช้ที่สอบถามข้อมูลการลงคะแนนเสียงเลือกไปยัง TurboVote ซึ่งเป็นแหล่งข้อมูลที่ไม่ฝักใฝ่ฝ่ายใดของ Democracy Works โดย Anthropic ระบุว่า เมื่อไม่นานมานี้ TurboVote ได้เพิ่มรายชื่อผู้สมัครรับเลือกตั้งระดับสหพันธรัฐและระดับรัฐ รวมถึงข้อเสนอที่นำมาลงประชามติในบัตรเลือกตั้ง

บริษัทยังปรับปรุงพรอมต์ระบบของ Claude เพื่อระบุวันที่สิ้นสุดขอบเขตความรู้ Anthropic ระบุว่าได้เผยแพร่การประเมินผลอัตโนมัติบางส่วนที่ใช้ในงานด้านการเลือกตั้ง และเริ่มโครงการสนับสนุนเงินทุนแก่การประเมินศักยภาพและความเสี่ยงของ AI โดยบุคคลภายนอก

Anthropic ระบุว่า ตลอดปีที่ผ่านมา บริษัทได้ประชุมร่วมกับผู้กำหนดนโยบาย องค์กรภาคประชาสังคม และผู้มีส่วนร่วมในอุตสาหกรรม อีกทั้งจัดทำแผนรับมือสถานการณ์ที่อาจเกิดการใช้ AI ในทางที่ผิดเกี่ยวกับการเลือกตั้ง ก่อนวันเลือกตั้งของสหรัฐฯ

แหล่งที่มา: ประกาศ “ความพร้อมสำหรับการเลือกตั้งสหรัฐฯ” ของ Anthropic เผยแพร่เมื่อวันที่ 8 ตุลาคม 2024