Anthropic เปิดเผยรายละเอียดการใช้ Claude ในทางที่ผิดเพื่อปฏิบัติการโน้มน้าวความคิดเห็น การฉ้อโกง และมัลแวร์

Anthropic เผยแพร่รายงานที่บรรยายถึง 4 กรณีซึ่งมีผู้ถูกกล่าวหาว่านำ Claude ไปใช้ในทางที่ผิด ครอบคลุมการประสานงานโน้มน้าวความคิดเห็นทางการเมือง กิจกรรมที่เกี่ยวข้องกับข้อมูลรับรองกล้องวงจรปิดที่รั่วไหล การฉ้อโกงด้านการสมัครงาน และการพัฒนามัลแวร์ บริษัทระบุว่าได้ตรวจพบและระงับบัญชีที่เกี่ยวข้องกับทุกกรณี

Anthropic กล่าวว่าทีมข่าวกรองของบริษัทใช้เทคนิคจากงานวิจัย Clio และการสรุปข้อมูลแบบลำดับชั้น (hierarchical summarization) เพื่อวิเคราะห์ข้อมูลบทสนทนาปริมาณมาก โดยผสานวิธีการเหล่านี้เข้ากับระบบจำแนกประเภทที่ตรวจสอบคำขอของผู้ใช้เพื่อหาความเสี่ยงที่อาจเป็นอันตราย รวมถึงประเมินคำตอบของ Claude ทั้งก่อนและหลังส่งถึงผู้ใช้

การประสานงานบอทบนโซเชียลมีเดีย

บริษัทระบุว่าพบสิ่งที่เรียกได้ว่าเป็นปฏิบัติการ "บริการโน้มน้าวความคิดเห็นเชิงพาณิชย์" ที่มีแรงจูงใจด้านการเงิน ซึ่งบริหารจัดการบัญชีบอทกว่า 100 บัญชีบน Twitter/X และ Facebook Anthropic ระบุว่าปฏิบัติการนี้มีปฏิสัมพันธ์กับบัญชีโซเชียลมีเดียของผู้ใช้จริงหลายหมื่นบัญชีในหลายประเทศและหลายภาษา

ตามรายงานของ Anthropic ผู้ดำเนินการใช้ Claude สร้างและดูแลตัวตนสมมติที่มีจุดยืนทางการเมืองแตกต่างกัน สร้างคำตอบที่สอดคล้องกับแนวคิดทางการเมือง และเตรียมพรอมต์สำหรับเครื่องมือสร้างภาพ นอกจากนี้ Claude ยังช่วยตัดสินใจว่าบัญชีบอทควรกดถูกใจ แชร์ แสดงความคิดเห็น หรือเพิกเฉยต่อโพสต์ใดโพสต์หนึ่ง โดยพิจารณาจากเป้าหมายทางการเมืองของลูกค้า

Anthropic ระบุว่าเนื้อหาการเล่าเรื่องมีลักษณะคล้ายคลึงกับแคมเปญที่เชื่อมโยงกับรัฐ แต่บริษัทไม่ได้ยืนยันที่มาดังกล่าว พร้อมทั้งระบุว่าไม่มีเนื้อหาใดของปฏิบัติการนี้ที่กลายเป็นกระแสไวรัล โดยอธิบายกิจกรรมนี้ว่าเป็นการมีปฏิสัมพันธ์อย่างต่อเนื่องเพื่อส่งเสริมมุมมองทางการเมืองแบบสายกลางให้แก่ลูกค้านอกสหรัฐอเมริกา

ข้อมูลรับรอง การฉ้อโกงด้านการสมัครงาน และมัลแวร์

ในอีกกรณีหนึ่ง Anthropic ระบุว่าผู้ก่อเหตุที่มีความเชี่ยวชาญสูงพยายามสร้างระบบสำหรับรวบรวมชื่อผู้ใช้และรหัสผ่านที่รั่วไหลซึ่งเกี่ยวข้องกับกล้องวงจรปิด และทดสอบข้อมูลรับรองเหล่านั้นกับเป้าหมายที่เปิดสู่อินเทอร์เน็ต ผู้ก่อเหตุใช้ Claude เขียนชุดเครื่องมือดึงข้อมูล (scraping) ใหม่ สร้างสคริปต์สำหรับรวบรวม URL เป้าหมาย ประมวลผลโพสต์จากกลุ่ม Telegram ที่เผยแพร่ข้อมูลจาก stealer log และปรับปรุงระบบค้นหา Anthropic ระบุว่ายังไม่ยืนยันว่าปฏิบัติการนี้ประสบความสำเร็จ

บริษัทยังรายงานการระงับบัญชีของผู้ก่อเหตุที่ทำการฉ้อโกงด้านการสมัครงาน โดยมุ่งเป้าไปที่ผู้หางานในกลุ่มประเทศยุโรปตะวันออกเป็นหลัก Anthropic ระบุว่าปฏิบัติการนี้แอบอ้างเป็นผู้จัดการฝ่ายสรรหาบุคลากรจากบริษัทที่มีตัวตนจริง และใช้ Claude ขัดเกลาภาษา พัฒนาเนื้อเรื่องการสรรหาบุคลากร สร้างเนื้อหาสำหรับสัมภาษณ์งาน และจัดรูปแบบข้อความ ตามรายงานระบุว่าผู้ดำเนินการส่งข้อความภาษาอังกฤษที่เขียนได้ไม่ดีและไม่ใช่เจ้าของภาษาให้ Claude ช่วยขัดเกลา Anthropic ระบุว่ายังไม่ยืนยันว่ามีการฉ้อโกงที่ประสบความสำเร็จจากปฏิบัติการนี้

กรณีที่สี่เกี่ยวข้องกับผู้ก่อเหตุที่มีทักษะการเขียนโค้ดจำกัด ซึ่งใช้ Claude พัฒนาเครื่องมือสำหรับการเปิดเผยข้อมูลส่วนตัว (doxing) และการเข้าถึงระบบจากระยะไกล Anthropic ระบุว่าชุดเครื่องมือของผู้ก่อเหตุพัฒนาก้าวหน้าขึ้นจนรวมถึงระบบจดจำใบหน้าและการสแกนดาร์กเว็บ ขณะที่ตัวสร้างมัลแวร์ก็พัฒนาจากเครื่องมือสร้างสคริปต์แบบ batch ไปสู่อินเทอร์เฟซกราฟิกสำหรับสร้างเพย์โหลดที่เป็นอันตราย ซึ่งออกแบบมาให้หลบเลี่ยงมาตรการรักษาความปลอดภัยและคงการเข้าถึงระบบไว้ได้ บริษัทไม่ได้ยืนยันว่ามีการนำมัลแวร์นี้ไปใช้งานจริง

การตรวจจับและการบังคับใช้มาตรการ

Anthropic ระบุว่าโครงการข่าวกรองของบริษัทมุ่งค้นหาความเสียหายที่ระบบตรวจจับมาตรฐานมองข้าม พร้อมให้บริบทเกี่ยวกับวิธีที่ผู้ไม่หวังดีนำโมเดลของบริษัทไปใช้ในทางที่ผิด บริษัทระบุว่าข้อค้นพบจากแต่ละกรณีถูกนำไปผนวกเข้ากับมาตรการควบคุมในภาพรวม เพื่อให้สามารถตรวจจับและป้องกันการใช้งานที่เป็นปรปักษ์ได้รวดเร็วยิ่งขึ้น

ที่มา: รายงาน "Detecting and countering malicious uses of Claude: March 2025" ของ Anthropic เผยแพร่เมื่อวันที่ 23 เมษายน 2025