Anthropic、Claudeを悪用した影響工作、詐欺、マルウェアの実態を詳述

Anthropicは、組織的な政治的影響工作、流出した監視カメラの認証情報を巡る活動、採用詐欺、マルウェア開発にClaudeが悪用されたとする4件の事例をまとめた報告書を公表した。同社は、すべての事例に関連するアカウントを特定し、停止したとしている。

Anthropicによると、同社のインテリジェンスチームは、大量の会話データを分析するため、Clioおよび階層的要約に関する研究から得た技術を活用した。さらに、潜在的に有害な要求がないかユーザーの入力を調べ、Claudeの応答を送信前または送信後に評価する分類器を組み合わせた。

ソーシャルメディアのボットを組織的に運用

同社は、Twitter/XとFacebookで100を超えるボットアカウントを管理していた、金銭目的の「影響工作サービス」事業と称する活動を特定した。Anthropicによると、この活動は複数の国と言語にまたがり、数万件の実在するソーシャルメディアアカウントとやり取りしていた。

Anthropicによれば、運営者はClaudeを使い、それぞれ異なる政治的立場を持つ人物像を作成・維持し、その立場に沿った返信を生成したほか、画像生成ツール用のプロンプトを用意していた。Claudeはまた、顧客の政治的目標に応じ、ボットアカウントが特定の投稿に「いいね」を付けるか、共有するか、コメントするか、無視するかの判断にも利用されていた。

Anthropicは、そこで使われた言説が国家関係のキャンペーンに見られるものと類似していたとする一方、そうした主体による活動とは断定しなかった。また、この活動によるコンテンツはいずれも拡散して大きな話題にはならなかったという。同社は、米国外の顧客のために穏健な政治的見解を継続的な交流を通じて広める活動だったと説明している。

認証情報、採用詐欺、マルウェア

別の事例では、高度な能力を持つ攻撃者が、監視カメラに関連する流出したユーザー名とパスワードを収集し、インターネットに公開された標的に対して認証情報を試すシステムの構築を図っていたとAnthropicは説明した。この攻撃者はClaudeを使い、スクレイピング用ツールキットの書き換え、標的URLを収集するスクリプトの作成、情報窃取型マルウェアのログを扱うTelegramコミュニティの投稿処理、検索システムの改良を行っていた。Anthropicは、実際に運用に成功したことは確認していないとしている。

同社はまた、主に東欧諸国の求職者を狙った採用詐欺を行っていた人物のアカウントを停止したと報告した。Anthropicによると、この活動では実在する企業の採用担当者になりすまし、Claudeを使って文章を推敲し、採用に関する筋書きを練り、面接資料を作成し、メッセージの体裁を整えていた。報告書によれば、運営者は不自然で稚拙な英語の文章をClaudeに入力し、洗練させていた。Anthropicは、この活動による詐欺の成功例は確認していないとしている。

4件目では、コーディング能力が限られた人物がClaudeを使い、個人情報の暴露や遠隔アクセスのためのツールを開発していた。Anthropicによると、この人物のツールキットには顔認識やダークウェブのスキャン機能が追加された一方、マルウェア作成ツールは、バッチスクリプト生成器から、セキュリティ対策を回避してアクセスを維持するよう設計された悪意あるペイロードを作成できるグラフィカルインターフェースへと発展した。同社は、このマルウェアが実際に使用されたことは確認していない。

検知と措置

Anthropicは、同社のインテリジェンスプログラムについて、標準的な検知システムが見逃す被害を発見し、攻撃者が同社のモデルをどのように悪用しているかを把握するための情報を提供するものだと説明した。各事例から得た知見は、敵対的な利用をより迅速に検知・防止するための広範な対策に反映されたという。

出典：Anthropic「Detecting and countering malicious uses of Claude: March 2025」（2025年4月23日公開）。