アンソロピック、米大統領選を前にClaudeの安全対策を公表

アンソロピックは、2024年11月5日に米国で実施される連邦・州・地方選挙を前に、Claudeが選挙関連の不正利用に使われることを防ぐための方針、技術的な管理策、テストの内容を明らかにした。

同社は2023年7月以降、自社ツールの不正利用の可能性を検知・軽減し、利用者を信頼できる選挙情報へ誘導するための取り組みを続けてきたとしている。今回の発表では、こうした取り組みが、方針上の制限、取り締まりの実務、評価、投票情報への誘導策としてまとめられた。

政治利用への制限

アンソロピックによると、5月に更新した利用ポリシーで、選挙・投票をめぐる禁止事項を明確化した。同社は製品の政治運動やロビー活動への利用を禁じており、この方針の下でClaudeは、候補者や政党、争点を後押しすること、標的を絞った政治運動を行うこと、投票を呼びかけること、政治資金の提供を募ることに使うことができない。

この方針では、選挙法や候補者などに関する誤情報の生成も禁止されている。アンソロピックは、投票機を狙った攻撃や、開票・認証の妨害にClaudeを使うことも認めていないとした。

Claudeが生成するのは画像や音声、動画ではなくテキストのみである。アンソロピックは、この特性により同製品を通じた選挙関連のディープフェイク生成のリスクはなくなると説明している。

取り締まりとテスト

アンソロピックは、方針の順守を徹底するために自動化されたシステムを導入し、そのシステムを人による審査で点検していると説明する。具体的には、claude.ai上でのプロンプトの修正、自社API利用事例の監査、そして極端な場合にはアカウントの停止といった手法を用いているという。

同社はまた、アマゾン ウェブ サービス(AWS)やグーグル クラウド プラットフォーム(GCP)経由でアンソロピックのモデルを利用する利用者について、選挙関連の被害を特定・軽減するため、両社と連携しているとした。

アンソロピックによれば、選挙関連のプロンプトに焦点を当てた標的型レッドチーム演習を定期的に実施している。さらに、外部の専門家と共同で実施する「ポリシー脆弱性テスト」を用い、誤情報やバイアス、悪意ある利用への耐性を検証している。このプロセスには、関連する質問の選定、モデルの応答の記録、有害な要求の拒否など安全対策上の介入が発生したかどうかの記録が含まれるという。

アンソロピックによると、自動化された評価によってシステムを大規模に検証している。このテストでは、候補者や論点をまたいだ政治的公平性、有害な選挙関連の質問への拒否対応、誤情報や有権者プロファイリングの手口への耐性を調べている。同社は、こうした取り組みで得られた知見を、方針や取り締まり体制、モデル自体の見直しに反映させているとした。

投票情報と透明性

アンソロピックは、自社モデルはリアルタイムの選挙情報を提供できるほど頻繁に訓練し直されているわけではないとしている。そのため、選挙関連の質問に対しては、利用者を最新かつ信頼できる投票情報へ誘導しているという。

Claudeでは、投票情報を求める利用者に対し、ポップアップで超党派の情報源であるデモクラシー・ワークス提供の「ターボボート」への訪問を選択できるようにしている。アンソロピックによると、ターボボートには最近、連邦選挙・州選挙に立候補する候補者名や住民投票の議案が追加されたという。

同社はまた、Claudeのシステムプロンプトを更新し、知識の基準日を明示するようにした。アンソロピックは、選挙関連の取り組みで用いた自動評価の一部を公開したほか、AIの能力とリスクに関する第三者評価に資金を提供する取り組みも開始したとしている。

アンソロピックによれば、この一年を通じて政策立案者や市民社会団体、業界関係者と会合を重ね、米国の投票日を前に選挙関連の不正利用が起きた場合を想定したシナリオ計画も行ったという。

出典:アンソロピック「米国選挙への備え」発表、2024年10月8日公開。