アンソロピックとNNSA、クロードの核兵器関連の悪用を検知する分類器を共同開発

Anthropicは、米エネルギー省(DOE)の国家核安全保障局(NNSA)およびDOE傘下の国立研究所と共同で、自社のClaudeモデルが核関連の悪用に使われていないかを検知する分類器を開発したと発表した。

Anthropicによると、同社は昨年4月からNNSAと協力し、自社モデルが核拡散リスクをはらんでいないかの評価に取り組んできたという。核技術は本質的にデュアルユース(軍民両用)であり、原子炉を稼働させるのと同じ物理原理が兵器開発にも転用されかねない。しかも核兵器に関する情報はとりわけ機微であるため、民間企業単独ではリスク評価が難しいとAnthropicは説明している。

分類器の役割

Anthropicはこの分類器について、コンテンツを自動的に分類するAIシステムであり、懸念すべき核関連の会話と問題のない会話を区別するために構築されたと説明する。予備テストでは96%の精度に達したという。

同社によれば、この分類器はすでにClaudeの通信トラフィックに導入され、モデルの悪用を検知する広範なシステムの一部として機能している。導入初期のデータからは、実際のClaudeとの会話に対しても分類器が良好に機能していることがうかがえるという。

手法の共有

Anthropicは、フロンティアAI企業による業界団体「Frontier Model Forum」ともこの手法を共有する計画だとしている。今回の連携が、他のAI開発企業がNNSAと協力して同様の安全対策を導入する際のひな型となることを期待しているという。

同社は、この取り組みについて、フロンティアAIモデルに関わるリスクに対処するため、業界と政府それぞれの強みを組み合わせた官民連携の一例だと位置づけている。

Anthropicは、NNSAとの連携や安全対策開発の詳細を、自社のFrontier Red Teamブログ(red.anthropic.com)で公開しているとしている。同社はこのブログを、フロンティアAIモデルが国家安全保障に与える意味についての研究拠点と位置づけている。

出典:Anthropic「Developing nuclear safeguards for AI through public-private partnership」、2025年8月21日公開。