Anthropic、カリフォルニア州SB53に対応したコンプライアンス枠組みを公表
Anthropic released a framework describing how it assesses and mitigates catastrophic risks from frontier AI models under California’s SB 53.
ひとことで言うと
カリフォルニア州のSB53に対応するAnthropicのコンプライアンス枠組みは、何を対象としているのか。
Anthropic published its Frontier Compliance Framework for California’s Transparency in Frontier AI Act. The document describes the company’s approach to evaluating and mitigating catastrophic risks from frontier models, protecting model weights and responding to safety incidents. Anthropic says the framework will support compliance with SB 53 and other regulatory requirements.
要点
- Anthropic published its Frontier Compliance Framework to meet a requirement of California’s Transparency in Frontier AI Act.
- この枠組みは、サイバー攻撃、化学・生物・放射性物質・核(CBRN)の脅威に加え、AIによる妨害行為や制御不能に陥るリスクにも対応している。
- It describes a tiered system for evaluating model capabilities, Anthropic’s mitigation approach, protections for model weights and responses to safety incidents.
- Anthropicは、この枠組みがSB53をはじめとする各種規制要件への準拠体制として機能すると説明している。
- The company’s Responsible Scaling Policy will remain a separate voluntary safety policy.
Anthropicは、フロンティアAIモデルがもたらす壊滅的リスクをどのように評価・管理するかを説明する「フロンティア・コンプライアンス・フレームワーク」を発表した。同社はこの文書が、カリフォルニア州の「フロンティアAI透明性法」(SB 53として知られる)およびその他の規制要件に対応するコンプライアンス枠組みになるとしている。
SB 53は1月1日に施行され、フロンティアAI開発企業に対し、壊滅的リスクの評価・管理方法を説明する枠組みの公表を義務付ける。Anthropicは同法を支持する立場を表明しているが、一方で連邦レベルの枠組み整備も訴えてきた。
対象となるリスクと安全対策
フロンティア・コンプライアンス・フレームワークは、サイバー攻撃能力の悪用、化学・生物・放射性物質・核(CBRN)の脅威、AIによるサボタージュ、そして制御喪失リスクを対象とする。Anthropicは、これらのリスク区分を自社のフロンティアモデルに適用しているとしている。
文書はまた、こうしたリスク区分に照らしてモデルの能力を評価する段階別の枠組みや、緩和策への取り組み方についても説明している。モデルの重み(weights)の保護や、安全上のインシデントが発生した際の対応手順も盛り込まれている。
Anthropicによれば、フレームワークに盛り込まれた手法の多くは、同社が長年実践してきた取り組みから発展したものだという。2023年に導入した「責任あるスケーリングポリシー」は、先進的なAIシステムがもたらす極端なリスクへの対処方針を定めたもので、これまでの開発・展開判断の指針となってきた。同社はまた、新モデルごとに能力・安全性評価・リスク評価をまとめた「システムカード」も公表している。
Anthropicは、フロンティア・コンプライアンス・フレームワークと責任あるスケーリングポリシーはそれぞれ異なる役割を担うと説明する。コンプライアンス・フレームワークはSB 53をはじめとする規制要件への対応を担い、責任あるスケーリングポリシーは、規制の範囲を超える、あるいは規制とは異なる部分を含め、Anthropicが適切と考える取り組みを反映した自主的な安全方針として引き続き運用される。
連邦レベルでの提言
Anthropicは、連邦レベルのAI透明性枠組みを求める従来からの主張も改めて示した。同社は今年前半、特定の技術的手法を規定するのではなく、安全上の取り組みを一般に可視化することを軸とした連邦法案の枠組みを提案していたという。
この提案では、対象となる開発企業に対し、深刻なリスクをどのように評価・緩和するかを説明する「安全な開発の枠組み」の公表を義務付ける。対象リスクには、化学・生物・放射性物質・核による被害に加え、モデルの自律性が意図から逸脱すること(ミスアライメント)によって生じる被害も含まれる。
Anthropicの提案はまた、モデルの展開時にシステムカードの公表を義務付けるものでもある。この文書にはテスト内容、評価手順、結果、緩和策の概要が記載され、モデルに大幅な変更が加えられた際には更新されることになる。
同社は、コンプライアンス違反を告発する従業員を明確に法的に保護する仕組みも提案した。研究機関が自社の枠組みへの準拠を偽ったり、内部告発者を罰したりすることを法律で禁止すべきだとしている。
さらにAnthropicは、AI開発や業界の合意された実務慣行の変化に応じて柔軟に対応できる、最低限の透明性基準の整備を求めた。こうした要件は、壊滅的な被害のリスクが低いモデルを手がける小規模な開発企業ではなく、最も高性能なモデルを構築する既存の大手フロンティア開発企業のみに適用すべきだとしている。
出典: Anthropicの発表「カリフォルニア州フロンティアAI透明性法に向けたコンプライアンス枠組みの公表について」(2025年12月19日公開)
よくある質問
- Anthropicの「フロンティア・コンプライアンス・フレームワーク」とは何か。
- It is Anthropic’s public framework describing how the company assesses and manages catastrophic risks associated with its frontier models.
- この枠組みはどのリスクを対象としていますか。
- Anthropic says it covers cyber offense; chemical, biological, radiological and nuclear threats; AI sabotage; and loss of control.
- このフレームワークは、アンソロピック社の「責任あるスケーリングポリシー」に取って代わるものですか。
- No. Anthropic says the Frontier Compliance Framework will address regulatory compliance, while the Responsible Scaling Policy will remain its voluntary safety policy.
- Anthropicはどのような連邦規制を支持しているのか。
- Anthropic proposes public secure development frameworks, system cards at deployment, whistleblower protections, flexible transparency standards and requirements limited to the largest model developers.