Anthropic、最先端AIモデルのセキュリティ対策を詳説

Anthropicは、最先端の人工知能モデル、その重み、および開発に用いる研究成果を保護するため、一連のサイバーセキュリティ対策を導入していると明らかにした。同社はさらに、政府調達の要件を設け、AI研究機関と公的機関の連携を強化することも提案した。

Anthropicが示した対策には、二者による管理、SSDFとして知られるNISTのセキュア・ソフトウェア開発フレームワーク、SLSAとして知られるソフトウェア成果物のサプライチェーン・レベルが含まれる。同社は、モデルの能力が高まるにつれて、より強力な保護が必要になると指摘し、この取り組みを政府と産業界が関与する反復的なプロセスと位置付けた。

複数当事者による承認

Anthropicは、最先端AIモデルの開発、訓練、ホスティング、展開に関わるシステムに二者による管理を適用するよう提言した。この方式を「AIの重要インフラ設計に対する複数当事者による承認」と呼んでいる。

Anthropicが説明した設計では、いかなる個人も本番環境の重要領域に恒常的にはアクセスできない。アクセスを求める者は、同僚の承認と業務上の正当な理由を得たうえで、期限付きの権限を付与される必要がある。同社によると、新興のAI研究機関でも、大企業並みの資源がなくてもこうした管理策を導入できるという。

Anthropicは、この対策を高度な脅威主体や内部関係者によるリスクへの防御策として提示した。また、二者による管理を適切に実施するには、より幅広いサイバーセキュリティ対策が不可欠だと説明した。

安全なモデル開発

Anthropicはさらに、最先端モデルを扱う環境全体に、安全なソフトウェア開発の手法を適用するよう提言した。モデル開発とそれに関連するソフトウェアに転用できる基準として、SSDFとSLSAを挙げた。

同社によると、この二つのフレームワークを組み合わせることで、展開済みのAIシステムについて一貫した管理・追跡の連鎖を構築できる。Anthropicは、これにより展開済みモデルとその開発企業を結び付け、来歴を確立できるとしている。

Anthropicは、この組み合わせを「安全なモデル開発フレームワーク」と呼んでいる。同社はNISTに対し、標準策定プロセスを通じてSSDFを拡張し、モデル開発を明示的に対象に含めるよう促した。

調達と規制

Anthropicは、政府との契約を求めるAI企業やクラウド事業者に対する調達要件として、複数当事者による承認と安全なモデル開発を定めることが可能だと述べた。これらの措置は、企業に適用されるほかのサイバーセキュリティ要件と併せて導入されることになる。

同社は、米国のクラウド事業者を対象とする調達規則について、多くの最先端モデル企業がそのインフラを利用しているため、市場全体への規制と同様の効果を持ち得ると説明した。Anthropicは、規制要件に先立って機能し得る措置として調達制度を提案した。

Anthropicによると、多くのセキュリティ対策は自主的な取り決めとして始めることができる。ただし将来的には、政府が調達権限や規制権限を用いて順守を義務付けるべきだと判断する可能性もあるという。

官民連携

Anthropicは、最先端AIの研究機関が、金融サービスなどの重要インフラ分野の企業と同様の形で官民連携に参加するよう提言した。また、最先端AIを既存の情報技術分野における特別な下位分野に指定する案を示した。

Anthropicによると、こうした指定は、AI研究機関と政府機関の間で情報共有と協力を拡大する支えとなり得る。同社は、この仕組みが、豊富な資源を持つ悪意あるサイバー攻撃者から研究機関を守る一助になるとしている。

出典：Anthropicが2023年7月25日に公表した「最先端モデルのセキュリティ」に関する発表。