Anthropic veröffentlicht Compliance-Framework für Kaliforniens SB 53

Anthropic hat ein Frontier Compliance Framework veröffentlicht, das beschreibt, wie das Unternehmen katastrophale Risiken durch Frontier-KI-Modelle bewertet und steuert. Das Dokument diene als Compliance-Rahmen für Kaliforniens Transparency in Frontier AI Act, bekannt als SB 53, sowie für weitere regulatorische Anforderungen, so das Unternehmen.

SB 53 tritt am 1. Januar in Kraft und verpflichtet Entwickler von Frontier-KI dazu, Rahmenwerke zu veröffentlichen, die erläutern, wie sie katastrophale Risiken bewerten und steuern. Anthropic erklärte, das Gesetz zu unterstützen, hat sich zugleich aber auch für einen bundesweiten Rahmen ausgesprochen.

Abgedeckte Risiken und Schutzmaßnahmen

Das Frontier Compliance Framework behandelt Cyberangriffe, chemische, biologische, radiologische und nukleare Bedrohungen, KI-Sabotage sowie Risiken des Kontrollverlusts. Anthropic zufolge wendet das Unternehmen diese Kategorien auf seine Frontier-Modelle an.

Das Dokument beschreibt zudem Anthropics gestuftes System zur Bewertung von Modellfähigkeiten anhand dieser Risikokategorien und erläutert den Ansatz des Unternehmens zu Gegenmaßnahmen. Es umfasst den Schutz von Modellgewichten sowie Verfahren zur Reaktion auf Sicherheitsvorfälle.

Viele der im Framework beschriebenen Praktiken hätten sich aus Maßnahmen entwickelt, die das Unternehmen seit Jahren verfolge, so Anthropic. Die 2023 eingeführte Responsible Scaling Policy beschreibt den Umgang mit extremen Risiken fortgeschrittener KI-Systeme und hat Entwicklungs- und Einsatzentscheidungen mitgeprägt. Zudem veröffentlicht das Unternehmen für neue Modelle System Cards, die Fähigkeiten, Sicherheitsbewertungen und Risikoanalysen beschreiben.

Anthropic zufolge werden das Frontier Compliance Framework und die Responsible Scaling Policy unterschiedliche Rollen einnehmen. Das Compliance Framework soll SB 53 sowie weitere regulatorische Anforderungen abdecken. Die Responsible Scaling Policy bleibt eine freiwillige Sicherheitsrichtlinie, die Praktiken widerspiegelt, die Anthropic für angemessen hält – auch dort, wo diese über regulatorische Anforderungen hinausgehen oder von ihnen abweichen.

Vorschlag auf Bundesebene

Anthropic bekräftigte zudem seine Forderung nach einem bundesweiten Transparenz-Rahmenwerk für KI. Das Unternehmen habe bereits im Jahresverlauf einen Vorschlag für ein Bundesgesetz vorgelegt, der auf öffentliche Einsicht in Sicherheitspraktiken setzt, ohne feste technische Methoden vorzuschreiben.

Der Vorschlag würde betroffene Entwickler verpflichten, sichere Entwicklungsrahmen zu veröffentlichen, die erläutern, wie sie ernsthafte Risiken bewerten und eindämmen. Zu diesen Risiken zählten chemische, biologische, radiologische und nukleare Schäden sowie Schäden durch fehlausgerichtete Modellautonomie.

Anthropics Vorschlag würde Entwickler zudem verpflichten, beim Einsatz von Modellen System Cards zu veröffentlichen. Die Dokumentation solle Tests, Bewertungsverfahren, Ergebnisse und Gegenmaßnahmen zusammenfassen und nach wesentlichen Modelländerungen aktualisiert werden.

Das Unternehmen schlug ausdrücklichen rechtlichen Schutz für Beschäftigte vor, die Bedenken hinsichtlich Verstößen äußern. Das Gesetz solle es Laboren untersagen, die Einhaltung ihrer Rahmenwerke falsch darzustellen oder Whistleblower zu bestrafen.

Anthropic forderte zudem Mindeststandards für Transparenz, die flexibel bleiben, wenn sich KI-Entwicklung und Konsenspraktiken weiterentwickeln. Die Anforderungen sollten nur für etablierte Frontier-Entwickler gelten, die die leistungsfähigsten Modelle bauen, und nicht für kleinere Entwickler, deren Modelle ein geringes Risiko katastrophaler Schäden bergen.

Quelle: Anthropics Ankündigung „Sharing our compliance framework for California's Transparency in Frontier AI Act“, veröffentlicht am 19. Dezember 2025.