Anthropic aktualisiert Claude-Richtlinien für Cybersicherheit, politische und risikoreiche Anwendungen

Anthropic hat seine Nutzungsrichtlinien für Claude aktualisiert und Regeln für böswillige Cyberaktivitäten hinzugefügt, breite Beschränkungen für politische Inhalte gelockert und präzisiert, wie bestehende Anforderungen für Strafverfolgungsbehörden und risikoreiche, verbraucherorientierte Anwendungen gelten.

Das Unternehmen erklärte, die Änderungen seien dazu bestimmt, mehr Details und Klarheit als Reaktion auf Nutzerfeedback, Produktänderungen, regulatorische Entwicklungen und seine Durchsetzungsstrategien zu bieten. Die überarbeitete Richtlinie sollte am 15. September 2025 in Kraft treten.

Cybersicherheit und agentenbasierte Nutzung

Anthropic fügte einen Abschnitt hinzu, der verbotene Aktivitäten im Zusammenhang mit böswilliger Kompromittierung von Computern, Netzwerken und Infrastruktur beschreibt. Das Unternehmen nannte Risiken wie Missbrauch in großem Maßstab, Malware-Erstellung und Cyberangriffe, da agentenbasierte Fähigkeiten fortgeschritten sind und Produkte wie Claude Code und Computer Use veröffentlicht wurden.

Die überarbeiteten Regeln unterstützen weiterhin die Cybersicherheitsarbeit, die auf die Stärkung von Systemen abzielt. Anthropic nannte die Entdeckung von Schwachstellen mit Zustimmung des Systembesitzers als Beispiel für unterstützte Aktivitäten.

Anthropic veröffentlichte außerdem ergänzende Anleitungen im Hilfecenter, die erklären, wie seine Nutzungsrichtlinien für agentenbasierte Nutzungen gelten. Laut dem Unternehmen enthält dieser Artikel konkrete Beispiele für verbotene Aktivitäten mit Agenten, ersetzt oder hebt jedoch die Nutzungsrichtlinien nicht auf.

Beschränkungen für politische Inhalte

Das Update überarbeitet Anthropic's frühere breite Verbote von Lobbying und Wahlkampf-Inhalten. Das Unternehmen teilte mit, dass Nutzer berichtet hätten, dass die pauschalen Beschränkungen auch die Nutzung von Claude für Politikforschung, staatsbürgerliche Bildung und politische Schriften einschränkten.

Im Rahmen des überarbeiteten Ansatzes verbietet Anthropic laut eigenen Angaben ausdrücklich Nutzungen, die täuschend oder störend für demokratische Prozesse sind, sowie die gezielte Ansprache von Wählern und Wahlkämpfern. Das Unternehmen erklärte, die enger gefassten Regeln erlaubten legitimen politischen Diskurs und Forschung, während irreführende oder invasive Aktivitäten untersagt würden.

Sprache für Strafverfolgungsbehörden

Anthropic hat die Formulierungen seiner Richtlinien bezüglich der Nutzung durch Strafverfolgungsbehörden umgeschrieben und erklärt, dass frühere Formulierungen und Ausnahmen für Backoffice-Tools und analytische Anwendungen die Grenzen manchmal schwer verständlich gemacht hätten.

Das Unternehmen teilte mit, dass die Überarbeitung die Formulierungen ändere, nicht aber die erlaubten oder verbotenen Aktivitäten. Beschränkungen für Überwachung, Verfolgung, Profiling und biometrische Überwachung bleiben bestehen. Anthropic erlaubt weiterhin die angemessenen Backoffice- und analytischen Anwendungen, die unter der vorherigen Richtlinie zulässig waren.

Risikoreiche, verbraucherorientierte Nutzungen

Anthropic hat den Geltungsbereich seiner Anforderungen für risikoreiche Anwendungsfälle präzisiert, die Auswirkungen auf das Gemeinwohl und die soziale Gerechtigkeit haben. Das Unternehmen nannte rechtliche, finanzielle und beschäftigungsbezogene Nutzungen von Claude als Bereiche, die diesen Anforderungen unterliegen.

Diese Anwendungen erfordern Schutzmaßnahmen, einschließlich menschlicher Aufsicht und Offenlegung, dass KI eingesetzt wird. Anthropic erklärte, die überarbeitete Formulierung mache deutlich, dass diese Anforderungen gelten, wenn Modell-Ausgaben Verbrauchern gegenüberstehen, und nicht für Geschäfts-zu-Geschäfts-Interaktionen.

Anthropic beschrieb seine Nutzungsrichtlinien als ein Dokument, das es voraussichtlich aktualisieren wird, wenn sich die KI-Risiken ändern. Das Unternehmen erklärte, es werde seine Richtlinien intern und mit externen politischen Entscheidungsträgern, Fachexperten und der Zivilgesellschaft weiter bewerten.

Quelle: Anthropic's „Usage policy update“, veröffentlicht am 15. August 2025.