Anthropic erläutert Schutzmaßnahmen für Claude im Vorfeld der US-Wahlen
Anthropic stellte Richtlinien, Durchsetzungssysteme, Tests und Weiterleitungen zu Wahlinformationen vor, die den wahlbezogenen Missbrauch von Claude begrenzen sollen.
Kurze Antwort
Welche Schutzmaßnahmen für Claude im Zusammenhang mit Wahlen kündigte Anthropic an?
Anthropic stellte Maßnahmen vor, die den wahlbezogenen Missbrauch von Claude verhindern sollen. Dazu zählen Beschränkungen für Wahlkampf, Lobbyarbeit und Falschinformationen, eine automatisierte Durchsetzung mit nachgelagerter menschlicher Überprüfung, gezielte Red-Team-Tests sowie groß angelegte Evaluierungen. Zudem verweist das Unternehmen bei wahlbezogenen Anfragen auf aktuelle Wahlinformationen und nennt in Claudes System-Prompt den Wissensstichtag des Modells.
Das Wichtigste
- Anthropic untersagt die Nutzung seiner Produkte für politische Wahlkämpfe, Lobbyarbeit, zielgerichtete politische Kampagnen, das Werben um Stimmen und das Einwerben politischer Spenden.
- Das Unternehmen gibt an, gegen wahlbezogenen Missbrauch mit automatisierter Durchsetzung, menschlicher Überprüfung und in Extremfällen mit Kontosperrungen vorzugehen.
- Anthropic testet Claude im Hinblick auf wahlbezogene Falschinformationen, politische Ausgewogenheit, die Ablehnung schädlicher Anfragen und Methoden zur Erstellung von Wählerprofilen.
- Claude-Nutzer, die Informationen zur Stimmabgabe suchen, können die Möglichkeit erhalten, TurboVote aufzurufen, ein überparteiliches Angebot von Democracy Works.
Anthropic stellte Richtlinien, technische Kontrollen und Tests vor, die den wahlbezogenen Missbrauch von Claude im Vorfeld der US-Wahlen auf Bundes-, Bundesstaats- und Kommunalebene am 5. November 2024 begrenzen sollen.
Das Unternehmen erklärte, es habe seit Juli 2023 Maßnahmen ergriffen, um einen möglichen Missbrauch seiner Werkzeuge zu erkennen und einzudämmen sowie Nutzer auf verlässliche Wahlinformationen hinzuweisen. Die Mitteilung fasste diese Arbeit zusammen, darunter Richtlinienbeschränkungen, Durchsetzungspraktiken, Evaluierungen und Weiterleitungen zu Wahlinformationen.
Beschränkungen für politische Nutzung
Anthropic erklärte, mit einer Aktualisierung seiner Nutzungsrichtlinie im Mai seien verbotene Anwendungen im Zusammenhang mit Wahlen und Abstimmungen präzisiert worden. Das Unternehmen untersagt die Nutzung seiner Produkte für politische Wahlkämpfe und Lobbyarbeit. Gemäß dieser Richtlinie darf Claude nicht eingesetzt werden, um Kandidaten, Parteien oder politische Anliegen zu unterstützen, zielgerichtete politische Kampagnen durchzuführen, um Stimmen zu werben oder finanzielle Beiträge einzuwerben.
Die Richtlinie verbietet außerdem die Erstellung von Falschinformationen über Wahlgesetze, Kandidaten und verwandte Themen. Anthropic erklärte, Claude dürfe weder für Angriffe auf Wahlmaschinen noch zur Behinderung der Stimmenauszählung oder der amtlichen Bestätigung von Wahlergebnissen eingesetzt werden.
Claude erzeugt Text, jedoch keine Bilder, Audio- oder Videoinhalte. Anthropic zufolge schließt diese Einschränkung das Risiko aus, dass mit dem Produkt wahlbezogene Deepfakes erstellt werden.
Durchsetzung und Tests
Anthropic erklärte, es setze automatisierte Systeme zur Durchsetzung seiner Richtlinien ein und kontrolliere diese Systeme durch menschliche Überprüfung. Zu den Methoden gehören die Anpassung von Eingabeaufforderungen auf claude.ai, die Prüfung von Anwendungsfällen in der unternehmenseigenen API und in Extremfällen die Sperrung von Konten.
Das Unternehmen arbeitet außerdem mit Amazon Web Services und der Google Cloud Platform zusammen, um wahlbezogene Schäden zu erkennen und einzudämmen, die von Nutzern ausgehen könnten, die über diese Plattformen auf Anthropic-Modelle zugreifen.
Anthropic erklärte, regelmäßig gezielte Red-Team-Tests mit Schwerpunkt auf wahlbezogenen Eingabeaufforderungen durchzuführen. Zudem setzt das Unternehmen gemeinsam mit externen Fachleuten sogenannte Policy Vulnerability Tests ein, um Falschinformationen, Verzerrungen und missbräuchliche Umgehungsversuche zu untersuchen. Dabei werden relevante Fragen ausgewählt, Modellantworten dokumentiert und festgehalten, ob Sicherheitsmechanismen greifen, etwa indem schädliche Anfragen abgelehnt werden.
Anthropic zufolge prüfen automatisierte Evaluierungen die Systeme im großen Maßstab. Untersucht werden die politische Ausgewogenheit gegenüber verschiedenen Kandidaten und Themen, die Ablehnung schädlicher wahlbezogener Anfragen sowie die Widerstandsfähigkeit gegen Falschinformationen und Methoden zur Erstellung von Wählerprofilen. Anthropic erklärte, die Erkenntnisse aus dieser Arbeit flössen in Änderungen seiner Richtlinien, Durchsetzungsverfahren und Modelle ein.
Wahlinformationen und Transparenz
Anthropic erklärte, seine Modelle würden nicht häufig genug trainiert, um Wahlinformationen in Echtzeit bereitzustellen. Bei wahlbezogenen Fragen verweist das Unternehmen Nutzer auf aktuelle, verlässliche Informationsangebote zur Stimmabgabe.
Ein Pop-up in Claude bietet Nutzern, die nach Informationen zur Stimmabgabe fragen, die Möglichkeit, TurboVote aufzurufen, ein überparteiliches Angebot von Democracy Works. Anthropic erklärte, TurboVote habe kürzlich die Namen der Kandidaten bei Wahlen auf Bundes- und Bundesstaatsebene sowie zur Abstimmung stehende Volksentscheide aufgenommen.
Das Unternehmen aktualisierte außerdem Claudes System-Prompt, um dort den Wissensstichtag des Modells anzugeben. Anthropic erklärte, einige der bei seiner Arbeit zu Wahlen eingesetzten automatisierten Evaluierungen veröffentlicht und eine Initiative zur Finanzierung unabhängiger Bewertungen von KI-Fähigkeiten und -Risiken gestartet zu haben.
Anthropic erklärte, sich im Laufe des Jahres mit politischen Entscheidungsträgern, zivilgesellschaftlichen Organisationen und Branchenvertretern getroffen und vor dem US-Wahltag Szenarien für einen möglichen wahlbezogenen Missbrauch durchgespielt zu haben.
Quelle: Anthropics Mitteilung „U.S. elections readiness“, veröffentlicht am 8. Oktober 2024.
Häufige Fragen
- Kann Claude für politische Wahlkämpfe eingesetzt werden?
- Anthropic zufolge untersagt die Unternehmensrichtlinie die Nutzung seiner Produkte für politische Wahlkämpfe und Lobbyarbeit. Die Beschränkungen umfassen die Unterstützung von Kandidaten, Parteien oder politischen Anliegen, zielgerichtete politische Kampagnen, das Werben um Stimmen und das Einwerben finanzieller Beiträge.
- Wie überwacht Anthropic wahlbezogenen Missbrauch?
- Das Unternehmen gibt an, automatisierte Durchsetzung mit menschlicher Überprüfung zu kombinieren. Zu seinen Methoden gehören die Anpassung von Eingabeaufforderungen auf claude.ai, Prüfungen von Anwendungsfällen in der unternehmenseigenen API und in Extremfällen Kontosperrungen.
- Wie testet Anthropic seine Schutzmaßnahmen für Wahlen?
- Anthropic erklärt, gezielte Red-Team-Tests, Policy Vulnerability Tests mit externen Fachleuten sowie automatisierte Evaluierungen zu mehreren wahlbezogenen Risiken durchzuführen.
- Wohin verweist Claude Nutzer, die Informationen zur Stimmabgabe suchen?
- Anthropic hat ein Pop-up eingeführt, das Nutzern eine Weiterleitung zu TurboVote anbietet, einem überparteilichen Angebot von Democracy Works. Das Unternehmen erklärte, TurboVote sei um die Namen der Kandidaten bei Wahlen auf Bundes- und Bundesstaatsebene sowie um zur Abstimmung stehende Volksentscheide ergänzt worden.
Quellen
- U.S. elections readiness \ Anthropic — Anthropic