Anthropic startet ein 5-Millionen-Dollar-Förderprogramm für Forschung zum Wohlbefinden im Zusammenhang mit KI
Anthropic kündigte Finanzierung, Modellzugang und technische Unterstützung für unabhängige Open-Source-Evaluierungen der Auswirkungen von KI auf das Wohlbefinden der Nutzer an.
Kurze Antwort
What did Anthropic announce about funding research into AI’s impact on user wellbeing?
Anthropic hat ein Förderprogramm in Höhe von 5 Millionen US-Dollar für unabhängige Forschung zu den Auswirkungen von KI auf das Wohlbefinden der Nutzer ins Leben gerufen. Ausgewählte Förderempfänger erhalten direkte finanzielle Unterstützung, Zugang zu Anthropics Modellen und technische Unterstützung, während sie unabhängig Open-Source-Evaluierungen entwickeln. Bewerbungen müssen bis zum 21. September eingereicht werden; Einladungen zur Einreichung vollständiger Anträge sind bis zum 5. Oktober vorgesehen.
Das Wichtigste
- Anthropic hat ein Förderprogramm in Höhe von 5 Millionen US-Dollar für unabhängige Forschung zu den Auswirkungen von KI auf das Wohlbefinden der Nutzer ins Leben gerufen.
- The program will provide grantees with direct funding, access to Anthropic’s models and technical support.
- Die Fördermittelempfänger arbeiten unabhängig und veröffentlichen ihre Evaluierungen als Open-Source-Projekte, die Entwicklern zur Verfügung stehen.
- Anthropic sucht nach Evaluationen, die Fachwissen, realistische Gespräche und eine Validierung durch menschliche Experten umfassen.
- Bewerbungen müssen bis zum 21. September eingereicht werden, und ausgewählte Bewerber werden aufgefordert, bis zum 5. Oktober vollständige Vorschläge einzureichen.
Anthronics Förderprogramm
Anthropic kündigte ein Förderprogramm in Höhe von 5 Millionen US-Dollar an, das unabhängige Forschung zu den Auswirkungen von KI auf das Wohlbefinden der Nutzer unterstützen soll. Das Unternehmen erklärte, das Programm werde Fördermittelempfängern, die Open-Source-Evaluierungen entwickeln, direkte Finanzierung, Zugang zu seinen Modellen und technische Unterstützung bieten.
Laut Anthropic werden die Fördermittelempfänger ihre Arbeit unabhängig durchführen. Ihre Projekte werden als Open Source veröffentlicht, sodass Entwickler sie nutzen können.
Anthropic erklärte, es wolle Kliniker, Psychologen, Methodologen und andere Fachleute in die Erstellung von Evaluierungen und Benchmarks zum Wohlbefinden der Nutzer einbeziehen.
Schwerpunkt der Evaluierungen
Anthropic erklärte, dass die Bewertung des Wohlbefindens mehr Gesprächskontext erfordern könne als die Bewertung von Modellverhalten, das anhand einer einzelnen Antwort beurteilt werden kann. Das Unternehmen beschrieb Situationen, in denen Risiken erst im Verlauf eines längeren Austauschs erkennbar werden oder in denen eine Antwort in einem Kontext angemessen, in einem anderen jedoch schädlich sein kann.
Ein Beispiel in der Ankündigung betrifft Ratschläge zu Ernährung und Bewegung. Anthropic erklärte, solche Ratschläge könnten angemessen sein, wenn ein Nutzer nach Möglichkeiten zur Gewichtsabnahme fragt, könnten jedoch unangemessen oder schädlich sein, wenn der Nutzer in der Vergangenheit Anzeichen einer Essstörung gezeigt hat. Das Unternehmen nannte außerdem Gespräche über zwischenmenschliche Begleitung und psychische Krisen als Bereiche, in denen Standards für das Modellverhalten noch entwickelt werden.
Das Unternehmen erklärte, es entwickle Schutzmaßnahmen, die solche Gespräche erkennen und Claude dabei helfen sollen, angemessen zu reagieren. Anthropic erklärte außerdem, es veröffentliche Forschung zu den Arten von Gesprächen, die Nutzer mit Claude führen, um die Entwicklung von Schutzmaßnahmen, deren Evaluierung und andere Maßnahmen zum Wohlbefinden der Nutzer zu unterstützen.
Leitlinien für Evaluierungen
Begleitend zum Förderprogramm veröffentlichte Anthropic Leitlinien seines Safeguards-Teams zu den Eigenschaften, die Evaluierungen des Wohlbefindens nach Ansicht des Unternehmens belastbar machen, sowie zu den Herausforderungen, die ihren Nutzen einschränken können.
Anthropic erklärte, es suche nach Evaluierungen, die:
- Klar definieren, was sie messen, einschließlich der Kriterien für Bestehen oder Nichtbestehen und der Gründe, warum die Messung relevant ist.
- Klinische Fachleute und andere Experten in ihre Konzeption und Validierung einbeziehen.
- Sowohl Vorsichtsmaßnahmen als auch Schäden prüfen, einschließlich der Risiken durch übermäßige Befolgung und übermäßige Ablehnung.
- Abbilden, wie Menschen KI nutzen, einschließlich Szenarien mit mehreren Gesprächsrunden, in denen das Risiko zunimmt und sich der Kontext im Verlauf eines langen Gesprächs verändert.
- Automatisierte oder andere Bewertungsverfahren anhand echter Fachleute validieren.
Anthropic verwies potenzielle Bewerber auf ein Bewerbungsformular und stellte separat Leitlinien zur Entwicklung von Evaluierungen und Benchmarks für das Wohlbefinden bereit. Bewerbungen müssen bis zum 21. September eingereicht werden. Das Unternehmen erklärte, dass Bewerber, die zur Einreichung vollständiger Anträge ausgewählt werden, bis zum 5. Oktober benachrichtigt werden.
Quelle: Anthropics Ankündigung „Finanzierung besserer Evaluierungen der Auswirkungen von KI auf das Wohlbefinden“, veröffentlicht am 25. August 2026.
Häufige Fragen
- How much funding is Anthropic providing?
- Anthropic gibt an, dass das Förderprogramm 5 Millionen US-Dollar für unabhängige Forschung zu den Auswirkungen von KI auf das Wohlbefinden der Nutzer bereitstellen wird.
- Welche Unterstützung erhalten die Förderempfänger?
- Das Unternehmen erklärt, dass die Förderempfänger direkte finanzielle Unterstützung, Zugang zu seinen Modellen und technischen Support erhalten werden.
- Will the research be publicly available?
- Anthropic zufolge werden die Förderempfänger ihre Arbeit als Open-Source-Projekte veröffentlichen, die jeder Entwickler nutzen kann.
- Wann ist die Bewerbungsfrist?
- Bewerbungen müssen bis zum 21. September eingereicht werden. Bewerber, die zur Einreichung vollständiger Anträge ausgewählt wurden, werden bis zum 5. Oktober benachrichtigt.