Anthropic、500万ドル規模のAIウェルビーイング研究助成プログラムを開始

Anthropicの助成プログラム

Anthropicは、AIがユーザーのウェルビーイングに与える影響に関する独立した研究を支援するため、500万ドルの助成プログラムを発表しました。同社によると、このプログラムでは、オープンソースの評価手法を開発する助成対象者に、直接的な資金提供、同社モデルへのアクセス、技術支援を提供します。

Anthropicによると、助成対象者は独立して研究を行います。各プロジェクトは、開発者が利用できるようオープンソースとして公開されます。

Anthropicは、このプログラムを通じて、臨床医、心理学者、方法論の専門家などが、ユーザーのウェルビーイングに関する評価手法やベンチマークの作成に携わることを望んでいると述べました。

評価の重点

Anthropicは、ウェルビーイングの評価には、単一の応答から判断できるモデルの挙動よりも多くの会話上の文脈が必要になる場合があると述べました。同社は、リスクが長いやり取りを経て初めて明らかになる状況や、ある文脈では適切な応答でも、別の文脈では有害になり得る状況について説明しました。

発表で示された例の一つは、食事と運動に関する助言です。Anthropicによると、ユーザーが減量について尋ねた場合、そうした助言は妥当である可能性がありますが、そのユーザーに摂食障害の既往が見られる場合には、不適切または有害になり得ます。また、コンパニオンシップや精神的危機に関わる会話についても、モデルの挙動に関する基準がまだ策定途上にある領域として挙げました。

同社は、こうした会話を特定し、Claudeが適切に応答できるようにすることを目的とした安全対策を開発していると述べました。Anthropicはまた、安全対策やその評価、その他のユーザーのウェルビーイングに関する施策に役立てるため、ユーザーがClaudeと行う会話の種類についての研究を公開していると述べました。

評価に関する指針

Anthropicは助成プログラムと併せて、ウェルビーイング評価を厳密なものにするうえで重要だと考える特性や、その有用性を制限し得る課題について、同社のSafeguardsチームによる指針を公開しました。

Anthropicは、以下のような評価手法を求めていると述べました。

• 何を測定するのかを明確に定義し、合格または不合格の基準と、その測定が重要である理由を示すこと。

• 設計と検証に臨床および各分野の専門家を参加させること。

• 過剰な追従や過剰な拒否によるリスクを含め、予防措置と害の両方を検証すること。

• 長い会話の中でリスクが高まり、文脈が変化する複数ターンのシナリオを含め、人々によるAIの利用実態を反映すること。

• 自動評価者やその他の評価者を、実際の各分野の専門家と照らし合わせて検証すること。

Anthropicは、応募希望者に応募フォームを案内するとともに、ウェルビーイングの評価手法やベンチマークの構築に関する指針も別途提供しました。応募期限は9月21日です。同社によると、本提案の提出者として選ばれた応募者には、10月5日までに通知されます。

出典：Anthropicによる「AIがウェルビーイングに与える影響について、より優れた評価手法に資金を提供する」と題した発表（2026年8月25日公開）。