앤트로픽, 500만 달러 규모의 AI 웰빙 연구 지원 프로그램 출범

Anthropic의 보조금 프로그램

Anthropic은 AI가 사용자의 웰빙에 미치는 영향을 연구하는 독립 연구를 지원하기 위해 500만 달러 규모의 보조금 프로그램을 발표했다. 회사 측은 이 프로그램을 통해 오픈 소스 평가를 개발하는 보조금 수혜자에게 직접 자금, 자사 모델 이용 권한 및 기술 지원을 제공할 예정이라고 밝혔다.

Anthropic에 따르면 보조금 수혜자들은 독립적으로 연구를 수행한다. 이들의 프로젝트는 개발자들이 활용할 수 있도록 오픈 소스로 공개된다.

Anthropic은 사용자 웰빙에 관한 평가와 벤치마크를 만드는 과정에 임상의, 심리학자, 방법론 전문가 및 기타 전문가들이 참여하기를 바란다고 밝혔다.

평가의 초점

Anthropic은 한 번의 응답만으로 판단할 수 있는 모델 행동과 달리, 웰빙을 평가하려면 더 많은 대화 맥락이 필요할 수 있다고 밝혔다. 회사는 위험이 긴 대화가 이어진 뒤에야 드러나거나, 어떤 맥락에서는 적절한 응답이 다른 맥락에서는 해로울 수 있는 상황을 설명했다.

발표에서 든 한 가지 사례는 식단과 운동에 관한 조언이다. Anthropic은 사용자가 체중 감량 방법을 물을 때는 그러한 조언이 합리적일 수 있지만, 사용자가 섭식 장애 이력을 보인 경우에는 부적절하거나 해로울 수 있다고 밝혔다. 또한 동반자 관계와 정신 건강 위기를 다루는 대화를 모델 행동 기준이 아직 개발 중인 영역으로 언급했다.

회사는 이러한 대화를 식별하고 Claude가 적절하게 대응하도록 돕기 위한 안전장치를 개발하고 있다고 밝혔다. Anthropic은 또한 안전장치와 그 평가, 기타 사용자 웰빙 조치에 참고할 수 있도록 사용자들이 Claude와 나누는 대화 유형에 관한 연구를 공개한다고 밝혔다.

평가 지침

Anthropic은 보조금 프로그램과 함께, 웰빙 평가를 엄밀하게 만드는 특성과 그 유용성을 제한할 수 있는 과제에 관해 자사 안전장치 팀이 마련한 지침을 공유했다.

Anthropic은 다음과 같은 평가를 찾고 있다고 밝혔다.

• 무엇을 측정하는지, 무엇이 통과 또는 실패에 해당하는지, 그리고 해당 측정이 중요한 이유를 명확히 정의한다.

• 설계와 검증에 임상 전문가 및 해당 분야 전문가를 참여시킨다.

• 과도한 순응과 과도한 거부에서 비롯되는 위험을 포함해 예방 조치와 피해를 모두 시험한다.

• 긴 대화 중 위험이 커지고 맥락이 변하는 다중 턴 시나리오를 포함하여 사람들이 AI를 사용하는 방식을 반영한다.

• 자동화된 평가자나 기타 평가자를 실제 해당 분야 전문가와 대조하여 검증한다.

Anthropic은 신청 희망자들에게 신청 양식을 안내했으며, 별도로 웰빙 평가와 벤치마크 구축에 관한 지침을 제공했다. 신청 마감일은 9월 21일이다. 회사는 전체 제안서 제출 대상으로 선정된 신청자에게 10월 5일까지 통보할 예정이라고 밝혔다.

출처: 2026년 8월 25일에 발표된 Anthropic의 “AI가 웰빙에 미치는 영향에 대한 더 나은 평가 지원” 발표.