앤트로픽, 클로드의 핵무기 관련 오용 방지 위해 NNSA와 분류기 공동 개발

앤트로픽은 미국 에너지부 산하 국가핵안보국(NNSA) 및 국립연구소들과 함께, 자사 클로드 모델의 핵 관련 오용을 탐지하도록 설계된 분류기를 공동 개발했다고 밝혔다.

앤트로픽에 따르면 이 회사는 지난 4월부터 NNSA와 협력해 자사 모델의 핵 확산 위험을 평가하기 시작했다. 앤트로픽은 핵 기술이 본질적으로 이중 용도를 지닌다고 설명한다. 원자로를 가동하는 것과 동일한 물리학 원리가 무기 개발에 악용될 수 있기 때문이다. 또한 핵무기 관련 정보는 특히 민감해 민간 기업 단독으로는 위험을 평가하기 어렵다고 덧붙였다.

분류기의 기능

앤트로픽은 이 분류기를 콘텐츠를 자동으로 분류하는 AI 시스템으로, 우려되는 핵 관련 대화와 무해한 대화를 구분하도록 만들어졌다고 설명한다. 회사 측은 예비 테스트에서 96%의 정확도를 기록했다고 밝혔다.

앤트로픽은 모델 오용을 식별하기 위한 전반적인 시스템의 일환으로 이 분류기를 이미 클로드 트래픽에 적용했으며, 초기 배포 데이터에 따르면 실제 클로드 대화에서도 잘 작동하는 것으로 나타났다고 밝혔다.

접근법 공유 계획

앤트로픽은 프런티어 AI 기업들의 산업 단체인 프런티어 모델 포럼과 이 접근법을 공유할 계획이라고 밝혔다. 다른 AI 개발사들도 NNSA와 협력해 유사한 안전장치를 도입할 수 있도록 하는 청사진 역할을 하기를 기대한다고 전했다.

회사 측은 이번 노력이 프런티어 AI 모델과 관련된 위험에 대응하기 위해 업계와 정부의 상호 보완적 강점을 결합한 민관 파트너십을 보여준다고 설명했다.

앤트로픽은 NNSA와의 협력 및 안전장치 개발에 관한 자세한 내용을 자사 프런티어 레드팀 블로그(red.anthropic.com)에서 확인할 수 있다고 밝혔다. 이 블로그는 프런티어 AI 모델이 국가 안보에 미치는 영향에 관한 연구를 다루는 곳이라고 회사 측은 설명한다.

출처: 앤트로픽, "민관 파트너십을 통한 AI 핵 안전장치 개발", 2025년 8월 21일 발행.