Anthropic, 사이버 및 정치, 고위험 사용에 대한 Claude 정책 업데이트

Anthropic은 Claude에 대한 사용 정책을 업데이트하여 악의적인 사이버 활동에 대한 규칙을 추가하고, 정치 콘텐츠에 대한 광범위한 제한을 좁히고, 기존 요구 사항이 법 집행 및 고위험 소비자 대상 사용에 어떻게 적용되는지 명확히 했습니다.

회사는 이번 변경이 사용자 피드백, 제품 변경, 규제 개발 및 집행 우선순위에 대한 응답으로 더 많은 세부 정보와 명확성을 제공하기 위한 것이라고 밝혔습니다. 개정된 정책은 2025년 9월 15일에 발효될 예정이었습니다.

사이버 보안 및 에이전트 사용

Anthropic은 컴퓨터, 네트워크 및 인프라에 대한 악의적인 침해와 관련된 금지 활동을 설명하는 섹션을 추가했습니다. 회사는 에이전트 기능이 발전하고 Claude Code 및 Computer Use와 같은 제품이 출시됨에 따라 대규모 남용, 멀웨어 생성 및 사이버 공격과 같은 위험을 언급했습니다.

개정된 규칙은 시스템을 강화하기 위한 사이버 보안 작업을 계속 지원합니다. Anthropic은 시스템 소유자의 동의 하에 수행되는 취약점 발견을 지원 활동의 예로 들었습니다.

Anthropic은 또한 사용 정책이 에이전트 사용에 어떻게 적용되는지 설명하는 보조 도움말 센터 지침을 발표했습니다. 회사에 따르면 해당 기사에는 에이전트와 관련된 금지 활동에 대한 구체적인 예가 포함되어 있지만 사용 정책을 대체하거나 우선하지는 않습니다.

정치 콘텐츠 제한

이번 업데이트는 로비 및 캠페인 콘텐츠에 대한 Anthropic의 이전 광범위한 금지 조항을 개정합니다. 회사는 사용자들이 이러한 전면적인 제한이 정책 연구, 시민 교육 및 정치적 글쓰기를 위한 Claude 사용을 제한했다고 보고했다고 밝혔습니다.

개정된 접근 방식에 따라 Anthropic은 민주적 절차를 속이거나 방해하는 행위와 유권자 및 캠페인 타겟팅을 구체적으로 금지한다고 밝혔습니다. 회사는 더 좁은 규칙이 합법적인 정치적 담론과 연구를 허용하는 동시에 오해의 소지가 있거나 침해적인 활동을 금지한다고 밝혔습니다.

법 집행 언어

Anthropic은 법 집행 사용에 관한 정책 언어를 재작성하면서 이전 문구와 백오피스 도구 및 분석 애플리케이션에 대한 예외가 때때로 경계를 이해하기 어렵게 만들었다고 말했습니다.

회사는 이번 개정이 허용되거나 금지되는 활동이 아닌 문구를 변경한다고 밝혔습니다. 감시, 추적, 프로파일링 및 생체 인식 모니터링에 대한 제한은 그대로 유지됩니다. Anthropic은 또한 이전 정책에 따라 허용되었던 적절한 백오피스 및 분석 애플리케이션을 계속 허용합니다.

고위험 소비자 대상 사용

Anthropic은 공공 복지 및 사회적 형평성에 영향을 미치는 애플리케이션을 다루는 고위험 사용 사례 요구 사항의 범위를 명확히 했습니다. 회사는 Claude의 법률, 금융 및 고용 관련 사용을 이러한 요구 사항의 적용을 받는 영역으로 식별했습니다.

이러한 애플리케이션에는 인간 감독 및 AI 사용 공개와 같은 보호 조치가 필요합니다. Anthropic은 개정된 언어가 이러한 요구 사항이 비즈니스 간 상호 작용이 아닌 소비자에게 모델 출력이 제공될 때 적용된다는 점을 명확히 한다고 밝혔습니다.

Anthropic은 사용 정책을 AI 위험이 변화함에 따라 업데이트될 것으로 예상되는 문서라고 설명했습니다. 회사는 내부적으로 및 외부 정책 입안자, 주제 전문가 및 시민 사회와 함께 정책을 계속 평가할 것이라고 밝혔습니다.

출처: Anthropic의 “사용 정책 업데이트”, 2025년 8월 15일 게시.