앤트로픽, EU AI법 준수 위해 Claude에 텍스트 워터마크 도입

앤트로픽은 향후 Claude 모델이 워터마크가 포함된 텍스트를 생성할 것이라며, 유럽연합(EU)의 AI법을 준수하기 위한 조치라고 밝혔다. 앤트로픽은 작동 원리를 설명한 게시물에서 자사가 이 요건을 이행하는 여러 주요 AI 제공업체 중 하나라고 설명했다.

워터마크의 작동 원리

앤트로픽에 따르면 대규모 언어 모델은 한 번에 한 단어씩 텍스트를 생성하며, 날씨를 묘사할 때 "흐린" 또는 "잿빛"을 고르는 것처럼 의미상 똑같이 자연스러운 여러 단어 중 하나를 선택해야 하는 경우가 많다. 회사 측은 이처럼 결과에 큰 영향을 미치지 않는 순간에 워터마크가 없는 모델은 임의의 난수로 단어를 선택한다고 설명했다. 워터마크 방식에서는 그 대신 암호화 키와 앞서 나온 단어들을 함께 사용해 선택할 단어를 결정한다. 앤트로픽은 이로 인해 텍스트 전반에 독자는 알아챌 수 없지만 키를 가진 사람이라면 확인할 수 있는 통계적 패턴이 남으며, 이를 통해 해당 텍스트를 Claude가 생성했을 확률을 추정할 수 있다고 밝혔다.

앤트로픽은 이 방식이 구글 딥마인드가 2024년 Nature 논문에서 발표한 SynthID-Text 접근법의 한 버전으로, 2022년 스콧 애런슨이 처음 제안한 설계 원칙을 토대로 한다고 설명했다.

적용 효과가 낮은 경우

앤트로픽에 따르면 단어 선택이 제한되는 텍스트에서는 워터마크가 작용할 여지가 적다. 회사는 "아이작 뉴턴의 가장 유명한 저작은 프린키피아라고 불렸다"와 같은 사실적 진술의 완성이나, 잘못된 토큰 하나만으로도 프로그램이 작동하지 않을 수 있는 코드를 워터마크가 드물게 적용되는 사례로 들었다. 또한 짧은 문장에서는 단어를 선택할 기회가 적어 얻을 수 있는 정보도 줄어들기 때문에 감지 신뢰도가 낮아지며, 사람이 작성한 글을 가볍게 교정한 경우에는 Claude가 생성한 내용이 너무 적어 워터마크가 포착되지 않을 수 있다고 밝혔다. 번역문은 Claude가 모든 단어를 선택하므로 완전히 워터마크된다고 회사 측은 설명했다.

앤트로픽은 대폭 편집하거나 완전히 다시 작성하면 워터마크가 사라질 수 있지만, 가벼운 수정만으로는 대체로 제거되지 않는다고 밝혔다.

도입 및 감지

앤트로픽은 총 약 190개 서명 기관과 함께 2026년 7월 EU의 'AI 생성 콘텐츠 투명성 실천 강령'에 서명했다고 밝혔다. 회사 측은 현재 워터마크 적용 범위를 지역별로 안정적으로 제한할 방법이 없어 출시 시점부터 전 세계에 적용하며, 2026년 8월 2일 이전에 출시된 Claude 모델에도 법에서 정한 전환 기간에 따라 향후 수개월에 걸쳐 워터마크를 적용할 것이라고 설명했다.

회사는 감지 API를 비공개 프리뷰로 출시하고 있으며, 현재 규제기관, 법 집행기관, 언론사, 팩트체크 기관, 연구기관, 교육기관, EU 시민사회단체를 비롯해 자체적인 규정 준수 의무가 있는 기업 등 EU법상 자격을 갖췄다고 회사가 판단한 조직에 제공하고 있다고 밝혔다. 앤트로픽은 향후 접근 범위를 확대할 계획이다.

앤트로픽에 따르면 .png, .jpg, .svg 등 이미지와 기타 파일 유형의 경우 Claude는 워터마크 대신 C2PA 업계 표준을 사용해 암호화 서명된 콘텐츠 자격 증명을 파일 메타데이터에 첨부한다. 이 메타데이터는 파일 자체를 변경하거나 내부에 무언가를 숨기지 않은 채 Claude가 제작 과정에 관여했다는 사실을 표시한다. 회사는 워터마크가 출력물의 소유권을 결정하거나 자사 약관에 따른 사용자의 권리를 변경하지 않는다고 밝혔다.

출처: 앤트로픽, "Claude의 텍스트 워터마크 작동 원리", 2026년 8월 14일 게시, 2026년 9월 1일 업데이트.