Claude 텍스트 워터마크: AI 사용 흔적이 말해 주는 것과 한계

문장에 흔적이 있어도 작성 과정 전체를 알 수는 없다

AI가 쓴 문장을 구별할 수 있다면 출처를 확인하기 쉬워질까. 누군가의 초안을 조금 고친 경우와 처음부터 생성한 경우는 다르다. 8월 15일 브리핑에서 다룬 Claude의 워터마크 설명은 이 차이를 분명히 한다.

Anthropic은 8월 14일 Claude 텍스트 워터마크의 원리를 공개했다. 의미를 유지할 수 있는 단어 선택에서 특정한 패턴을 남기고, 키를 가진 검사자가 Claude의 관여 가능성을 판단하는 방식이다.

회사 설명에 따르면 숨은 문자를 추가하지 않으며 사용자, 조직, 대화를 식별하는 정보도 담지 않는다. 글쓴이의 계정을 찾아내는 추적 장치로 설명하면 부정확하다.

워터마크는 Claude가 관여했을 가능성을 보여주는 신호다. 원문을 대부분 생성했는지, 사람이 쓴 글을 크게 고쳤는지를 그것만으로 구별할 수 없다.

공식 설명은 짧은 표본에서 탐지가 어렵고, 정확한 표현이 필요한 사실이나 코드에서는 선택의 여지가 적어 패턴이 드물 수 있다고 밝힌다. 코드 주석 등에는 여지가 남는다. 따라서 코드 전체에 일률적인 표식을 붙인다고 이해해서도 안 된다.

팀 문서에서는 도구 사용 여부뿐 아니라 검토자가 무엇을 확인했는지 남기는 편이 좋다. 워터마크를 모든 사실 확인과 책임 판단의 대체재로 쓰지 않는다는 제안이다.

이 글의 원문은 이후 9월 1일 탐지 API 정보를 수정했다. 현재 문서의 제공 범위를 8월 14일 당시 상태와 섞어 표현하지 않았다.

오늘의 트리거는 문장에 표식이 있는지 찾는 일에서, 글이 만들어지고 검토된 과정을 남기는 일로 이어진다.