AI가 만든 글에 표시를 남기는 일은 그동안 이미지 중심으로 이야기됐다. 그런데 8월 14일 Anthropic은 향후 Claude 모델이 생성하는 텍스트에 보이지 않는 워터마크를 넣겠다고 설명했다. 8월 2일부터 적용된 EU AI Act의 투명성 의무가 배경이다. 글을 요약하고 초안을 만들고 코드를 보조하는 도구가 일상 업무로 들어온 지금, 이 변화는 ‘AI를 썼는가’를 단정하는 장치보다 검출 신호를 다루는 운영 문제에 가깝다.
먼저 범위를 좁혀 볼 필요가 있다. Anthropic의 설명에 따르면 이 워터마크는 독자가 볼 수 있는 표식이나 숨은 문자가 아니다. 모델이 다음 단어를 고를 때 여러 자연스러운 후보 사이의 확률적 선택에 일정한 패턴을 남긴다. 검출 측은 비밀 키로 그 패턴이 Claude의 선택과 맞는지를 보고, 해당 텍스트에 Claude가 관여했을 가능성을 확률로 판단한다.
검출은 출처의 단서이지 저자 판정이 아니다
여기서 가장 중요한 제한이 나온다. 워터마크가 검출돼도 ‘Claude가 전부 썼다’와 ‘Claude가 크게 고쳤다’를 구분하지 못한다. 반대로 워터마크가 검출되지 않는다고 사람이 썼다는 뜻도 아니다. 다른 모델은 다른 방식이나 다른 키를 쓸 수 있고, 짧은 문장에는 관찰할 선택 자체가 부족할 수 있다.
문장의 성격도 영향을 준다. 사실을 정확히 써야 하는 구간은 대체 가능한 단어가 적어서 패턴을 심을 여지가 작다. Anthropic은 문법과 문장부호만 가볍게 교정한 문서, 정확한 출력이 필요한 코드에도 워터마크가 약하거나 거의 없을 수 있다고 밝혔다. 코드 주석처럼 선택 폭이 있는 부분은 예외가 될 수 있지만, 실행 가능한 코드 본문은 이 신호로 판단하기 어려운 편이다.
따라서 조직이 워터마크 검출을 곧바로 부정행위 탐지나 인사 판단에 연결하면 위험하다. 사람이 쓴 초안을 AI가 다듬은 경우와 AI가 긴 초안을 만든 경우를 같은 결과로 처리할 수 있기 때문이다. 검출 결과는 조사 시작점일 수는 있어도, 단독으로 책임이나 저작자를 확정하는 근거는 될 수 없다.
규제는 표시 자체보다 검출 가능성을 요구한다
EU 집행위원회는 AI Act 제50조의 투명성 의무가 2026년 8월 2일부터 적용된다고 안내한다. 생성형 AI 제공자는 인공지능으로 생성하거나 조작한 결과물을 기계가 읽을 수 있고 검출 가능한 방식으로 표시해야 한다. 기술 해법은 콘텐츠 종류의 특성, 비용, 당시의 기술 수준을 고려해 효과적이고 상호운용 가능하며 견고해야 한다는 조건도 붙는다.
이 문장은 한 가지 기술을 정답으로 지정하지 않는다. Anthropic이 텍스트에는 통계적 워터마크를, 지원되는 PNG·JPG·SVG 파일에는 C2PA 콘텐츠 자격증명 메타데이터를 쓰는 이유도 여기서 이해할 수 있다. C2PA는 파일 메타데이터에 서명된 출처 정보를 담는 공개 표준이다. 텍스트 워터마크와 파일 메타데이터는 같은 문제가 아니다. 전자는 단어 선택의 통계적 패턴이고, 후자는 파일에 붙는 서명 정보다.
EU의 코드 오브 프랙티스는 자발적으로 서명하는 도구지만, 제50조의 투명성 의무 자체는 법적 의무라고 구분한다. 한국에서 일하는 팀도 EU 고객이나 유통 경로가 있다면 공급자의 표시 방식, 서비스 약관, 자사 공개 절차를 따로 확인할 이유가 생긴다. 다만 지역별 적용 범위와 실제 의무는 서비스 유형과 역할에 따라 달라질 수 있으므로 법률 자문을 대신할 수는 없다.
AI 활용 기록은 검출기보다 먼저 준비할 수 있다
실무에서 필요한 것은 ‘AI 사용 금지’와 ‘검출되면 문제’ 사이의 단순한 규칙이 아니다. 어떤 작업에서 어떤 수준의 도움을 허용했는지, 누가 결과를 검토했는지 남기는 편이 더 재현 가능하다. 특히 대외 문서, 고객 안내, 채용 과제, 코드 변경처럼 책임 소재가 중요한 결과물은 이 기록이 검출 결과를 해석할 맥락이 된다.
작업 단위를 세 단계로 나눠 두면 시작하기 쉽다. 첫째, 아이디어 정리나 번역 보조처럼 AI가 초안을 제안한 단계다. 둘째, 사람이 사실을 확인하고 문장을 고친 단계다. 셋째, 책임자가 최종 승인한 단계다. 각 단계의 담당자와 사용 도구, 검토 근거를 짧게 남긴다. 긴 프롬프트 전체나 민감 데이터를 무조건 저장하라는 뜻은 아니다. 재현에 필요한 최소한의 흔적만 정하면 된다.
바로 점검해 볼 두 가지
- 외부 공개물의 작성 경로를 정리한다. 블로그, 제안서, 고객 공지처럼 신뢰가 중요한 문서 하나를 골라 AI가 초안을 쓸 수 있는지, 사람 검토가 필요한지, 최종 승인자는 누구인지 적어 본다.
- 검출 결과의 대응 문구를 만든다. 워터마크나 AI 탐지 결과가 나왔을 때 단정하지 않고, 사용 도구·편집 범위·사람 검토 기록을 먼저 확인한다는 원칙을 팀에 공유한다.
기술의 한계까지 포함해 읽기
Anthropic은 워터마크가 비용이나 추가 토큰을 요구하지 않고, 개인·조직·대화 정보를 담지 않는다고 설명한다. 또 완전히 다시 쓰면 제거될 수 있으며, 조만간 검출 API를 제공할 계획이라고 밝혔다. 이 설명은 기능의 현재 위치를 잘 보여 준다. 워터마크는 AI 사용의 모든 사실을 밝혀 주는 감식 도구가 아니라, 충분한 길이와 조건이 맞을 때 모델 관여 가능성을 확인하는 신호다.
앞으로 여러 제공자가 서로 다른 방식으로 표시를 도입하면, 사용자는 ‘검출됨’이라는 한 단어보다 검출 대상, 모델, 문서 길이, 편집 이력, 도구의 신뢰 범위를 함께 봐야 한다. AI를 업무에 넣는 팀이라면 지금 할 일은 탐지 도구를 먼저 사는 것이 아니라, 사람이 무엇을 검토하고 어떤 책임을 지는지 기록하는 흐름을 만드는 일이다. 그 흐름이 있어야 새 표시 기술이 나와도 결과를 과장하지 않고 활용할 수 있다.