[AI규제] 이제 AI가 만든 건 ‘표시’해야 합니다 — 콘텐츠 워터마크 의무화가 실제로 바꾸는 것

무엇이, 언제부터 의무가 됐나

핵심 근거는 인공지능기본법 제31조의 ‘투명성 확보 의무’입니다. 세 가지를 요구합니다. 첫째, 생성형 AI 기반 서비스라는 사실을 사전 고지할 것. 둘째, 결과물이 AI로 생성됐다는 사실을 표시할 것. 셋째, 실제 인물·음성을 합성한 딥페이크에는 강화된 표시를 할 것.

표시 방식은 콘텐츠 성격에 따라 갈립니다. 일반 생성물은 기계만 읽어내는 ‘비가시적’ 방식(메타데이터·워터마크)으로 갈음할 수 있지만, 딥페이크는 사람이 눈과 귀로 명확히 인식하는 ‘가시적’ 표시만 인정됩니다. 당초 과학기술정보통신부는 딥페이크에도 비가시적 워터마크를 허용할 방침이었으나, “이용자가 눈으로 못 보는 표시는 보호 장치가 아니다”라는 국회 지적에 정책을 바꿨습니다. 기술적 표식보다 ‘사람이 속지 않는 것’이 우선이라는 규제 철학을 보여주는 대목입니다.

일반 생성물과 딥페이크, 표시 기준의 차이

자주 오해하는 부분이 있습니다. 이 의무의 대상은 AI 서비스를 제공·운영하는 인공지능사업자이지, 그 도구를 쓰는 개인 이용자가 아닙니다. 챗봇으로 글을 뽑아 개인 블로그에 올리는 행위 자체가 과태료 대상이 되는 것은 아닙니다. 다만 그 콘텐츠로 서비스를 만들어 대중에게 제공하면 사업자 지위가 되어 의무가 생기므로, 규모가 커질수록 경계가 모호해집니다.

과태료는 얼마이고, 지금 당장 적용되나

벌칙은 위반 유형에 따라 다릅니다. AI 생성물 표시 의무를 어기면 시정명령이 내려지고, 사전 고지 의무를 어기면 상한 3,000만 원 이하의 과태료가 부과됩니다. 시행령상 실제 부과 기준은 위반 횟수에 따라 1회 500만 원, 2회 1,000만 원, 3회 이상 1,500만 원으로 단계화되어 있습니다.

중요한 건 집행 시점입니다. 법은 2026년 1월 22일 시행됐지만, 정부는 현장 혼란을 막기 위해 최소 1년 이상의 계도기간을 뒀습니다. 이 기간에는 처벌보다 컨설팅 중심으로 운영되며, 실질적인 과태료 부과는 빨라도 2027년 이후로 예상됩니다. 지금은 ‘처벌의 시기’가 아니라 표시 체계를 준비할 유예기로 이해하는 편이 정확합니다.

이건 한국만의 규제가 아닙니다

EU도 2026년 8월 2일부터 AI법 제50조 투명성 조항을 시행합니다. 딥페이크, 공익 관련 AI 생성 텍스트, 챗봇은 “AI로 생성·조작됐다”는 사실을 공시해야 하며, 위반 시 최대 1,500만 유로 또는 전 세계 매출의 3%라는 훨씬 무거운 제재가 따릅니다.

기술적 표준도 수렴하고 있습니다. EU가 지목한 메커니즘은 C2PA(Coalition for Content Provenance and Authenticity, 콘텐츠 출처·진위 연합) 라는 개방형 표준으로, 파일에 ‘누가·언제·무엇으로 만들었는지’를 서명된 메타데이터로 새깁니다. Anthropic도 2026년 8월 2일부터 Claude가 만든 텍스트·이미지에 보이지 않는 표식을 남기고, 이미지에는 C2PA 서명을 첨부하기 시작했습니다. 규제가 개별 국가의 벌금 조항을 넘어 ‘출처가 증명되는 콘텐츠’와 ‘증명되지 않는 콘텐츠’로 인터넷을 나누는 인프라 전환으로 번지고 있는 것입니다.

콘텐츠 제작자·사업자가 지금 점검할 것

※ 참고: 대한민국 정책브리핑(과학기술정보통신부), 「’인공지능기본법’ 22일 시행…생성형 AI 결과물 ‘워터마크’ 표시 의무」
※ 참고: 국가법령정보센터, 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」