딥페이크 표시 의무 위반은 행정책임과 형사책임을 나누어 봐야 한다. AI 기본법은 사회적 부작용이 우려되는 딥페이크에 대해 이용자가 명확하게 인식할 수 있는 표시를 요구하고, 미표시 또는 부실 표시가 있으면 시정명령·과태료 라인으로 이어질 수 있다. 그러나 딥페이크 내용 자체가 성착취물, 허위사실 명예훼손, 사기성 광고에 해당하면 표시 여부와 별개로 형사책임이 동시에 문제 될 수 있다.
표시 의무 대상은 사회적 부작용이 우려되는 딥페이크다
딥페이크 표시 의무는 모든 합성 콘텐츠를 같은 강도로 다루는 것이 아니라, 이용자가 실제 사람·사건·발언으로 오인할 수 있고 사회적 부작용이 우려되는 경우에 특히 문제 된다. 실제 인물의 얼굴, 목소리, 행동을 합성한 광고, 정치적 발언 영상, 성적 이미지, 투자 권유 영상은 위험도가 높다.
표시에서 가장 중요한 건 이용자가 즉시 알아볼 수 있는지다. 영상 설명란 맨 아래 작은 글씨로만 표시하거나, 플랫폼 접속 후 별도 버튼을 눌러야 보이는 방식은 충분하지 않을 수 있다. 딥페이크가 현실 콘텐츠처럼 보일수록 표시 위치와 크기는 더 명확해야 한다.
특히 광고 딥페이크는 소비자 오인 가능성이 크다. 유명인 음성·얼굴을 합성해 건강식품, 투자상품, 사설 교육, 화장품, 불법 도박을 홍보하는 경우 표시 의무뿐 아니라 표시광고법, 정보통신망법, 사기 책임까지 함께 검토해야 한다.
미표시는 시정명령·과태료 라인으로 들어간다
AI 기본법상 딥페이크 표시 의무를 지키지 않으면 행정상 시정명령 대상이 될 수 있다. 제40조 제3항에 따른 시정명령은 사업자에게 표시 방식 보완, 게시 중단, 재발 방지 조치 등을 요구하는 방식으로 작동할 수 있다.
시정명령을 이행하지 않거나 사전 고지 의무를 위반하면 제43조에 따른 3천만 원 이하 과태료 리스크가 생긴다. 따라서 딥페이크 표시 의무는 "문구 하나 붙이면 되는 일"이 아니라 운영 로그, 표시 기준, 삭제·수정 절차까지 포함하는 관리 항목이다.
플랫폼 운영자는 업로드 단계에서 AI 합성 여부를 묻고, 표시가 유지되도록 기능을 설계해야 한다. 콘텐츠 제작자는 결과물 자체에 표시를 넣고, 배포자는 표시가 삭제되지 않았는지 확인해야 한다. 역할이 다르면 필요한 조치도 달라진다.
성폭력처벌법과 정보통신망법 책임은 별도다
딥페이크가 성적 허위영상물에 해당하면 성폭력범죄의 처벌 등에 관한 특례법 제14조의2 문제가 발생할 수 있다. 이 경우 표시를 했는지와 별개로 제작, 반포, 저장, 시청 등 행위별 형사책임이 검토된다.
딥페이크가 특정인의 사회적 평가를 떨어뜨리는 허위사실을 담고 온라인에 게시됐다면 정보통신망법상 명예훼손도 문제 될 수 있다. 합성 영상에 "AI 생성" 표시가 있어도, 전체 맥락에서 특정인이 실제로 그런 행동이나 발언을 한 것처럼 오인되도록 만들었다면 형사책임 위험이 남는다.
즉 AI 기본법의 표시 의무는 투명성 규제다. 성폭력처벌법, 정보통신망법, 형법, 표시광고법은 콘텐츠 내용과 행위의 불법성을 다룬다. 두 라인을 섞으면 대응 순서가 틀어진다.
동의를 받은 딥페이크도 면책은 아니다
촬영 또는 합성에 동의를 받았더라도 모든 유포가 허용되는 것은 아니다. 동의 범위, 사용 목적, 공개 범위, 기간, 철회 가능성, 제3자 재배포 가능성을 따로 봐야 한다.
미성년자나 취약한 지위에 있는 사람의 경우에는 동의의 유효성 자체가 문제 될 수 있다. 연예인, 인플루언서, 직원, 지원자, 환자 이미지도 사용 목적을 벗어나면 초상권·퍼블리시티권·개인정보 이슈가 함께 생긴다.
따라서 딥페이크 사업자는 동의서를 단순 서명 문서로 두면 안 된다. 어떤 이미지와 음성을 어떤 매체에서 어떤 문구와 함께 얼마나 사용할 수 있는지 구체적으로 정해야 한다.
행정 대응과 형사 대응은 분리해서 진행해야 한다
딥페이크 표시 위반이 발생하면 먼저 행정 라인과 형사 라인을 나누어야 한다. 행정 라인에서는 표시 여부, 표시 위치, 고지 문구, 시정명령 대응, 과태료 리스크를 본다. 형사 라인에서는 성적 허위영상물, 명예훼손, 사기, 업무방해, 협박 여부를 본다.
피해자 입장에서는 삭제 요청과 증거 보전이 우선이다. URL, 게시 시간, 계정, 영상 파일, 캡처 화면, 표시 유무, 유포 경로를 확보해야 한다. 사업자 입장에서는 게시 중단, 표시 보완, 내부 로그 보전, 재발 방지 조치, 관계자 권한 제한이 필요하다.
표시를 했다는 이유로 형사책임을 가볍게 보면 안 된다. 반대로 형사 고소만 진행하고 행정상 표시·삭제·시정 대응을 놓쳐도 안 된다. 딥페이크 사건은 두 라인을 동시에 정리해야 실제 손실을 줄일 수 있다.
자주 묻는 질문
광고 딥페이크도 AI 기본법 표시 의무 대상인가요?
대상이 될 수 있다. 실제 인물이나 전문가처럼 보이도록 만든 광고는 이용자 오인 가능성이 크기 때문에 표시 의무와 광고 규제를 함께 검토해야 한다.
동의를 받은 딥페이크라면 표시하지 않아도 되나요?
그렇지 않다. 동의는 초상·음성 사용의 문제이고, 표시 의무는 이용자에게 AI 합성 사실을 알리는 문제다. 두 의무는 분리된다.
표시했는데 제3자가 표시를 삭제해 재유포하면 어떻게 되나요?
최초 제작자와 플랫폼이 표시 유지 조치를 했는지 봐야 한다. 표시 제거를 쉽게 만들었거나 재유포 방지 조치를 전혀 두지 않았다면 책임 논의가 남을 수 있다.
플랫폼 운영자도 책임을 질 수 있나요?
플랫폼이 딥페이크 업로드·유통 방식을 제공하고도 표시, 신고, 삭제, 보전 절차를 제대로 두지 않았다면 책임 문제가 생길 수 있다.
피해자는 무엇부터 해야 하나요?
증거 보전이 먼저다. 원본 URL, 계정, 게시 시간, 영상 파일, 캡처, 표시 유무, 유포 경로를 확보한 뒤 삭제 요청, 플랫폼 신고, 형사 고소, 손해배상 가능성을 순서대로 검토해야 한다.
작성: 조국환 변호사팀 | AUCTORITAS LAB
