AI 기본법상 사전 고지 의무는 사업자가 내부적으로 "AI를 쓴다"고 기록해 두는 문제가 아닙니다. 이용자가 제품이나 서비스를 실제로 이용하기 전에, 그 서비스가 고영향 인공지능 또는 생성형 인공지능을 활용해 제공된다는 사실을 알 수 있게 하는 의무입니다.
따라서 AI 활용 사업자는 먼저 "우리 서비스가 고영향 AI 또는 생성형 AI를 이용한 제품·서비스인가"를 확인해야 합니다. 그다음에는 이용자가 가입, 접속, 대화 시작, 문서 생성, 심사 신청 등 실제 이용 단계에 들어가기 전에 AI 활용 사실을 인식할 수 있는지 봐야 합니다.
사전 고지 대상은 고영향 AI와 생성형 AI입니다
AI 기본법 제31조 제1항은 인공지능사업자가 고영향 인공지능이나 생성형 인공지능을 이용한 제품 또는 서비스를 제공하려는 경우, 그 제품 또는 서비스가 해당 인공지능에 기반하여 운용된다는 사실을 이용자에게 사전에 고지하도록 정하고 있습니다.
여기서 모든 자동화 기능이 같은 강도의 사전 고지 대상이 되는 것은 아닙니다. 먼저 해당 기능이 생성형 AI인지, 또는 사람의 생명·신체 안전이나 기본권에 중대한 영향을 미칠 수 있는 고영향 AI 영역에 들어가는지 구분해야 합니다.
예를 들어 고객 문의에 답하는 생성형 챗봇, 문서 초안을 만들어 주는 생성형 서비스, 이미지나 영상을 생성하는 기능은 생성형 AI 쪽 검토가 필요합니다. 반면 채용, 대출, 의료, 공공서비스 자격 판단처럼 개인의 권리관계나 기본권에 영향을 줄 수 있는 서비스는 고영향 AI 해당성까지 함께 확인해야 합니다.
"사전"은 이용자가 실제 기능을 쓰기 전을 뜻합니다
사전 고지는 이용자가 이미 서비스를 이용한 뒤에 처리방침이나 공지사항에서 뒤늦게 확인하는 방식만으로는 부족할 수 있습니다. 이용자가 서비스를 선택하거나 입력값을 넣기 전에, 해당 기능이 AI를 활용해 제공된다는 점을 볼 수 있어야 합니다.
실무에서는 서비스 가입 단계의 안내, 이용약관 또는 계약서 조항, 챗봇 첫 화면 문구, 앱·웹 화면의 고정 안내, 오프라인 제공 장소의 게시, 사용설명서 또는 제품 설명서 문구를 조합합니다.
다만 약관에만 묻어두는 방식은 위험합니다. 약관은 법적 근거를 남기는 데 도움이 되지만, 이용자가 실제 AI 기능을 쓰는 순간에 안내가 보이지 않으면 "명확히 고지되었는지"가 다툼이 될 수 있습니다. 특히 챗봇이나 추천 기능처럼 이용자가 기능을 바로 경험하는 서비스는 첫 화면 또는 기능 진입 화면에 짧은 문구를 두는 편이 더 안정적입니다.
고지 방법은 여러 방식이 가능하지만, 이용자가 알아보기 쉬워야 합니다
시행령은 사전 고지를 제품 또는 서비스에 직접 기재하거나, 계약서·사용설명서·이용약관 등에 기재하거나, 이용자의 화면 또는 단말기 등에 표시하는 방식 등으로 할 수 있도록 구체화하고 있습니다. 특정 문구 양식 하나만 정답인 것은 아닙니다.
하지만 방식이 여러 개라는 말이 아무 데나 써 두면 된다는 뜻은 아닙니다. 사전 고지의 목적은 이용자가 AI 활용 사실을 인식하게 하는 데 있습니다. 서비스 유형, 이용자 연령, 접근성, 화면 설계, 이용 단계에 맞춰 고지 위치와 문구를 정해야 합니다.
예를 들어 성인 개발자 대상 API 문서라면 개발자 문서와 계약서 문구가 중요할 수 있습니다. 반면 일반 소비자용 챗봇이라면 첫 화면 안내와 대화창 내 표시가 더 중요합니다. 고령층이나 장애인이 주된 이용자인 서비스라면 글자 크기, 음성 안내, 반복 안내 여부까지 고려해야 합니다.
미고지의 제재는 법정 상한과 실제 부과기준을 나눠 봐야 합니다
사전 고지 의무를 이행하지 않은 경우 법률상으로는 3천만 원 이하 과태료 대상이 될 수 있습니다. 다만 시행령 별표의 개별기준은 사전 고지 미이행에 대해 1차 위반 500만 원, 2차 위반 1,000만 원, 3차 이상 위반 1,500만 원으로 정리되어 있습니다.
그래서 안내문이나 내부 컴플라이언스 문서에서 "사전 고지를 하지 않으면 곧바로 3천만 원 과태료"라고 쓰는 것은 정확하지 않습니다. 실무적으로는 법정 상한, 시행령상 개별 부과기준, 감경·가중 가능성, 향후 집행 방침을 구별해야 합니다.
또 하나 구분할 점은 사전 고지와 생성물 표시 의무입니다. 사전 고지 미이행은 과태료 라인이 직접 문제될 수 있지만, 생성형 AI 결과물 표시 의무 위반은 사실조사와 시정명령 라인이 먼저 문제될 수 있습니다. 두 의무를 모두 "워터마크 과태료"처럼 한 문장으로 묶으면 내부 체크리스트가 흔들립니다.
개인정보보호법 고지와도 구별해야 합니다
AI 서비스를 운영하면서 개인정보를 처리한다면 개인정보보호법상 수집·이용 근거와 안내도 별도로 검토해야 합니다. 예를 들어 개인정보보호법 제15조 제1항 제4호는 정보주체와 체결한 계약 이행 또는 계약 체결 과정에서 정보주체 요청에 따른 조치를 이행하기 위해 필요한 경우를 수집·이용 근거 중 하나로 봅니다.
하지만 개인정보 처리 근거가 있다는 것과 AI 기본법상 사전 고지를 했다는 것은 같은 말이 아닙니다. 개인정보 처리방침에 "서비스 제공을 위해 개인정보를 처리한다"고 써 두었더라도, 이용자가 해당 기능이 생성형 AI 또는 고영향 AI를 활용해 제공된다는 사실을 알 수 없다면 AI 기본법상 사전 고지 쟁점은 따로 남습니다.
실무적으로는 하나의 화면에서 통합 안내를 할 수 있습니다. 예를 들어 "이 상담 기능은 생성형 AI를 활용해 답변 초안을 생성하며, 서비스 제공을 위해 입력한 내용이 처리될 수 있습니다"처럼 AI 활용 사실과 개인정보 처리 안내를 함께 배치할 수 있습니다. 다만 통합 안내를 하더라도 각 법령상 필요한 항목은 빠지면 안 됩니다.
실무 체크리스트
사전 고지는 한 번 문구를 넣고 끝나는 항목이 아닙니다. 기능이 바뀌면 다시 봐야 합니다. 생성형 AI 기능이 새로 붙었는지, 기존 단순 검색 기능이 추천·생성 기능으로 바뀌었는지, 외부 LLM API가 도입되었는지, 이용자군이 바뀌었는지에 따라 고지 문구와 위치가 달라질 수 있습니다.
특히 일부 기능에만 AI가 쓰이는 서비스라면 전체 서비스가 AI라는 식으로 과장해서도 안 되고, 반대로 AI 기능이 숨어 있는 것처럼 보이게 해도 안 됩니다. 어떤 기능에서 AI가 쓰이는지를 이용자 관점에서 분명히 나눠 두는 것이 좋습니다.
자주 묻는 질문
챗봇 첫 화면에만 고지하면 충분한가요?
챗봇이 독립 기능으로 제공되고 이용자가 첫 화면에서 AI 활용 사실을 명확히 볼 수 있다면 중요한 고지 위치가 될 수 있습니다. 다만 가입 절차, 약관, 개인정보 안내와의 정합성도 함께 맞춰야 합니다.
약관에 넣어 두면 사전 고지가 끝난 건가요?
약관 기재는 유효한 고지 방식 중 하나가 될 수 있지만, 이용자가 실제 기능 이용 전에 쉽게 인식할 수 있어야 합니다. 소비자용 서비스에서는 화면 안내를 함께 두는 편이 안전합니다.
일부 기능에만 AI가 쓰이면 어떻게 고지해야 하나요?
서비스 전체가 아니라 해당 기능 단위로 고지하는 방식이 적절할 수 있습니다. 예를 들어 "문서 요약 기능은 생성형 AI를 활용합니다"처럼 기능별 안내를 두는 방식입니다.
고지 문구를 바꿔야 하는 시점은 언제인가요?
AI 기능의 범위, 모델 사용 방식, 이용자에게 미치는 영향, 개인정보 처리 방식이 바뀌면 재검토가 필요합니다. 단순 문구 수정이 아니라 서비스 제공 방식 변경과 함께 봐야 합니다.
개인정보 처리방침에 AI 내용을 넣으면 되나요?
개인정보 처리방침은 개인정보 처리 근거와 항목을 설명하는 문서입니다. AI 기본법상 사전 고지는 AI 활용 사실을 이용자에게 알리는 의무이므로, 처리방침 반영만으로 충분한지는 별도로 검토해야 합니다.
작성: 조국환 변호사팀 | AUCTORITAS LAB
