챗봇이나 LLM 기반 서비스를 운영하는 사업자는 "우리는 직접 AI 모델을 개발하지 않았다"는 이유만으로 AI 기본법 검토를 건너뛰기 어렵습니다. 외부 LLM API를 사용하더라도 최종 이용자에게 AI 제품·서비스를 제공하는 방식이라면 인공지능이용사업자로 평가될 수 있기 때문입니다.
다만 모든 API 사용자가 곧바로 같은 의무를 부담하는 것도 아닙니다. 먼저 확인할 것은 네 가지입니다. 이용자에게 어떤 제품·서비스를 제공하는지, AI가 서비스 기능의 일부인지, 내부 업무 용도인지, 생성형 AI 결과물이 외부 이용자에게 제공되는지입니다.
챗봇·LLM 운영자는 먼저 사업자 지위를 봐야 합니다
AI 기본법은 인공지능사업자를 중심으로 의무를 설계합니다. 인공지능사업자는 직접 AI를 개발해 제공하는 개발사업자뿐 아니라, 다른 사업자가 제공한 AI를 이용해 인공지능제품 또는 인공지능서비스를 제공하는 이용사업자를 포함합니다.
따라서 외부 모델을 API로 연결해 고객 응대 챗봇, 문서 생성 서비스, 교육 보조 서비스, 이미지 생성 서비스 등을 제공하는 경우에는 "모델 개발자가 아니므로 무관하다"는 식으로 정리하면 안 됩니다.
반대로 직원이 내부 보고서 작성을 위해 생성형 AI를 쓰는 정도라면, 그것만으로 외부 이용자에게 AI 제품·서비스를 제공하는 사업자라고 단정하기 어렵습니다. 내부 업무 전용 사용은 투명성 의무의 예외 또는 비적용 가능성을 따로 봐야 합니다.
표시 의무와 사전 고지 의무는 서로 다릅니다
챗봇·LLM 서비스에서 가장 자주 섞이는 것이 사전 고지와 표시 의무입니다. 사전 고지는 제품 또는 서비스가 고영향 AI나 생성형 AI에 기반하여 운용된다는 사실을 이용 전에 알려 주는 의무입니다. 표시 의무는 생성형 AI 또는 이를 이용한 제품·서비스가 제공하는 결과물이 생성형 AI에 의해 생성되었다는 사실을 표시하는 의무입니다.
예를 들어 고객센터 챗봇을 운영한다면 첫 화면에서 "이 챗봇은 생성형 AI를 활용해 답변을 제공합니다"라고 안내하는 것은 사전 고지에 가깝습니다. 챗봇이 생성한 답변 옆에 "AI 생성 답변"이라는 문구를 붙이는 것은 결과물 표시와 연결됩니다.
두 문구를 하나로 합칠 수도 있습니다. 하지만 내부 체크리스트에서는 두 의무를 나눠야 합니다. 사전 고지는 기능 진입 전 안내가 중심이고, 표시 의무는 결과물이 제공되는 방식과 외부 반출 가능성이 중심입니다.
챗봇 화면에서는 첫 안내와 지속 표시를 함께 고려합니다
대화형 서비스에서는 이용자가 첫 대화를 시작하기 전에 AI 기반 서비스임을 볼 수 있어야 합니다. 초기 화면 안내, 입력창 주변 문구, 챗봇 명칭, 로고, 말풍선 안내 등이 후보가 됩니다.
서비스 성격에 따라 지속 표시도 필요할 수 있습니다. 단발성 안내만으로 이용자가 대화 중 AI 답변이라는 점을 잊기 쉬운 화면이라면, 화면 일부에 상징이나 문구를 유지하는 방식이 더 적절합니다. 특히 상담, 교육, 건강, 금융, 채용처럼 이용자가 답변을 사실 판단이나 의사결정 자료로 받아들일 가능성이 큰 영역에서는 안내 강도를 낮게 두면 위험합니다.
기계가 판독할 수 있는 표시 방식도 가능합니다. 메타데이터, 워터마크, 식별 정보 삽입 등이 여기에 들어갑니다. 다만 기계 판독 방식만 쓰는 경우에도 이용자에게 최소 1회 이상 안내 문구나 음성 등을 제공하는 장치가 함께 필요할 수 있습니다.
고영향 영역과 결합되면 책무가 늘어납니다
일반적인 FAQ 챗봇과 채용·대출·의료·복지·교육 평가에 관여하는 챗봇은 위험도가 다릅니다. 후자의 경우에는 생성형 AI 여부뿐 아니라 고영향 인공지능 해당성도 같이 검토해야 합니다.
예를 들어 채용 지원자의 자기소개서를 자동 평가하고 면접 대상자 선별에 영향을 주는 시스템이라면 단순 챗봇이 아니라 개인의 권리관계에 영향을 줄 수 있는 AI 시스템으로 볼 수 있습니다. 대출심사 보조, 보험 인수심사 보조, 의료 분류 보조, 공공서비스 자격 판단 보조도 마찬가지입니다.
고영향 AI에 해당하면 사전 고지와 표시를 넘어 위험관리방안, 설명 방안, 이용자 보호 방안, 사람의 관리·감독, 문서 작성·보관 같은 책무가 문제될 수 있습니다. 이때는 "챗봇"이라는 이름보다 실제 의사결정 과정에서 AI가 어떤 역할을 하는지가 더 중요합니다.
외주 개발과 API 계약은 책임을 없애지 않습니다
챗봇을 외주로 개발했거나 외부 LLM API를 사용한다는 점은 책임 소재를 정리할 때 중요한 사실입니다. 그러나 이용자에게 서비스를 제공하는 주체가 누구인지와 법령상 의무 주체가 누구인지는 별도로 봐야 합니다.
예를 들어 A사가 외부 모델 API를 연결해 자사 고객에게 상담 챗봇을 제공한다면, 이용자는 A사의 서비스를 이용합니다. 이 경우 A사는 API 제공자와의 계약에서 표시, 고지, 로그, 오류 대응, 보안, 개인정보 처리, 모델 변경 통지, 장애 대응 범위를 정해 두어야 합니다.
외주사나 API 제공자에게 "법 준수 책임은 전부 귀사에 있다"고 써 두는 것만으로 충분하지 않습니다. 실제 이용자 화면, 약관, 개인정보 안내, 결과물 표시, 민원 대응 창구는 서비스 제공자가 관리해야 하는 경우가 많기 때문입니다.
실무 체크리스트
챗봇·LLM 서비스는 기능 출시 전에 네 가지를 먼저 점검해야 합니다. 첫째, 외부 이용자에게 제공되는 AI 제품·서비스인지입니다. 둘째, 생성형 AI 결과물이 이용자에게 제공되는지입니다. 셋째, 고영향 영역의 판단·추천·결정에 관여하는지입니다. 넷째, 이용자 고지와 결과물 표시가 실제 화면에서 작동하는지입니다.
특히 사내용 챗봇, 무료 챗봇, 베타 서비스, API 연결형 서비스는 "정식 유료 서비스가 아니니 괜찮다"고 보기 쉽습니다. 그러나 법은 무료 여부만으로 의무를 나누지 않습니다. 이용자에게 무엇을 제공하는지, 그 결과물이 어떤 영향을 미치는지가 더 중요합니다.
자주 묻는 질문
외부 LLM API만 쓰면 AI 기본법 적용을 피할 수 있나요?
그렇지 않습니다. 외부 API를 활용하더라도 그 AI를 이용해 최종 이용자에게 제품·서비스를 제공한다면 인공지능이용사업자 여부를 검토해야 합니다.
사내용 챗봇도 표시·고지를 해야 하나요?
내부 업무 용도로만 사용되는 경우에는 투명성 의무의 예외 또는 비적용 가능성이 있습니다. 다만 사내 직원의 평가, 인사, 징계, 보상 등에 영향을 주는 방식이라면 별도 검토가 필요합니다.
무료 챗봇이면 의무가 달라지나요?
무료라는 이유만으로 의무가 사라지는 것은 아닙니다. 무료 서비스라도 외부 이용자에게 생성형 AI 기반 서비스를 제공한다면 사전 고지와 표시 의무를 검토해야 합니다.
챗봇 외주 개발사는 책임이 없나요?
외주 개발사가 어떤 역할을 맡았는지에 따라 책임 범위가 달라질 수 있습니다. 다만 최종 이용자에게 서비스를 제공하는 사업자는 화면 고지, 약관, 표시, 민원 대응을 직접 관리해야 할 수 있습니다.
챗봇 응답 오류에 대한 책임은 누가 지나요?
계약상 책임, 이용자 고지, 면책 문구, 서비스 성격, 실제 손해 발생 여부를 함께 봐야 합니다. 특히 고영향 영역에서는 사람의 검토와 관리·감독 장치가 중요합니다.
작성: 조국환 변호사팀 | AUCTORITAS LAB
