채용·대출심사 AI의 핵심 쟁점은 AI가 개인의 기회, 신용, 계약 조건 같은 권리관계에 실질적 영향을 주는지다. AI가 서류 탈락, 면접 점수, 신용평가, 대출 승인 가능성, 금리 조건에 영향을 준다면 단순 자동화 도구가 아니라 AI 기본법상 고영향 인공지능 검토 대상이 될 수 있다. 이 경우 사업자 책무, 기본권 영향평가, 사전 고지, 고영향 확인 요청, 사람의 실질적 통제 체계를 함께 준비해야 한다.
채용·대출심사가 고영향 AI로 검토되는 이유
채용·대출심사 AI는 개인의 권리관계와 사회적 기회에 직접 영향을 줄 수 있기 때문에 고영향 AI 판단에서 핵심적으로 검토된다. 채용에서는 지원자의 서류 통과 여부, 면접 순위, 적합도 점수, 탈락 사유가 문제 된다. 대출심사에서는 신용평가, 한도, 금리, 승인·거절 여부가 문제 된다.
중요한 기준은 “AI가 참고자료였는지”가 아니라 “실제 판단에 어느 정도 영향을 주었는지”다. 내부 문서에는 참고용이라고 적혀 있어도, 운영상 AI 점수가 커트라인처럼 쓰이거나 담당자가 AI 추천을 거의 그대로 승인한다면 고영향 AI로 볼 가능성이 커진다.
따라서 HR Tech·핀테크 사업자는 모델 종류보다 먼저 업무 흐름을 그려야 한다. 입력 데이터, AI 산출값, 사람 검토 위치, 최종 결정권자, 이의제기 절차를 한 줄로 연결해 보면 고영향 여부와 준비 범위가 파악된다.
제34조 사업자 책무는 내부 통제 문서로 준비해야 한다
AI 기본법 제34조의 고영향 인공지능 사업자 책무는 단순한 개인정보처리방침 추가로 끝나지 않는다. 실무에서는 위험관리, 성능 점검, 차별·편향 방지, 설명 가능성, 로그 관리, 사람 감독, 이용자 보호 절차를 내부 통제 문서로 남겨야 한다.
채용 AI라면 학력, 성별, 연령, 출신 지역, 경력 공백 같은 요소가 결과에 부당하게 작용하지 않는지 확인해야 한다. 대출심사 AI라면 신용정보, 소득정보, 연체 이력, 대체 데이터가 어떤 방식으로 점수에 반영되는지 설명 가능한 수준으로 관리해야 한다.
외주 HR SaaS나 외부 신용평가 모듈을 쓰는 경우에도 책임이 자동으로 이전되지는 않는다. 외부 사업자는 AI 시스템 제공 책임을 지고, 실제 채용·대출 의사결정에 사용하는 회사는 운영 책임을 진다. 계약서에는 모델 설명자료, 오류 통지, 업데이트 고지, 장애 대응, 감사자료 제공 범위를 넣어야 한다.
제35조 기본권 영향평가는 출시 전 점검표가 되어야 한다
기본권 영향평가는 “AI를 써도 되는가”를 묻는 절차가 아니라 “이 AI가 누구에게 어떤 불이익을 줄 수 있는가”를 사전에 찾는 절차다. 채용·대출심사 AI에서는 차별, 설명 부족, 이의제기 곤란, 자동 탈락, 개인정보 과다 수집이 주요 위험이다.
영향평가 문서에는 최소한 사용 목적, 처리 데이터, 산출 결과, 영향받는 사람, 불이익 가능성, 완화 조치, 사람 검토 절차, 사후 모니터링 계획이 들어가야 한다. 특히 채용에서는 탈락자에게 설명할 수 없는 점수 체계가 문제 되고, 대출에서는 거절 사유를 설명하지 못하는 방식이 문제 된다.
기존 개인정보 영향평가나 보안 점검이 있다고 해서 AI 기본법상 기본권 영향평가가 자동으로 대체되는 것은 아니다. 개인정보 보호는 중요한 일부지만, AI 기본권 영향평가는 차별, 투명성, 이의제기, 사람 감독까지 함께 본다.
사전 고지는 신청 전에 이뤄져야 한다
채용 지원자나 대출 신청자는 AI가 어떤 단계에서 사용되는지 사전에 알 수 있어야 한다. “당사는 AI 기술을 활용할 수 있습니다” 같은 포괄 문구만으로는 부족할 수 있다. 어느 단계에서 AI가 쓰이는지, AI 결과가 최종 결정에 어떤 영향을 주는지, 사람이 검토하는지, 이의제기나 재검토가 가능한지를 분리해 안내해야 한다.
채용에서는 채용공고, 지원서 제출 화면, AI 면접 안내문에 고지 위치를 나눌 수 있다. 대출에서는 신청 화면, 약관·동의서, 심사 결과 통지 화면에 고지 위치를 나눌 수 있다. 중요한 것은 신청자가 이미 평가를 받은 뒤에야 AI 사용 사실을 알게 되는 방식을 피하는 것이다.
신용정보법과의 관계도 함께 봐야 한다. 대출심사 AI는 개인신용정보 처리, 자동화평가 설명 요구, 이의제기 절차와 연결될 수 있다. AI 기본법은 AI 시스템 운영의 기본 통제이고, 신용정보법은 금융·신용정보 영역의 개별 규율이다. 둘 중 하나만 보면 실제 리스크가 남는다.
사람 개입 통제는 형식이 아니라 권한이 기준이다
최종 의사결정 과정에 사람이 실질적으로 개입해 통제 가능한 상태라면 고영향 AI 판단에서 제외 또는 완화 요소로 검토될 수 있다. 그러나 사람이 승인 버튼만 누르는 방식은 실질 통제라고 보기 어렵다.
실질 통제가 되려면 담당자가 AI 결과의 근거를 볼 수 있어야 한다. AI 추천을 거부하거나 수정할 권한도 있어야 한다. AI 점수와 다른 결정을 내렸을 때 불이익을 받지 않아야 한다. 재검토 기록과 변경 사유도 남아야 한다.
채용절차법과의 관계에서는 공정한 채용 절차, 부당한 개인정보 요구 제한, 지원자 안내 방식이 함께 문제 된다. AI 기본법을 맞췄다고 해서 채용절차법상 공정성 문제가 사라지는 것은 아니다. 채용 AI는 기술 도입 전에 채용 기준, 고지 문구, 사람 검토 권한, 탈락자 응대 기준을 같이 정리해야 한다.
자주 묻는 질문
AI가 점수만 추천하고 사람이 최종 결정하면 고영향 AI가 아닌가요?
항상 그렇지는 않다. 사람이 AI 점수를 실질적으로 검토하고 바꿀 수 있는 권한을 가진 경우와, AI 점수가 사실상 자동 탈락 기준으로 작동하는 경우는 다르게 봐야 한다.
외주 HR SaaS를 쓰면 우리 회사 책임은 줄어드나요?
외주 사용만으로 책임이 사라지지는 않는다. SaaS 제공자는 시스템 제공 책임을 지고, 채용 회사는 그 결과를 실제 채용 판단에 사용한 운영 책임을 질 수 있다.
대출 신청자에게 AI 사용 사실을 언제 알려야 하나요?
신청자가 심사에 들어가기 전에 알 수 있는 위치에 고지하는 것이 안전하다. 신청 완료 후 결과 통지 단계에서만 안내하면 사전 고지 취지에 맞지 않을 수 있다.
차별 결과가 나오면 AI 개발사만 책임지나요?
그렇게 단순하지 않다. 모델 개발·제공 과정의 문제는 개발사 책임으로 갈 수 있지만, 어떤 데이터와 기준으로 실제 심사에 썼는지는 운영 회사 책임으로도 이어질 수 있다.
고영향 여부가 애매하면 어떻게 해야 하나요?
사용 분야, AI 기능, 최종 결정 방식, 사람 개입 정도를 정리한 뒤 고영향 확인 요청 라인을 검토해야 한다. 애매한 상태로 서비스를 먼저 열면 고지·평가·문서화가 뒤늦게 따라가는 문제가 생긴다.
작성: 조국환 변호사팀 | AUCTORITAS LAB
