"첫마디에 AI라고 밝히면 고객이 바로 끊지 않을까요?" AI 콜봇 도입 회의에서 자주 나오는 질문입니다. 합성 음성이 사람과 구분하기 어려울 만큼 자연스러워지면서 굳이 먼저 밝힐 필요가 있느냐는 망설임도 커졌습니다.
그런데 2026년 1월 22일 인공지능기본법이 시행되면서 이 질문의 성격이 달라졌습니다. 생성형 AI를 이용한 서비스는 AI 기반으로 운용된다는 사실을 이용자에게 사전에 고지해야 합니다. 문제는 법과 시행령, 정부 가이드라인 어디에도 화면이 없는 전화에서 어떤 문장으로, 녹음 안내와 어떤 순서로 고지하라는 정답까지는 적혀 있지 않다는 점입니다.
결론부터 말씀드리겠습니다. 이제 질문은 '밝힐까'가 아니라 '어떻게 밝힐까'입니다. 첫 문장에서 짧게 밝히고, 할 수 있는 일을 먼저 말하고, 사람에게 가는 길을 열어 두면 법 대응과 이탈 방지는 충돌하지 않습니다.
아래에서 조문·시행령·가이드라인을 통화 시점별로 재배치했습니다. 점검표의 빈칸을 자사 기준으로 채우시면 그대로 결재 자료가 됩니다.
인공지능기본법이 콜봇에 묻는 것: 사전 고지·결과물 표시·딥페이크 고지
인공지능기본법 제31조(인공지능 투명성 확보 의무)는 세 갈래로 나뉩니다.
| 조항 | 의무 | 콜봇에 대입하면 | 위반 시 |
|---|---|---|---|
| 제31조 제1항 | 고영향·생성형 AI 기반 운용 사실 사전 고지 | 통화 첫머리 AI 응대 안내 | 3천만원 이하 과태료(제43조) |
| 제31조 제2항 | 생성형 AI 결과물임을 표시 | AI가 만든 응답·음성임을 알림 | 사실조사·시정명령 대상 |
| 제31조 제3항 | 실제와 구분 어려운 음향·영상 등의 명확한 고지·표시 | 사람 같은 합성 음성 검토 | 사실조사·시정명령 대상 |
시행령 별표 2는 고지 미이행 과태료를 1차 500만원, 2차 1,000만원, 3차 이상 1,500만원으로 정하고 있습니다. 과학기술정보통신부는 최소 1년 이상의 계도기간 동안 사실조사와 과태료 부과를 유예한다고 발표했지만, 유예되는 것은 제재이지 의무가 아닙니다.
의무는 이용자에게 AI 서비스를 최종 제공하는 사업자가 집니다. 정부 가이드라인은 다른 회사의 기반 모델 API로 만든 서비스라면 그 제공자에게 의무가 있다고 설명하므로, 외부 솔루션을 쓰더라도 고객과 통화하는 회사가 고지 문안을 직접 챙기는 것이 안전합니다. EU AI Act 제50조도 사람과 직접 상호작용하는 AI는 명백한 경우가 아니면 AI임을 알리도록 요구합니다. 합성 목소리의 동의·저작권 쟁점은 별도 글에서 다뤘습니다(관련 글: 「보이스클로닝 법적 이슈 2026」).
생성형 AI 콜봇 vs 시나리오형 ARS: 고지 대상을 가르는 기준
법은 생성형 AI를 입력 데이터의 구조와 특성을 모방해 글, 소리 등 결과물을 생성하는 AI 시스템으로 정의합니다(제2조 제5호). LLM이 답변을 만들어 읽는 콜봇은 이 정의에 들어갈 여지가 큽니다. 반대로 녹음 멘트와 버튼 입력으로만 분기하는 전통적 ARS는 생성 요소가 없어 고지 대상과 거리가 멉니다(관련 글: 「ARS는 왜 AI 보이스봇으로 바뀌고 있을까?」).
회색지대도 있습니다. 첫째, 정해진 시나리오 문장을 AI 합성 음성으로 읽는 경우로, 가이드라인 참고자료가 TTS를 오디오 생성 서비스 사례로 소개하고 있어 검토가 필요합니다. 둘째, 상담원만 보는 요약·추천 AI는 시행령 제23조 제4항의 내부 업무 용도 예외에 해당할 여지가 있습니다. 셋째, 대출 심사처럼 권리·의무에 중대한 영향을 주는 판단에 AI가 관여하면 고영향 AI 해당 여부부터 따져야 합니다. 경계에서 다투기보다 고지하는 쪽으로 설계하는 편이 현실적입니다.
고지는 어디서·어떻게: 첫 멘트·녹음 안내·이관 시점의 순서 설계
시행령 제23조 제1항은 고지 방법으로 이용약관 기재, 화면·단말기 표시, 제공 장소 게시 등을 열거하지만 전화에는 화면이 없습니다. 가이드라인은 음성 어시스턴트의 표시 방법으로 이용 전 음성 또는 화면 문구 안내를 제시하고, 호출형 서비스는 발화마다 반복할 필요가 없다고 봅니다. 그래서 통화 첫머리 음성 고지를 기본으로, 약관·홈페이지 고지를 병행하는 구성이 안전합니다.
통화 첫머리에는 이미 녹음 안내와 산업안전보건법 시행규칙 제41조에 따른 폭언 예방 음성 안내가 있는 경우가 많습니다. 세 안내가 겹치면 첫마디가 길어지므로 순서를 미리 정해야 합니다.
| 시점 | 고지 내용 | 예시 문구 |
|---|---|---|
| 인바운드 연결 직후 | AI 응대 + 할 수 있는 일 + 연결 방법 | "○○고객센터 AI 상담원입니다. 주문 조회와 예약 변경을 바로 도와드려요. 상담원을 원하시면 언제든 말씀해 주세요." |
| 녹음 안내와 결합 | AI 고지를 앞에 | "지금은 AI 상담원이 응대하며, 통화 내용은 녹음됩니다." |
| 아웃바운드 발신 직후 | 회사명 + AI + 용건 | "○○병원에서 진료 예약 확인차 연락드린 AI 상담원입니다." |
| "AI예요?" 질문 시 | 즉시 사실대로 확인 | "네, 저는 AI 상담원이에요. 원하시면 바로 연결해 드릴게요." |
| 상담원 이관 시 | 응대 주체 변경 안내 | "지금부터 담당 상담원이 이어서 도와드립니다." |
고용노동부는 폭언 예방 음성 안내의 생략이 취지에 맞지 않는다고 회신한 바 있으니, AI가 먼저 받는 구조에서 이 안내의 위치는 노무·법무 담당과 정해 두시기 바랍니다.
고지하면 고객이 끊을까: 이탈을 줄이는 첫 멘트의 세 가지 원칙
좋은 AI 고지 = 첫 문장에서 밝히고 + 할 수 있는 일을 말하고 + 사람에게 가는 길을 열어 두는 것
고지 직후 끊는 고객의 불안은 'AI라서'보다 사람에게 닿지 못할 것 같다는 데 있는 경우가 많습니다. 첫째, 고지는 법적 설명이나 사과 없이 한 문장으로 짧게 합니다. 둘째, 할 수 있는 일을 바로 이어 말해 계속 말할 이유를 줍니다. 셋째, 상담원 연결 방법을 처음부터 알려 줍니다(관련 글: 「AI가 못 알아들을 때가 진짜 실력: 폴백·재질문·상담원 핸드오프 설계 (2026)」). 사람을 부를 수 있음을 아는 고객은 부담 없이 AI에게 먼저 용건을 말해 볼 수 있습니다.
피해야 할 것은 숨기는 설계입니다. "AI예요?"에 얼버무리거나 사람인 척 답하면 법 문제 이전에 신뢰가 무너집니다. 목소리가 자연스러울수록 고지는 더 분명해야 합니다.
고지 이행을 증명하는 법: 문안 버전·통화 기록·정기 점검
계도기간 이후 문제가 제기되면 "고지했다"는 말보다 이를 보여 주는 자료가 필요합니다.
| 점검 항목 | 확인 방법 | 주기 | 결과·담당 |
|---|---|---|---|
| 첫 멘트에 AI 고지가 들어 있는가 | 문안 버전·적용일 기록 | 문안 변경 시 | ( ) |
| 실제 통화에서 고지가 송출됐는가 | 통화 전사 표본 확인 | 월 ( )회 | ( ) |
| "AI예요?"에 사실대로 답하는가 | 테스트 발화 실행 | 배포 전 | ( ) |
| 상담원 요청이 연결로 이어졌는가 | 연결 사유 확인 | 주 ( )회 | ( ) |
| 약관·홈페이지 고지가 최신인가 | 게시 화면 캡처 보관 | 분기 ( )회 | ( ) |
| 시행령·고시 변경을 반영했는가 | 정부 발표 확인 | 분기 ( )회 | ( ) |
휴멜로 프로소디 콘솔의 고지 설계: 가드레일·테스트 케이스·이관 정책
휴멜로 프로소디 콘솔은 스킬북 가드레일에 "첫 문장에서 AI 상담원임을 밝힌다", "사람이냐는 질문에는 사실대로 답한다" 같은 응답 기준을 넣고, 테스트 케이스로 "AI예요?", "사람 바꿔 주세요" 발화의 기대 동작을 배포 전에 점검할 수 있습니다. 상담원 이관 정책의 이관 적극성은 1~5단계로 정하는데, 가장 보수적인 1단계도 고객이 명시적으로 요청하면 연결하므로 사람에게 가는 길이 닫히지 않습니다.
휴멜로 프로소디 콘솔의 전화 채널에서는 DIVE TTS의 첫 음성 0.35초 실시간 스트리밍 합성으로 고지 문장이 연결 직후 나가고, 통화 종료 후 남는 전사·요약 기록으로 고지 송출 여부를 확인할 수 있습니다. 운영 분석 화면의 상담원 연결률과 상담 목록의 대화별 상담사 연결 사유로 고지 직후 이관 요청이 몰리는지도 파악됩니다.
결론적으로, 인공지능기본법 시행 이후 AI 콜봇의 고지는 선택이 아니라 설계 항목이 되었고, 잘 설계된 고지는 이탈의 원인이 아니라 신뢰의 출발점이 됩니다. 계도기간이 끝나기 전에 위 점검표로 첫 멘트와 이관 정책을 점검해 보시고, 콘솔의 테스트 전화번호로 직접 걸어 들어 보시거나 휴멜로 팀에 검토를 요청해 주시기 바랍니다.
