같은 AI 모델을 써도 결과는 딴판입니다. 어떤 상담봇은 고객 질문에 정확히 답하는데, 어떤 봇은 그럴듯하지만 틀린 답을 내놓죠. 많은 분이 "모델이 별로인가?"를 먼저 의심하지만, 십중팔구 원인은 모델이 아니라 그 뒤의 '지식베이스' 입니다.
AI가 아무리 똑똑해도 참고할 자료가 부실하면 정확한 답이 나올 수 없습니다. 이 글에서 상담봇의 지식베이스(스킬북)를 어떻게 설계해야 답변 정확도가 올라가는지, 5가지 원칙으로 정리해 드리겠습니다.
왜 같은 AI인데 답변 정확도가 다를까?
AI 상담봇의 답변 정확도 상한은 모델이 아니라 지식베이스가 결정합니다.
현대 상담봇은 답하기 전에 회사 자료(FAQ·매뉴얼·약관)를 먼저 검색해 근거로 삼는 RAG(검색증강생성) 구조입니다. 이때 검색되는 자료가 곧 '정답지'입니다.
- 정답지가 정확·최신 → AI가 정확히 답함
- 정답지가 모호·중복·낡음 → AI가 헷갈리거나 지어냄(환각)
즉 좋은 지식베이스 = 좋은 답변입니다. 모델 교체보다 자료 정리가 먼저인 이유죠.
지식베이스(스킬북)란?
지식베이스(스킬북)는 상담봇이 답변 근거로 삼도록 정리한 회사의 지식 자산입니다. FAQ, 상품 설명, 정책·약관, 업무 매뉴얼, 응대 스크립트 등을 AI가 검색·활용하기 좋은 형태로 구조화한 것입니다.
핵심은 '문서를 그냥 넣는 것'이 아니라 AI가 정확히 찾아 쓰도록 설계하는 것입니다. 아래 5원칙이 그 설계법입니다.
원칙 1 — 하나의 조각엔 하나의 주제 (청킹)
긴 문서를 통째로 넣지 말고, 의미 단위로 잘게 나눕니다(청킹).
- 한 조각(청크)은 하나의 질문에 답할 수 있는 단위로
- 상품별·절차별·조건별로 분리
- 너무 길면 엉뚱한 부분이 검색되고, 너무 짧으면 맥락이 끊김
한 조각이 하나의 완결된 답이 되도록 나누는 것이 정확도의 출발점입니다.
원칙 2 — 질문자의 언어로 쓴다
고객은 사내 용어로 묻지 않습니다. 지식베이스는 '고객이 실제 쓰는 표현'과 '사내 정식 용어'를 연결해야 검색이 맞아떨어집니다.
- 사내: "청약철회" ↔ 고객: "취소하고 싶어요"
- 사내: "여신한도" ↔ 고객: "얼마까지 빌릴 수 있어요?"
- 동의어·유사 표현을 함께 기재
고객의 말로 찾을 수 있어야 AI가 옳은 조각을 검색합니다.
원칙 3 — 최신성·출처·권한을 메타데이터로
낡은 정보는 오답의 주범입니다. 각 자료에 갱신일·출처·적용 범위를 붙여 관리합니다.
| 메타데이터 | 역할 |
|---|---|
| 갱신일 | 오래된 규정·요율 자동 걸러내기 |
| 출처·담당 | 신뢰도·책임 소재 |
| 적용 범위 | 상품/채널/대상별 구분 |
"언제 기준의, 누가 보증하는 정보인가" 가 명확해야 AI가 안심하고 인용합니다.
원칙 4 — 모호함·중복·충돌을 제거한다
같은 질문에 서로 다른 답을 하는 자료가 있으면 AI도 헷갈립니다.
- 중복 문서 통합, 오래된 버전 폐기
- "경우에 따라 다름" 같은 모호한 서술 → 조건별로 명확화
- 상충하는 규정은 우선순위·예외를 명시
정답지에 정답이 하나여야 답변이 흔들리지 않습니다.
원칙 5 — 예외·에스컬레이션 경로를 명시한다
지식베이스는 '모를 때 어떻게 할지'까지 담아야 합니다.
- 자료 범위를 벗어난 질문 → "상담원 연결"로 유도
- 민감·복잡 사안 → 사람 핸드오프 규칙
- 추측 금지: 근거 없으면 답하지 않도록
AI가 지어내지 않고 넘길 길을 열어두는 것 이 신뢰의 마지막 조각입니다.
휴멜로 프로소디 AICC는 FAQ·매뉴얼을 스킬북으로 학습시키고, 위 원칙에 따라 정리된 자료 위에서만 답하도록 설계됩니다. AI(LLM)는 스킬북을 근거로 답하고, 범위를 벗어나면 상담원에게 넘깁니다. DIVE TTS가 그 답을 자연스러운 음성으로 전달하죠. 결국 '좋은 스킬북 → 정확한 답 → 자연스러운 응대'라는 흐름이 상담 품질을 만듭니다.
자주 묻는 질문 (FAQ)
Q. 상담봇 답변 정확도는 무엇으로 결정되나요? A. 모델 성능보다 지식베이스(스킬북)의 품질이 상한을 결정합니다. AI는 회사 자료를 검색해 근거로 답하므로, 자료가 정확·최신·명확할수록 답변이 정확해집니다.
Q. 지식베이스는 문서를 그냥 넣으면 되나요? A. 아닙니다. 의미 단위로 잘게 나누고(청킹), 고객의 표현과 사내 용어를 연결하며, 갱신일·출처를 메타데이터로 관리하고, 중복·충돌을 제거해야 AI가 정확히 찾아 씁니다.
Q. AI가 엉뚱한 답(환각)을 하는 걸 어떻게 줄이나요? A. 모호·중복·낡은 자료를 정리하고, 근거가 없으면 답하지 않고 상담원에게 넘기는 예외 경로를 지식베이스에 명시하면 환각이 크게 줄어듭니다.
Q. 휴멜로로 지식베이스 기반 상담봇을 만들 수 있나요? A. 프로소디 AICC에 FAQ·매뉴얼을 스킬북으로 학습시키면, 근거 기반으로 답하고 범위 밖은 상담원에게 연결하는 음성 상담을 구성할 수 있습니다.
정리하며
AI 상담봇의 정확도는 모델이 아니라 지식베이스가 결정합니다. 하나의 조각엔 하나의 주제, 고객의 언어로 작성, 최신성·출처 메타데이터, 모호·충돌 제거, 예외 경로 명시 — 이 5원칙이 '정확히 답하는 봇'을 만듭니다.
휴멜로 프로소디 AICC의 스킬북으로, 근거 위에서 답하는 상담 에이전트를 만들어 보세요.
정확한 상담봇을 만들고 싶다면? 프로소디 콘솔에 FAQ·매뉴얼을 스킬북으로 올리고 근거 기반 답변을 구성해 보세요.
[관련 글 추천]
- 음성 AI의 두뇌, LLM은 어떻게 의도를 이해할까 (RAG·스킬북·환각 방지)
