← 개발 가이드 목록
문서 기반 AI 챗봇,
문서 기반 AI 챗봇,
비용과 만드는 과정
ChatGPT는 우리 회사 규정이나 매뉴얼을 모릅니다.
회사 문서를 근거로 출처와 함께 답하는 RAG 챗봇의 개발 과정과 비용 구성을 정리했습니다.

요약
- RAG는 질문이 오면 관련 문서를 먼저 찾고, 그 내용을 근거로 AI가 답하게 하는 방식입니다.
- 비용은 한 번 드는 개발비와, 질문 수에 따라 매달 드는 운영비(AI API·서버)로 나뉩니다.
- 정확도는 AI 모델보다 문서 정리와 테스트 질문 세트에서 크게 갈립니다.
RAG 챗봇이란
① 질문공영주차장 사용료 감면 대상은?
② 문서 검색규정·매뉴얼 색인에서 찾기조례 별표 2매뉴얼 14쪽FAQ 3번
③ AI 답변 생성찾은 문서만 근거로
④ 답변 + 출처장애인·국가유공자·경차 등은 감면 대상…출처 · 조례 별표 2
RAG(Retrieval-Augmented Generation, 검색 증강 생성)는 두 단계로 동작합니다. 먼저 질문과 관련된 문서 조각을 회사 자료에서 검색하고, 그 조각을 근거로 AI가 답변을 만듭니다. 그래서 답변마다 "운영지침 12쪽"처럼 출처를 붙일 수 있고, 문서에 없는 내용은 모른다고 답하게 할 수 있습니다.
잘 맞는 곳
- 공공기관 민원 안내 — 법령, 조례, 행정서비스 이용 매뉴얼을 근거로 답변
- 사내 규정·업무 매뉴얼 — 인사·회계·보안 규정 문의를 직원이 직접 해결
- 고객 상담 — 상품 설명서, FAQ, 약관을 근거로 1차 응대
- 기술 문서 — 제품 매뉴얼, 설치 가이드 검색
만드는 과정
- 문서 수집·정리 — PDF, 한글(HWP), 엑셀, 웹페이지를 모으고 오래된 문서·중복을 정리합니다.
- 검색 준비 — 문서를 적당한 크기로 나누고, 의미로 찾을 수 있게 색인(벡터 DB)을 만듭니다.
- 답변 설계 — 출처 표시, 모르면 모른다고 답하기, 말투와 금지 주제를 정합니다.
- 테스트 — 실제로 들어올 질문 50~100개로 정확도를 측정하고 고칩니다.
- 연결 — 홈페이지 상담창, 카카오 채널, 사내 메신저, 키오스크 등에 붙입니다.
- 운영 — 문서가 바뀌면 자동으로 다시 반영하고, 답하지 못한 질문을 모아 개선합니다.
비용 구성
| 구분 | 내용 | 참고 |
|---|---|---|
| 개발비 (한 번) | 문서 정리, 검색·답변 설계, 화면, 연결, 테스트 | 문서 기반 챗봇 기준 500만~1,500만 원부터 (범위에 따라) |
| AI API 사용료 (매달) | 질문·답변 길이에 비례 | 질문 수가 많을수록 증가, 모델 선택으로 조절 |
| 서버·DB (매달) | 검색 색인과 대화 기록 저장 | 문서 양과 접속량에 따라 |
| 유지보수 (선택) | 문서 갱신 반영, 답변 품질 개선 | 월 단위 계약 |
운영비는 사용량에 따라 크게 달라지므로, 개발 전에 예상 질문 수로 월 비용을 추정해 드립니다. 금액대는 개발 비용, 화면 예시는 고객 사례에서 볼 수 있습니다.
정확도를 높이는 4가지
- 문서 품질 — 같은 내용이 다른 버전으로 여러 개 있으면 답이 흔들립니다. 최신본만 남기세요.
- 테스트 질문 세트 — 실제 질문으로 정답률을 숫자로 재고, 고칠 때마다 다시 측정합니다.
- 출처 강제 — 근거 문서가 없으면 답하지 않게 하면 그럴듯한 오답(환각)을 줄일 수 있습니다.
- 사람에게 넘기기 — 답할 수 없는 질문은 담당자 연결이나 문의 접수로 넘깁니다.
개인정보·보안상담 기록에 개인정보가 들어갈 수 있다면 저장 기간과 접근 권한을 정하고, 외부 AI API에 보내는 데이터 범위를 미리 검토해야 합니다.


