Challenge
고객 문의의 70%가 반복적인 질문이었지만, 기존 FAQ 시스템으로는 다양한 표현의 질문에 대응하기 어려웠습니다. 또한 사내 직원들도 필요한 정보를 찾기 위해 여러 문서를 뒤지는 데 많은 시간을 소비하고 있었습니다. 일반 ChatGPT를 사용하자니 기업 정보 유출 우려가 있었습니다.
Solution
RAG 아키텍처를 기반으로 기업 전용 AI 챗봇을 구축했습니다. 사내 문서, 매뉴얼, FAQ 등을 벡터 데이터베이스에 임베딩하여 저장하고, 사용자 질문과 관련된 문서를 실시간으로 검색하여 LLM이 정확한 답변을 생성하도록 했습니다. 기업 데이터는 자체 서버에서만 처리되어 보안도 확보했습니다.
