AI 고객지원, 문서 검색은 AI에 계약 판정은 DB 규칙에 맡기는 설계(qiita.com)
작성 언어: 한국어작성 언어로 보기
쉬운 요약
- 일본 오라클의 아라카와 유지가 쓴 만화 형식의 입문 자료다. 신입 엔지니어가 문의에 맞는 매뉴얼을 찾고 현장 방문 가능 여부를 계약 정보로 확인하는 지원 시스템을 설계한다.
- 문서는 질문과 의미가 비슷한 것을 찾되, 먼저 고객, 기종, 공개 상태로 후보를 좁힌다. 계약 판정은 AI에 맡기지 않고 DB의 뷰(조건을 미리 적용해 보여주는 가상 표)에 판정 열로 둔다.
- AI가 문서 검색과 계약 조회 도구를 골라 쓰는 시험에서는 도구 미호출, 실행 오류, 대상 기기 오류가 일어난다. 작중 실패 사례는 설계 설명용 창작이며, 호출 기록을 코드로 대조해 막는다.
- 문서를 의미 비교용 숫자 배열로 바꾸는 작업은 DB 안에서 하면 전체 문서를 외부로 보내지 않는다. 답변을 만드는 AI는 외부 클라우드 서비스를 쓴다.
편집 의견
O: 사내 문서 검색 챗봇에 고객별 접근 제한을 넣어야 하는 백엔드 개발자가, 원문 데모 저장소의 고객 제한 뷰와 계약 판정 뷰를 설계 참고용으로 따라 볼 만합니다.
X: 문서를 DB 안에서 벡터로 바꾸면 DB의 CPU와 메모리를 쓰므로, 처리량과 동시 실행 수는 각자 환경에서 직접 확인해야 합니다.
작성 언어: 한국어
발견한 곳
Qiita ↗ / 매체 발행 글
비슷한 일을 겪어 본 적이 있나요? 그때 어떻게 했는지 한두 줄로 들려주세요. 제품을 잘 몰라도 괜찮습니다.