[데일리임팩트 황재희 기자]"챗 에이전트에서 가장 중요한 건 상담사로 안 넘어가도록 (AI가) 셀프 처리하는 능력이다"

[딜사이트경제슬롯머신 무료게임 릴 황재희 기자] 성준현 LG유플러스 인공지능(AI)·데이터 프로덕트 담당(상무)은 8일 열린 온라인 테크 브리핑을 통해 챗 에이전트 서비스 4종에 대해 소개하며 이같이 말했다.

챗 에이전트는 거대언어모델(LLM)기반의 채팅 서비스를 제공한다. LG유플러스가 그간 확보한 다양한 고객 상담 내용을 학습한 AI가 사람 대신 상담을 진행한다.

LG유플러스는 통신 고객이 많이 사용하는 8개 시나리오를 골라 챗 에이전트에 학습시켰다. 3월부터 서비스를 시행한 결과 실제로 고객의 문의가 자체 챗 에이전트 플랫폼에서 해결되면서 2차로 상담사로 넘어가지 않는 '셀프 처리율'이 높게 나타난 것을 확인했다.

이날 브리핑에 함께 참석한 김민규 LG유플러스 AI·데이터프로덕트 사업팀장은 "챗 에이전트 활용 후 셀프 처리 비율이 높아졌는데, 연초 잡은 목표치 대비 초과 달성했다"며 "시나리오 최적화한 부분이 큰 효과를 냈다"고 말했다.

챗 에이전트, 비용 절감 위해 하이브리드형 구축

챗 에이전트는 하리브리드형 AI 모델이다. 오픈 AI사의 거대언어모델(LLM)인 챗 GPT 기술에다 비용을 절감할 수 있는 자연어이해(NLU)모델을 함께 적용했다.

고객의 단순 문의는 NLU가 처리하고 그 이상의 난이도 높은 문제는 더 똑똑한 LLM이 2차로 해결한다. LLM도 불가능한 문제일 경우 사람 상담사로 넘어가는 시스템이다. 고객 입장에선 단순한 문제도 상담사로 연결되기까지 대기 시간이 많이 걸릴 수 있는데 이를 단축하고, LG유플러스도 업무를 효율적으로 운영하면서 인건비 등을 절감할 수 있다.

성 상무는 "고객이 바로 LLM에 물어보면 환각 효과 등 부작용이 있을 수 있고 비용 이슈도 있어서 하이브리드 형태로 개발됐다"며 "NLU가 먼저 스스로 판단해 처리할 수 있는 건 즉시 처리하되 해결하기 어렵거나 기존 시나리오나 패턴을 벗어난 문제는 LLM에 보내서 처리하는 구조"라고 설명했다.

LG유플러스는 지난달 챗 에이전트 플랫폼을 오픈해 공식 온라인 채널인 U+상담과 장애상담 서비스에 적용중이다. 이외에 구독 서비스 '유독'이나 기업 서비스를 제공하는 U+비즈마켓 솔루션 안내 등 총 4개 서비스에 활용하고 있다. 향후 디지털 통신 플랫폼 '너겟' , 소상공인(SOHO)을 위한 상담 서비스 등 전체 사업에 챗 에이전트를 적용해 나갈 방침이다.

GPT보다 보안성 높아...B2B 사업으로 확대

LG유플러스는 상반기 말 자체 개발 거대 언어모델인 '익시젠' 을 공개할 예정이이다 챗 에이전트 서비스에도 익시젠을 통해 보다 고도화해 보다 개인화된 맞춤 상담 등 향상된 서비스를 제공할 수 있을 것으로 기대하고 있다.

성 상무는 이날 "챗 에이전트의 가장 큰 경쟁력은 상품 관점에선 유플러스 데이터에 최적화되도록 제공해 서비스의 정밀도를 높였다는 것"이라며 "고객과 개인정보가 내부적으로 처리되서 보안 측면에서 GPT보다 안전한 서비스를 제공한다"고 말했다.

LG유플러스는 챗 에이전트 플랫폼을 기업간거래(B2B) 영역으로 확장한다는 계획이다.

성 상무는 "기업 고객들을 만나보면 기존 콜봇 외에도 채팅 서비스도 많이 원하고 있어 챗 에이전트 니즈가 있는 고객에게 오퍼링할 계획"이라며 "챗 에이전트를 미디어, 모바일 에이전트로도 확산하는 게 목표"라고 말했다.