SKT, 통신 특화 LLM 적용한 AI 고객센터 오픈

SK텔레콤이 고객 상담 업무의 새 지평을 연다.

 

SKT는 지난달 중순 자체 개발한 텔코(Telco·통신사) 특화 거대언어모델(LLM)을 활용한 인공지능(AI) 상담 업무 지원 시스템을 단계적으로 오픈해 한달여간 베타 서비스를 성공적으로 운영했다고 18일 밝혔다.

 

SKT는 앤트로픽 등 해외 주요 LLM 업체들과 협력을 바탕으로 다양한 통신 전문 지식을 학습한 텔코 LLM을 개발해 왔다. 통신 관련 서류 등 이미지를 학습시켜 통신업에 특화된 거대멀티모달모델(LMM)도 개발·적용했다.

 

해당 시스템은 텔코 LLM 기반의 AI 지식 검색 도우미 서비스를 통해 상담사들이 필요한 정보를 빠르게 찾아 고객에게 안내할 수 있도록 지원한다.

 

상담사들이 필요한 정보를 지식정보시스템에서 하나하나 찾을 필요 없이 ‘퍼플렉시티’나 ‘챗GPT’처럼 상담사가 자연어로 질문을 입력하면 AI가 상담사 대신 정보를 검색해 정리해 준다. 지난달 21일부터 실제 상담 현장에서 베타 서비스를 시작했으며, 내년부터는 모든 고객 상담 업무에 전면 적용할 예정이다.

 

에이닷엑스(A.X) LMM을 활용한 AI 서류 자동 처리 시스템도 구축한다. 고객들이 문자, 이메일, 팩스 등 다양한 채널로 송부한 사진, 스캔 문서 등 다양한 형태의 구비 서류들을 AI가 자동으로 분류·처리함으로써 증빙서류 확인에 소요되는 시간을 크게 단축시킬 수 있다. 지난달 23일부터 서류를 자동으로 분류하는 시스템을 도입했고, 향후에는 서류 내용까지 자동으로 판독해 처리할 수 있게 된다.

 

다음달에는 텔코 LLM을 활용해 고객 상담 결과를 자동으로 분류·요약 정리하는 상담 후속 업무 자동화 시스템도 오픈할 예정이다. 상담이 종료된 후 상담 결과를 정리하는데 평균 30초 정도 소요됐지만 이를 AI가 대체함으로써 상담사는 보다 빠르게 대기 중인 고객들에게 상담을 제공할 수 있다.

 

실제로 한 달여간 AI 상담 업무 지원 시스템을 운영한 결과 상담사들은 텔코 LLM의 성능이 기대 이상으로, 고객 상담에 필요한 정확한 정보를 손쉽게 찾을 수 있었고 답했다. 특히 다양한 상품·서비스의 정보 확인에 어려움을 겪는 경력이 짧은 상담사들이 고객 응대에 부담을 크게 덜 수 있겠다는 반응을 보였다. 또한 AI가 서류를 자동으로 분류해주기 때문에 고객이 서류를 보냈는지 확인해야 하는 수고로움과 시간을 덜어 상담에 보다 집중할 수 있게 됐다고 말했다.

 

홍승태 SKT 고객가치혁신 담당은 “SKT는 AI고객센터로 진화함에 있어 업무 효율화에만 치중하지 않고, 고객 개개인에 최적화된 상담을 제공하는 것을 목표로 하고 있다”며 “SKT는 텔코 LLM 기반 상담 업무 지원 시스템을 발판으로, 앞으로도 다양한 AI 기술을 고객 상담 업무에 활용해 국내 최고 수준의 고객센터 상담 서비스를 한단계 더 도약시키겠다”고 말했다.

 

이화연 기자 hylee@segye.com

[ⓒ 세계비즈앤스포츠월드 & segyebiz.com, 무단전재 및 재배포 금지]