[인사이트코리아=정서영 기자] SK텔레콤이 통신업 전용 거대언어모델(LLM)을 오는 6월 중 내놓는다. 앞서 유영상 SK텔레콤 사장이 언급한 것처럼 통신업에 특화된 ‘텔코 LLM’을 기반으로 ‘게임 체인저’로 등극한다는 전략이다.

30일 SK텔레콤은 기자설명회를 열어 오는 6월 중 통신 서비스에 특화된 ‘텔코 LLM’을 선보인다고 발표했다. 텔코 LLM은 통신업 전용 LLM, 즉 오픈 AI의 ‘GPT’나 앤트로픽 ‘클로드’와 같은 범용이 아닌 통신업에 특화된 LLM을 의미한다.

SK텔레콤은 통신사 서비스나 상품, 멤버십 혜택, 고객 상담 패턴 등 방대한 양의 데이터를 수집, 정형·비정형 데이터를 선별해 이를 회사 LLM인 ‘에이닷엑스’는 물론 GPT와 클로드에 학습시킴으로써 통신에 특화된 LLM을 만들고 있다.

에릭 데이비스 SKT AI 테크 콜라보레이션 담당은 “챗GPT 등 기존 모델은 도메인에 특화된 태스크를 수행하는 데 한계가 있다”며 “텔코 서비스를 제공할 때 필요한 태스크 수행에 최적화된 LLM으로 터닝이 필요했다”며 텔코 LLM을 개발한 이유를 설명했다.

‘멀티 LLM’ 전략…비용·시간 절감

SK텔레콤은 하나의 LLM만을 이용하지 않고, ‘멀티 LLM’ 전략을 택했다. 무엇보다 이러한 전략은 성능과 비용 절감 면에서 최적화된 방식이라는 게 회사 설명이다. 회사에 따르면 범용 LLM 대비 텔코 LLM은 통신 관련 업무 수행 정확도가 35% 정도 높았다고 밝혔다.

일례로 기존 고객센터에서 상담 전화 한 건을 처리하는데 고객 상담에 약 3분, 상담 후 업무 처리하는데 30초 이상이 소요되지만, 텔코 LLM을 도입하면 기존보다 상담 업무 소요 시간을 크게 단축시켜 줄 수 있다는 것이다.

정민영 SKT AI플랫폼 담당은 “고객센터, 인프라 뿐만 아니라 마케팅·유통망 등 고객 접점이나 법무, HR와 같은 사내 업무까지 통신사 운영의 다양한 영역에서 텔코 LLM이 업무 효율성을 높일 것”이라며 “지속적으로 텔코 LLM을 활용한 유즈케이스를 늘려갈 계획”이라고 설명했다.

SK텔레콤은 오는 6월 텔코 LLM 공개 이후 LLM을 구축하고 특정 업무마다 최적화하는 과정에서 드는 시간과 비용은 줄어들 것으로 예상하고 있다.

에릭 데이비스 담당은 “작년 8월 처음으로 앤트로픽과 협업한 이후 데이터를 구축하고 튜닝하는 데 8개월 정도 걸렸다”고 말했다. 이어 정 담당은 “기술적으로 처음 시작할 때는 오래 걸렸지만 그 다음에는 훨씬 적게 걸리고, 표준이나 용어 등 공유한 부분이 점차 많아짐에 따라 글로벌 확산도 더욱 쉬워질 것”이라 덧붙였다.

“한 산업 분야 특화 LLM, 시대 변화 이끌 것”

앞서 유영상 사장은 한 산업에 특화된 LLM이 변화를 이끌어갈 것이라는 견해를 밝힌 바 있다. 그는 지난 2월 MWC24 기자간담회에서 GTAA 합작법인 설립을 공표하며 “지금은 한 산업에 특화된 LLM이 해당 분야의 변화를 이끌어가는 시대”라며 “글로벌 통신사와 텔코 LLM 등 AI 분야서 협력해 시장 변화를 주도하는 게임 체인저가 되겠다”고 강조했다.

지난 2월 설립한 GTAA는 ‘글로벌 텔코 AI 얼라이언스’로 글로벌 통신사들과 텔코 LLM 공동 개발과 사업 협력을 위해 설립한 합작법인이다. 글로벌 통신사에는 도이치텔레콤, 이앤그룹, 싱텔그룹, 소프트뱅크 등이 구성됐다.