[인사이트코리아=이경원 기자] 인공 지능 서비스 영역에 앞장서온 SK텔레콤이 AI 스피커 ‘누구’ 서비스 용량을 5배 늘려주는 기술을 개발했다.

SK텔레콤은 21일 오전 10시 서울 을지로 삼화빌딩에서 SK텔레콤 ‘New ICT 포럼’을 열고 AI 원천 기술을 소개했다. 포럼에서 SK텔레콤은 AI 서비스 처리 속도를 높이는 ‘AI 가속 솔루션(AIX, AI Inference Accelerator)’을 자체 개발, 자사 AI 서비스 ‘누구’에 적용했다고 밝혔다.

‘누구’는 SK텔레콤이 국내 최초로 출시한 AI 스피커다. SK텔레콤은 AI 서비스 ‘누구’를 스피커에 이어 내비게이션, 키즈폰, 셋톱박스 등으로 서비스 영역을 대폭 확대했다. 이에 따라 지난해 8월 11만 명이었던 ‘누구’ 월간 실 사용자는 올해 1분기 기준 300만명을 돌파하는 등 빠른 속도로 증가했다.

사용자가 ‘누구’에게 음성으로 명령을 하면 디바이스가 그 음성을 녹음해 데이터센터로 전송한다. 데이터센터에서는 수집한 음성을 분석·처리해야하는데 사용자가 많아지면 처리할 데이터 양도 많아져 추가로 서버를 증설해야 한다.

SK텔레콤이 개발한 AI 가속 솔루션은 손바닥 크기의 카드 형태를 띈 가속기 속에 탑재된다. 이 가속기를 데이터센터 내 AI 서버에 장착하면 딥러닝 연산 속도가 20배 빨라질 뿐 아니라, 별도 서버 증설 없이 AI 전체 서비스 용량을 기존 대비 5배까지 늘릴 수 있다. SK텔레콤은 5G 시대에 보다 많은 고객에게 실시간으로 빠른 AI 서비스를 제공하기 위해 AI 가속 솔루션을 개발하게 됐다고 설명했다.

‘New ICT 포럼’에서 정무경 머신러닝 인프라 랩장은 CPU와 AI 가속기를 비교해 녹음파일 음성을 텍스트로 바꿔주는 데모를 선보였다. 먼저 기존 CPU(Central Processing Unit) 기반의 연산을 통해 처리되는 과정에서 많은 채널을 한꺼번에 실행시켰더니 음성이 뚝뚝 끊기고 속도가 느려졌다. 반면 SK텔레콤이 개발한 AI가속기로 동작을 시킨 결과 20여개 채널의 음성들이 텍스트로 실시간 전환되는 것을 볼 수 있었다. 정 랩장은 “작은 서버로 기존 시스템 대비 성능이 5배나 향상됐다”며 “초고속·초저지연 등의 특성을 가진 5G 시대에 고품질 AI 서비스를 피부로 느낄 수 있을 것”이라고 설명했다.

이 가속기 솔루션은 GPU(Graphics Processing Unit) 방식 가속 솔루션 대비 전력 효율성이 16배 뛰어나, 데이터센터 운용비도 절감된다.

 시장 규모 커 엔비디아·구글 등 글로벌 기업들도 적극 나서

SK텔레콤은 2년여의 연구개발 끝에 하드웨어 및 소프트웨어 설계, 솔루션 최적화, 상용 클라우드 서비스 적용까지 마쳐 상용화에 성공했다. 국내에서 ‘AI 가속 솔루션’을 상용 서비스에 적용한 기업은 SK텔레콤이 최초다.

미국 시장조사업체 트랙티카(Tractica)가 지난 3월 발표한 보고서에 따르면 가속 솔루션을 포함한 글로벌 AI 칩셋 시장 규모는 오는 2025년까지 660억 달러에 이를 것으로 예상된다. 엔비디아, 구글, 마이크로소프트 등을 비롯해 글로벌 테크 기업들이 AI 가속 솔루션 개발 및 상용화에 적극 나서고 있다.

SK텔레콤은 AI 연산 속도 및 전력 효율성을 보다 향상시킬 수 있는 ‘차세대 AI 가속 솔루션’도 개발할 예정이다.

SK텔레콤 박진효 ICT기술원장은 “서비스 성능을 높이고 운용비 절감도 가능한 AI 가속 솔루션을 성공적으로 개발하며 글로벌 톱 수준의 AI 기술 경쟁력을 확보했다”며 “AI 서비스 ‘누구’를 시작으로 향후 확장될 다양한 인공지능 응용 서비스에 솔루션을 적용해 고객들에게 고품질 서비스를 제공할 것”이라고 밝혔다.