• 서울
    B
    미세먼지
  • 경기
    B
    미세먼지
  • 인천
    B
    미세먼지
  • 광주
    B
    미세먼지
  • 대전
    B
    미세먼지
  • 대구
    B
    미세먼지
  • 울산
    B
    미세먼지
  • 부산
    B
    미세먼지
  • 강원
    B
    미세먼지
  • 충북
    B
    미세먼지
  • 충남
    B
    미세먼지
  • 전북
    B
    미세먼지
  • 전남
    B
    미세먼지
  • 경북
    B
    미세먼지
  • 경남
    B
    미세먼지
  • 제주
    B
    미세먼지
  • 세종
    B
    미세먼지
최종편집2024-04-26 18:52 (금) 기사제보 구독신청
SKT, 멀티 LLM으로 기업·공공용 AI 시장 공략
SKT, 멀티 LLM으로 기업·공공용 AI 시장 공략
  • 정서영 기자
  • 승인 2023.08.23 11:12
  • 댓글 0
이 기사를 공유합니다

에이닷, 엔트로픽, 코난 등 멀티 LLM기반 엔터프라이즈 AI 사업 추진
SKT의 대규모 AI인프라와 LLM 구축 파트너사 등 엔터프라이즈AI 생태계 활용
SKT는 공공 및 기업용 ‘생성형 AI 시장’ 공략을 위한 ‘멀티 LLM’ 전략을 23일 발표했다. 사진은 SKT 기업 및 공공사업 담당 구성원들이 멀티LLM 교육을 받고 있다.<SK텔레콤>

[인사이트코리아=정서영 기자] SK텔레콤이 기업·공공용 ‘생성형 AI 시장’ 공략을 위한 ‘멀티 거대언어모델(LLM)’ 전략을 23일 발표했다.

현재 SKT는 ▲대화 및 고객센터 등 통신사 기반 서비스를 중심으로 자체 개발해온 에이닷 LLM과 ▲윤리적 답변 및 대용량 텍스트 입력에 강점이 있는 엔트로픽의 LLM ▲한국어 데이터가 풍부한 코난 LLM 등을 조합해 고객 맞춤형으로 제공하기 위한 기술 및 사업적 준비를 진행하고 있다. 자체 LLM과 함께 타사의 LLM까지 포함한 라인업으로 ‘멀티 LLM’ 사업을 추진하려는 계획이다.

우선 SKT는 한국어 기반의 에이닷 LLM을 이달부터 엔터프라이즈용 기본모델을 출시해 고객사 대상 모델을 학습시키고 최적화 작업을 진행하고 있다. 이와 함께 SKT의 지분투자 이후 다양한 분야에서 협력을 확대하고 있는 코난의 LLM도 활용할 계획이다. 또 지난 13일 지분 투자를 발표한 엔트로픽의 LLM은 SKT의 주요 B2B 서비스에 기능을 결합해 판매하는 방식을 우선 협의 중이다. 작업이 완료되는대로 4분기부터 서비스를 제공할 것으로 기대된다.

SKT AI 서비스 에이닷용 슈퍼컴퓨터 ‘타이탄’.<SK텔레콤>

LLM을 포함한 AI 서비스는 사전 학습을 위한 데이터와 함께 안정적 서비스 제공을 위한 GPU 서버 인프라가 뒷받침돼야 개발시간 단축과 함께 정교한 서비스 개발을 할 수 있다. SKT는 “슈퍼컴 등 대규모 GPU 시스템을 갖추고 있고 전국 단위의 IT 인프라를 운용한 경험과 대규모 AI 개발자 기반을 보유하고 있어, 하드웨어 인프라에서 LLM 소프트웨어에 이르기까지 엔터프라이즈 AI 분야에서 ‘풀 스택 서비스’가 가능할 것으로 보고 있다”고 말했다.

SKT는 기업공공 분야 LLM 서비스를 각각의 LLM이 가진 고유의 특장점을 가장 잘 발휘할 수 있는 분야에 매칭하는 ‘산업별 특화 LLM 서비스’ 제공을 지향하고 있다. 이를 통해 한국어 기반의 구축형 LLM 시장에서는 에이닷 LLM을 중심으로 시장을 선점하고 초거대 AI 중심의 경쟁이 예상되는 클라우드형 LLM의 경우 엔트로픽 LLM 등을 활용해 시장을 공략할 계획이다.

LLM서비스의 수요가 먼저 나타나고 있는 분야는 정부 부처, 공기업, 금융기업 등이다. 아직 초기 단계지만 국내 대형 제조사 등을 중심으로 제조업 AI 수요도 생기고 있다. SKT는 우선 행안부, 과기부 등 정부에서 추진 중인 LLM 기반 시범 사업과 본 사업 참여를 준비하고 있으며, 금융권을 중심으로 한 LLM 기반 서비스 구축 프로젝트도 개별 고객사와 함께 추진 중에 있다.

SK그룹 내 대형 제조 계열사 등과도 LLM 기반 AI 기술의 제조 영역 적용을 위한 협의를 진행하고 있다. SKT가 강점을 보여본 빅데이터 분석사업과 결합할 경우 제조 공정에서 일하는 작업자들이 LLM AI 기술을 통해 생산 시간을 단축하는 등 생산성 향상에도 크게 기여할 수 있을 것으로 기대된다.

SKT 엔터프라이즈 사업을 이끌고 있는 김경덕 CIC장(부사장)은 멀티 LLM 교육 과정에 참석한 사내 구성원들에게 “중요한 것은 고객의 요구 사항으로, 다양한 멀티 LLM 조합을 기반으로 고객들이 실제 필요로 하는 서비스를 신속하게 제공하는 것이 중요하다”고 강조했다.

인사이트코리아, INSIGHTKOREA


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.