[데일리임팩트 변윤재 기자] SK텔레콤이 멀티 거대언어모델(LLM)을 내세워 기업·공공용 생성형 인공지능(AI) 시장을 공략한다.

[변윤재 기자] 23일 SK텔레콤은 관련 전략을 공개, 사업 방향성에 대해 공유했다. 자체 LLM 기술력을 강화하는 한편, 초협력을 통해 라인업을 확장하는 '멀티' 방식으로 다양한 수요를 소화한다는 구상이다.

23일 SK텔레콤은 기업·공공기관 등의 요구를 반영 고객 맞춤형 LLM을 설계하기 위해 기술 고도화와 사업적 협력 강화를 진행하고 있다고 밝혔다. 회사 관계자는 데일리임팩트에 "국내 LLM 시장은 오픈AI를 필두로 다수 기업들이 자사 LLM 기반의 사업을 준비 중"이라며 "SK텔레콤은 자체 LLM과 더불어 업계에서 인정받는 타사의 LLM까지 포함한 라인업으로 사업을 추진할 계획"이라고 말했다. 대화·고객센터 등 통신사 기반 서비스를 중심으로 자체 개발해온 에이닷 LLM, 윤리적 답변과 대용량 텍스트 입력에 강점이 있는 엔트로픽의 LLM, 한국어 데이터가 풍부한 코난 LLM을 조합해 고객 맞춤형으로 제공한다는 게 SK텔레콤의 전략이다.

한국어 기반의 SK텔레콤 에이닷 LLM은 이달부터 엔터프라이즈용 기본모델을 출시하고 고객사 대상 모델 학습과 최적화 작업이 진행 중이다. LLM 기본모델은 문서요약, 문서생성, 질의응답 등을 수행할 수 있는 기본 기능을 갖춘 인공지능(AI) 소프트웨어다. 기본 기능이 제대로 발휘되려면 문서와 같은 실제 데이터를 넣어 학습시키고 고객사와 방향을 조율하는 과정을 거쳐야 한다.

또 SK텔레콤이 지분투자를 한 기업과 기술 협력에 나선다. 코난의 LLM는 물론, 엔트로픽 LLM과도 협업이 깊어진다. 특히 엔트로픽의 경우, SK텔레콤의 주요 기업간거래(B2B) 서비스에 LLM 기능을 결합해 판매하는 방식을 협의 중이다. 기능 통합 작업이 완료되는 올 4분기부터 실제 서비스 제공이 가능할 것으로 기대된다.

엔터프라이즈 분야에서는 풀스택 서비스를 제공한다는 방침이다. LLM을 포함한 AI 서비스는 사전 학습을 위한 데이터와 함께 안정적 서비스 제공을 위한 그래픽처리장치(GPU) 서버 인프라가 뒷받침돼야 빠른 시일 내에 더 정교한 서비스를 개발할 수 있다. SK텔레콤은 국내 최고 수준 슈퍼컴 등 대규모 GPU 시스템을 보유하고 있다. 전국 단위의 IT 인프라 운용 경험, 대규모 AI 개발인력을 갖고 있어 하드웨어 인프라에서 LLM 소프트웨어에 이르기까지 엔터프라이즈 AI 풀스택 서비스가 가능할 것으로 보고 있다.

실제 SK텔레콤은 풀스택 서비스를 구현하기 위해 여러 방안을 추진 중이다. 그 중 하나가 AI반도체다. 사피온의 신제품인 X330 등의 신기술을 활용, GPU의 발열과 높은 가격 문제를 해결하고 있다. 고객 특성에 가장 잘 맞는 LLM 서비스를 비용 효율적으로 공급할 수 있는 기반을 구축한 것이다.

LLM을 인프라와 결합한 이후, 산업별 최적화를 위해 관련 사업자들과의 협력도 진행 중이다. SK텔레콤은 최근 지분투자를 단행, 3대 주주가 된 페르소나AI와 컨택센타 분야 LLM 구축 사업 협력을 추진하기로 했다. 이 같은 방식을 통해 LLM 사업 추진을 위한 생태계를 구축, 확대해 나갈 예정이다.

시장 변화를 반영해 특화 LLM 서비스도 만든다. 산업 분야별로 구체적 서비스를 가장 비용 효율적으로 제공할 수 있는 역량을 갖추는 게 중요해진 셈이다. SK텔레콤은 각각의 LLM이 가진 특장점을 잘 발휘할 수 있는 분야에 서비스를 매칭하는 산업별 특화 LLM 서비스를 제공한다는 방침이다.

에이닷 LLM의 경우, 학습 데이터나 서비스 성격상 주로 대화나 챗봇 등 통신사향 서비스에 강하다. 반면 엔트로픽의 LLM은 AI가 따라야 할 윤리원칙을 학습시킨데다, 자료 입력 시 소설책 한 권에 해당하는 10만 토큰(7만 5000단어)를 통째로 입력할 수 있다. SK텔레콤의 각 LLM의 장점을 활용, 한국어 기반의 구축형 LLM 시장에서는 에이닷 LLM을 중심으로 시장을 선점하고 초거대 AI 중심의 경쟁이 예상되는 클라우드형 LLM의 경우 엔트로픽 LLM 등을 활용해 시장을 공략한다.

이와 함께 LLM서비스 수요 발굴에도 나선다. 현재 수요가 나타나는 분야는 정부 부처, 공기업, 금융기업 등이다. 국내 대형 제조사 등을 중심으로 제조업 AI 수요도 발생 중이다.

SK텔레콤은 우선 정부에서 추진중인 LLM 기반 시범 사업과 본 사업 참여하고, 개별 고객사와 함께 금융권을 중심으로 한 LLM 기반 서비스 구축 프로젝트도 진행한다.

SK그룹 내 대형 제조 계열사와도 LLM기반 AI 기술의 제조 영역 적용을 위한 협의를 진행하고 있다. 빅데이터 분석사업과 결합할 경우, LLM AI 기술을 통해 생산 시간을 단축시킬 수 있을 전망이다.

사업 추진에 맞춰 SK텔레콤은 내부 교육을 강화 중이다. 기업·공공사업 담당자들에게 멀티 LLM의 주요 기능, 사용법을 숙지시켜 고객이 '실제 필요로 하는 서비스를 신속하게' 제공할 수 있도록 대응 역량을 높여간다.