SK C&C가 멀티 LLM(거대언어모델)과 연계해 기업에서 즉시 사용할 수 있는 맞춤형 생성형 AI 서비스 13종을 출시한다고 6일 밝혔다.

해당 서비스는 AI 채팅·코딩·보고서 제작 등 범용 3종을 비롯해 인사·재무·법무·연구개발 등 직무 영역별 전문 AI 서비스로 구성됐다.

SK C&C는 AI 프롬프트와 사내 데이터 저장소, AI 오케스트레이터로 구성된 ‘생성형 AI 오케스트레이션’ 플랫폼과 국내외 LLM, 금융·제조 분야에서 수요가 많은 sLLM을 연계해 이들 서비스를 개발했다고 설명했다.

sLLM은 경량화 거대언어모델로, 기존 LLM에 비해 데이터량이 작지만 그만큼 속도가 빨라 특정 영역에 특화된 AI 시스템을 구축할 수 있다는 장점이 존재한다.

한편 SK C&C는 생성형 AI 오케스트레이션 플랫폼에 AI 채팅 서비스인 '마이챗'을 탑재해 기업 재무 정보, 시장 동향, 보고서 작성 등 일반 사무에서 더 폭넓게 사용 가능하다고 전했다.

특히 마이챗을 설치하면 사내 데스크톱 가상화(VDI) 업무 환경에서도 높은 보안 상태를 유지하며 국내외 LLM 사용이 가능해진다.

SK C&C의 기업 최적화 생성형 AI 시스템 [SK C&C 제공]

아울러 직무별 전문 AI 서비스는 실제 산업 적용 사례를 기본 모델로 개발이 진행됐다.

생성형 AI 서비스 기능에는 대표적으로 제조 장비나 설비의 이상 징후를 탐지하고 대응하는 사례 외에도 대내외 데이터를 활용한 고객 상담 FAQ, 영업 상담 스크립트 추천, 보험 계약 심사 자동화 등이 탑재돼 있다.

한편 SK C&C는 이번 생성형 AI 도입에 외부 LLM과 기업 내부 정보 검색 시스템을 실시간으로 결합하는 RAG 기반 스마트 에이전트 방식을 적용했다.

이를 통해 AI 구축에 따른 비용 증가와 AI 오류, 내부 데이터 유출 가능성을 원천 차단하고 결괏값에 대한 정확도를 높였다.

SK C&C 차지원 AI그룹장은 "생성형 AI는 현재 기업 내에서 일어나는 모든 업무 영역을 재창조할 수 있는 잠재력을 보유하고 있다"라고 강조했다.

이어 "기업들이 SK C&C의 맞춤형 생성형 AI 서비스를 활용하면 구성원들이 효율적으로 업무에 활용할 수 있고, 사업의 가치를 높이는 지렛대 역할을 할 수 있을 것"이라고 말했다.