KT가 IDC 사업 경쟁력을 제고하기 위해 'KT 하이퍼스케일 AI 서비스'를 선보인다. /최수진 기자

하이퍼스케일 AI 서비스 공개…인프라 부족한 고객사 확보 총력

[더팩트│최수진 기자] "커머스, 금융, 클라우드 등 시장이 확대되면서 IDC(인터넷데이터센터)가 관심을 받고 있다. KT는 '하이퍼스케일 AI 서비스' 등 우리만의 IDC 특화 서비스를 내세워 꾸준히 성장하는 게 목표다."

손찬혁 KT IDC사업팀장은 IDC 사업을 소개하고, 자사 IDC 역량을 바탕으로 출시한 'KT 하이퍼스케일 AI' 서비스를 공개하는 자리에서 이같이 말했다.

◆ KT, IDC 역량 기반으로 '하이퍼스케일 AI' 서비스 공개

KT는 8일 서울 종로구에서 설명회를 열고 IDC 역량을 기반으로 만든 'KT 하이퍼스케일 AI 서비스'를 공개했다.

KT 하이퍼스케일 AI 서비스는 IDC 사업 경쟁력을 강화하기 위해 선보인 신규 상품으로, 고객사의 인공지능(AI) 연구 및 상용화 인프라 환경, 운영 컨설팅 등을 지원한다. AI에 관심은 많지만 인프라가 부족해 연구를 시작할 수 없는 기업을 위한 맞춤형 서비스다. △AI 컴퓨팅 파워 △개발자 툴킷 △전문가그룹의 최적화 및 컨설팅 △데이터센터 등으로 구성된다.

KT는 "하이퍼스케일 AI 서비스의 강점은 AI 모델 학습, 추론에 최적화된 IPU(지능형처리장치)를 기반으로 필요한 만큼만 추가할 수 있다는 것"이라고 설명했다.

IPU는 KT가 국내 최초로 도입한 것으로, 기존 인프라보다 저렴한 가격에 고성능의 AI 컴퓨팅 서비스를 제공한다. 그래픽코어사의 IPU는 그래픽 처리를 위해 설계된 GPU와 달리 병렬처리에 최적화된 AI 칩이다.

미국 퍼듀대 연구에 따르면 IPU는 기존 AI 인프라 대비 계산 효율성, 메모리 확장성이 최대 16배 개선되고, 비용도 GPU보다 최대 60% 저렴하다. 또, 40~80% 수준의 에너지 효율성도 갖췄다.

KT 하이퍼스케일 AI 서비스는 AI에 관심은 많지만 인프라가 부족해 연구를 시작할 수 없는 기업을 위한 맞춤형 서비스다. /최수진 기자

이날 현장에서 설명을 담당한 손찬혁 KT IDC사업팀장은 "AI 연구와 상용화 인프라 환경을 완벽히 지원하는 서비스"라며 "합리적인 가격, 유연한 확장성, 뛰어난 안정성 등으로 최적의 AI 모델링을 구현한다"고 강조했다.

KT 하이퍼스케일 AI 서비스는 표준 머신러닝 개발 프레임워크를 모두 지원하고 관련 라이브러리를 무상 제공한다. 또, 메니지드서비스제공사(MSP) 메가존클라우드와 함께 AI 모델링을 IPU로 최적화하는 컨설팅도 지원할 계획이다.

KT는 "하이퍼스케일 AI 서비스를 이용하는 고객사는 별도의 인프라 구축 없이 AI 연구개발에만 매진할 수 있다"며 "합리적인 가격에 필요한 만큼 자원을 이용하고, 서버도 빠르게 확장 가능하다"고 강조했다.

◆ KT, '하이퍼스케일 AI존' 구축…'분당 IDC'에 우선 적용

손찬혁 팀장은 "하이퍼스케일 AI 서비스는 기존 서비스와 다르다"며 "시스템 자원을 나눠 사용할 것인지, 집중시킬 것인지에 따라 기존 서비스와 차이가 있다. 우리는 후자를 선택했다. 고용량 학습이 필요한 연구기관을 타깃으로 한다. 고객사 시뮬레이션을 해보니 그들이 직접 고용량을 사용하려면 비용이 많이 든다. 거기에 맞춰 내놓는 것"이라고 설명했다.

KT는 메가존클라우드와 협력해 IDC에 '하이퍼스케일 AI존'을 구축한다. 2001년 9월 개관한 분당 IDC에 우선 적용하고, 추후 순차적으로 AI존을 도입할 예정이다. /최수진 기자

그러면서 "이번 서비스의 핵심은 대용량 연산을 할 수 있는 환경을 제공하는 것"이라며 "AI를 개발하는 분들은 소규모 모델 가지고 테스트하는 환경인데 본인들이 가진 센터 가지고 모델링을 하고 추론하려면 단순하게 GPU를 소규모로 돌리는 건만으로는 불가능하다. 최소한의 인프라가 필요하다. 부족한 부분을 채워서 최적의 성능을 낼 수 있도록 하는 게 우리의 역할"이라고 강조했다.

손 팀장은 "국내에서 이런 서비스는 우리가 처음"이라며 "해외에 있는 데이터센터 사업자 일부는 관련 서비스를 선보이지만 하나의 GPU를 나눠 사용하는 형태다. 특정 대용량 모델을 온전히 제공하거나 대용량 인프라를 제공하는 사업자는 없다"고 강조했다.

아울러 KT는 메가존클라우드와 협력해 IDC에 '하이퍼스케일 AI존'을 구축한다. 고집적 및 대용량 AI 인프라에 최적화하기 위한 결정이다. 2001년 9월 개관한 분당 IDC에 우선 적용하고, 추후 순차적으로 AI존을 도입할 예정이다.

하이퍼스케일 AI존은 HPC(고성능컴퓨팅) 수요 증가 및 반도체 기술 발달로 인한 고집적 서버로 구성된 인프라 변화에 따라 KT IDC 내 고집적 존을 구축한 서비스다. 고객은 고가의 분석 인프라 장비 투자없이 AI모델 이용이 가능하고 대용량의 데이터 처리를 위한 KT IDC 네트워크가 제공이 가능한 특장점이 있다.

손 팀장은 "하이퍼스케일 AI존 서비스는 굉장히 고집적 IT 환경에서 필요하다"며 "전국적으로 제공하지는 않고, 수도권을 중심으로 서비스할 예정이다. 위치, 환경 등을 고려한 것"이라고 설명했다.

이어 "분당 IDC에 우선 구축해 서비스를 제공하고 향후 고객 수요와 반응에 따라 하이퍼스케일 AI존을 지속 확장할 계획"이라고 말했다.

jinny0618@tf.co.kr