정찬호 KT IT부문 IT전략본부 IT전략기획담당 상무가 9일 경기도 성남시에 위치한 KT 본사에서 자체 생성형 인공지능(AI) 포털 '젠AI두'에 대해 설명하고 있다. /KT

[더팩트｜최문정 기자] KT가 '디지털 플랫폼 기업(디지코)' 2기를 향한 항해를 시작했다. 특히 KT는 올해 초 '챗GPT'로 촉발된 생성형 인공지능(AI) 시대에 대응해 먼저 자사 직원들의 AI 활용 역량을 갖춘다는 구상이다. 이러한 움직임의 중심에 IT부문이 있다.

지난 9일 경기도 성남시 분당구에 위치한 KT본사에서 정찬호 KT IT부문 IT전략본부 IT전략기획담당 상무를 만나 최근 실시된 KT의 네 번째 해커톤 행사 뒷 이야기와 회사의 임직원 AI 역량 강화 방안에 대해 인터뷰를 진행했다.

◆ 생성형 AI 시대 본격 개막…'KT 전용 챗GPT'로 업무 혁신 추진

정 상무는 "챗GPT 등과 같은 생성형 AI 모델을 활용해서 새로운 정보를 만들고, 문서 내용을 검색하는 기술은 이제 저변으로 굉장히 확대되고 있고, KT 역시 직원들이 알음알음 이러한 AI 기술을 활용하고 있다"며 "이에 회사가 기본 인프라를 제공해 생성형 AI를 업무에 녹여보자는 취지로 해커톤을 준비했다"고 밝혔다.

올해 해커톤 대회는 최근 화두로 떠오른 생성형 AI를 어떻게 실제 업무에 접목하고, 확산할 수 있을지에 집중해 실시됐다. 생성형 AI는 막대한 사전 데이터 학습과 인간의 두뇌 활동을 모방한 알고리즘을 바탕으로 단순히 답변을 출력하는 것을 넘어 새로운 정보를 만드는 것도 가능한 모델이다. 생성형 AI를 바탕으로 여러 AI 서비스를 만드는 것도 가능하기 때문에 일종의 인프라로 분류된다.

KT는 다양한 생성형 AI를 업무 특성과 필요에 맞게 선택해 사용할 수 있는 'GEN AI DU' (이하 젠AI두) 플랫폼을 마련했다. 젠AI두는 쉽게 표현하면 'KT 직원 전용 챗GPT'다. 마치 포털사이트처럼 구성된 젠AI두 상단에는 오픈AI의 GPT 3.5 , GPT 4, 구글 바드, 메타 라마, 이미지 생성모델 등의 초거대 AI 모델이 나열돼 있고, 하단에는 검색창이 있다. 자신의 업무 특성과 필요에 따라 원하는 AI 모델을 활용해 질문을 입력할 수 있다. KT가 지난달 공개한 자체 생성형 AI '믿음(Mi-dm)'도 연동을 준비하고 있다.

개발 직군 직원들은 이보다 더욱 강화된 '젠AI두 랩스'를 사용할 수 있다. 이는 웹 기반 개발 플랫폼인 '주피터 노트북'을 기반으로 애플리케이션 프로그래밍 인터페이스(API) 키를 활용할 수 있는 환경을 마련해준다.

정 상무는 "젠AI두는 여러 생성형 AI 모델을 하나의 포털에서 필요에 따라 취사선택해서 사용할 수 있다는 점에서 차별점이 있다"며 "젠AI두 랩스를 활용하면 실제 개발환경과 AI 포털과의 연결고리가 있어 실제로 생성형 AI를 활용해 개발한 결과가 활용사례(유즈케이스)로 만들어진다"고 밝혔다.

KT는 젠AI두를 플랫폼을 구축하며 기업의 민감한 정보가 외부 플랫폼에 유출되지 않도록 사전 조치를 실시했다.

하태준 IT부문 워크이노베이션 팀장은 "젠AI두를 만들기 전에는 개방망에서 오픈AI, 구글, 메타 등의 글로벌 빅테크 기업들에게 기업 정보가 노출될 수밖에 없는 상황이었다"며 "지금은 사내망 안에서 모든 정보가 통제되며, 프록시를 통해 외부망도 KT 전용 테넌트를 구성해 우리의 정보가 유출되거나, 거대언어모델(LLM) 구축 데이터로 학습되지 않도록 통제하고 있다"고 설명했다.

KT IT부문은 젠AI두를 비롯한 생성형 AI 모델 활용법에 대한 교육을 실시하며 직원들의 AI 활용 역량을 제고하고 있다. 사진은 실제로 IT부문이 제공하는 젠AI두 활용 가이드의 일부. /KT

◆ "업무 메일 프롬포트는 이렇게 짜세요"…'맞춤형' 교육으로 직원 AI 역량↑

해커톤 대회를 앞두고 젠AI두를 비롯한 생성형 AI 모델 활용법에 대한 교육도 선행됐다.

정 상무는 "자체 역량 강화 교육 포털 '지니어스'를 활용해 필요한 교육 내용을 동영상 강의로 만들어서 제공을 했다"며 "아직 젠AI두와 같은 생성형 AI 플랫폼을 사용해 본 적이 없는 직원들이 있기 때문에 사전에 몇 차례에 걸쳐 교육을 제공했다. 해커톤을 앞두고는 필요한 행정 교육을 같이 실시했다"고 설명했다.

실제로 KT 직원 교육에 활용하는 젠AI두 기초 교육 과정을 살펴보면, 생성형 AI에 △업무 메일 작성 요구 △보고서 초안 작성 요구 △코드 개발 등의 목적에 따라 명령어를 넣을 때 가장 효과적인 프롬포트(명령어 입력)를 안내하고 있다.

이날 KT는 젠AI두를 활용한 업무 적용 방식을 시연했다. 먼저 젠AI두에 접속해 GPT 3.5 모델을 선택하고, 4페이지 분량의 보고서 PDF 파일을 업로드했다. 이후 "보고서를 요약해 줘"라는 명령을 내리자 글과 도표로 복잡했던 보고서가 반 페이지 분량으로 요약돼 나왔다.

하 팀장은 "현재 KT IT부문은 계속해서 생성형 AI 활용법에 대한 강의를 만들고 있고, 이를 활성화시키기 위해 해커톤과 같은 행사를 개최하고, 성과를 낸 직원에게 포상을 제공하는 선순환 체계를 만들고 있다"고 말했다.

실제로 KT의 AI 역량 강화 프로그램을 통해 차장급 이상의 시니어 직원들의 해커톤 참여도 적지 않다. 올해 해커톤의 경우, 시니어 직원 참여율이 13% 정도로 집계됐다. 젊은 직원들의 참여율이 높기는 하지만, 시니어 직원들의 참여도도 상당한 수준이라는 평가다

정 상무는 "이번에 최우수상 수상자 중에는 부장도 한 분 계셨다"며 "나중에 이분의 수상소감을 들어보니, 해커톤을 준비하며 많은 동기부여를 받았고, 나중에 뒤처지면 안 되겠다는 생각으로 엄청난 노력을 했다는 것이 느껴졌다"고 밝혔다.

이번 해커톤은 지난 8월 참가 접수를 시작으로 10월19~20일 양일에 거쳐 KT원주연수원에서 본선을 치르기까지 약 2달 동안 숨 가쁘게 이어졌다. 올해는 105팀에서 336명이 참여하며 명실상부한 KT그룹의 대표 행사로 자리 잡았다. 특히 이번 대회에는 3연속 참가팀이 대상을 받아 눈길을 끌기도 했다.

정 상무는 "20개 본선 진출작은 약간의 보안을 거치면 충분히 업무에 적용할 수 있을 수준이라고 생각된다"고 말했다.

KT의 해커톤대회 'AI 플레이 2023' 본선에 참석한 KT그룹 임직원들이 지난 10월20일 시상식에 참여해 단체사진 촬영을 하고 있다. /KT

◆ 'IT 전문가' 대표로 맞이한 KT, 전사 AI 역량 강화해 생산성 높인다

이번 해커톤 행사를 준비하며 젠AI두의 가능성을 확인한 IT부문은 지난 8일 전 직원에게 공개했다. 공개된 지 하루 만에 300명 이상이 접속해 기능을 사용한 것으로 집계됐다.

정 상무는 "특히 매뉴얼이나 법규처럼 텍스트 기반으로 제작된 대량의 자료를 젠AI두를 활용해 분석하는 사례가 많다"며 "가령, 재무실의 경우 '전사 재원 지침'과 같이 복잡한 내용을 젠AI두를 활용해 역량평가 등에 적용할 수 있을지를 살펴보고 있다"고 설명했다.

KT는 지난 8월 임시 주주총회를 통해 선임된 김영섭 대표 체제를 맞아 AI 역량 강화에 더욱 속도를 낼 것으로 전망된다. LG CNS 대표 등을 역임한 김 대표는 '자타공인' ICT 전문가로 불린다.

정 상무는 "김 대표는 워낙 IT 전문가다. 웬만한 실무자보다 지식이 많고, 관심도 많다"며 "김 대표가 가장 강조하는 것이 '역량'이다. 현재 역량의 수준이 어떤지, 부족하다면 어떻게 이를 높일 것인지에 대한 질문을 많이 한다"고 설명했다. 이어 "조만간 김 대표를 찾아 젠AI두 활용법에 대한 시연할 예정이다"라고 밝혔다.

IT부문은 본격화된 생성형 AI 시대와 김영섭 체제를 맞아 더욱 다양한 교육 프로그램을 준비한다는 구상이다.

정 상무는 "AI가 사람을 대체한다는 전망도 있지만, 앞으로의 경쟁력은 AI를 잘 활용하는 사람과 그렇지 못한 사람으로 나뉜다는 것이 지배적인 생각이고, 저 역시 이러한 관점에 동의한다"며 "현재 사회와 회사 모두 고령화되고 있고, 젊은 직원 수급에도 어려움을 겪는 상황에 업무는 다양화되고 있어 생산성을 높이는 것이 필수다"라고 짚었다.

이어 "과거에는 IT부문의 나아갈 방향이 소프트웨어 개발 중심이었다면, 이제는 클라우드 기반으로, AI를 포함한 새로운 엔지니어링 역량을 어떻게 더 키울 것인지가 조직의 숙제이자, 더욱 도전하고 싶은 영역"이라며 "이에 따라 젠AI두 활용법을 비롯한 관련 교육도 많이 만들고, 직원들에 대한 동기부여할 수 있는 방안을 고려해 역량을 계속 확보해 나가려고 한다"고 말했다.

munn09@tf.co.kr