17일 한국전자통신연구원 서울사무소에서 열린 AI안전연구소와 오픈AI의 '고위험 분야 AI 안전 협력 강화를 위한 업무협약식'에서 이상현 오픈AI 아시아태평양 지역 정책 총괄(왼쪽)과 김명주 AI안전연구소 소장이 기념 촬영하고 있다. /인공지능안전연구소

[더팩트｜우지수 기자] 정부가 글로벌 인공지능(AI) 기업 오픈AI와 손잡고 고위험 AI 기술에 대한 안전성 검증 체계를 구축한다. 한국어 환경과 사회적 맥락에 최적화된 맞춤형 평가 모델을 공동으로 개발해 선제적인 기술 안전망을 확보한다는 방침이다.

17일 과학기술정보통신부는 인공지능안전연구소가 오픈AI와 고위험 AI 분야 안전 협력 강화를 위한 업무협약을 맺었다고 밝혔다. 서울 한국전자통신연구원(ETRI)에서 체결된 이번 협약은 지난해 과기정통부와 오픈AI가 체결한 파트너십을 안전 분야로 확대한 결과다. 오픈AI가 각국 안전연구소와 공식 공조에 나선 것은 미국과 영국 및 일본에 이어 세계에서 네 번째다.

양측의 핵심 목표는 한국의 사회적 배경과 한국어 특성을 제대로 반영한 평가 기준을 공동으로 수립하는 것이다. 이를 위해 두 기관은 안전 벤치마크 모델과 모범 사례 등 다양한 기술 정보를 적극적으로 교환하며 국제적으로 통용될 수 있는 검증 체계를 다듬어 나갈 계획이다.

이진수 과기정통부 인공지능정책기획관은 "고성능 AI나 자율형 에이전트 AI 등 최첨단 AI 모델의 안전성 확보를 위해 글로벌 선도기업과 협력을 강화하고 평가 체계를 고도화할 시점"이라며 "양 기관이 급변하는 글로벌 기술과 이용 환경에 대응해 최첨단 AI 안전 확보에 적극적으로 협력하길 기대한다"고 말했다.

김명주 인공지능안전연구소장은 "AI가 국가 핵심 인프라와 안보에 미치는 영향이 커질수록 고위험 분야에 대한 엄밀한 평가는 선택이 아닌 필수"라며 "오픈AI와 함께 기술의 위험을 과학적으로 검증하고 국제적으로 통용되는 체계를 만드는 데 기여하겠다"고 강조했다.

이상현 오픈AI 아시아태평양 지역 정책 총괄은 "한국은 기술 활용과 혁신이 빠르게 이뤄지는 중요한 나라이며 연구소 역시 책임 있는 발전을 위한 국제 논의에 중요한 역할을 하고 있다"며 "협력을 통해 지식과 모범 사례를 공유하고 신뢰할 수 있는 개발과 안전한 이용 환경 조성에 기여하게 돼 뜻깊다"고 말했다.

index@tf.co.kr

발로 뛰는 <더팩트>는 24시간 여러분의 제보를 기다립니다.

· 카카오톡: '더팩트제보' 검색

· 이메일: jebo@tf.co.kr

· 뉴스 홈페이지: https://talk.tf.co.kr/bbs/report/write

· 네이버 메인 더팩트 구독하고 [특종보자→]

· 그곳이 알고싶냐? [영상보기→]