카카오, AI 에이전트 윤리 기준 마련…위험 관리 체계 구축

지난 2일 카카오 AI·기술윤리소위원회 외부 자문단이 AI 윤리 원칙 및 이행 가이드 수립을 기념해 촬영하고 있다. (왼쪽부터) 김경훈 카카오 AI 세이프티 리더, 하진화 카카오 AI 커뮤니케이션 수석, 정병수 유니세프 L&D센터장, 이상욱 한양대 철학과 교수, 김세웅 카카오 부사장, 김명주 AI안전연구소 소장, 이원태 국민대 특임교수, 유재연 한양대 사회혁신융합전공 겸임교수, 변순용 서울교대 윤리교육과 교수, 이민석 국민대 소프트웨어융합대학 교수. /카카오

[더팩트ㅣ이윤경 기자] 카카오가 자율적으로 계획하고 행동하는 인공지능(AI) 에이전트의 위험을 관리하기 위한 윤리 기준을 마련했다.

카카오는 지난 13일 개발자 컨퍼런스 '이프카카오(if(kakao)26)'에서 AI 윤리 원칙 'SPIRIT'과 실행 체계 'NORMA', 윤리 이행 체크리스트를 공개했다고 15일 밝혔다.

SPIRIT은 △안전 △프라이버시 △포용 △책임 △이용자 주체성 △투명성과 신뢰성 등 6개 원칙으로 구성됐다. 실행 체계인 NORMA는 조직 차원의 책임을 바탕으로 윤리 원칙을 실제 서비스에 적용하고 관련 위험을 관리하기 위한 방식이다.

카카오는 자율 에이전트의 위험을 △통제 주도권 △목표 △권한 △참조 자원 △상호작용 등 5개 영역으로 나눠 관리한다. 인간의 감독과 비상 제어, 권한 통제, 데이터 보호 등 영역별 통제 방안도 마련했다.

이를 바탕으로 만들어진 윤리 이행 체크리스트는 서비스 특성 파악, 사전 위험 검토, 통제 항목 점검·판정 등 3단계로 구성되며 연내 적용할 예정이다. 경제협력개발기구(OECD)와 유니세프의 아동 온라인 위험 분류 체계인 '5Cs'를 참고해 AI 특유의 아동 위험 점검 요소를 체크리스트에 추가할 계획이다.

이번 가이드라인은 지난 7월 발족한 AI&기술윤리소위원회 외부 자문단 7명과 함께 이달 초 마련했다. 자문단이 국내외 규범과의 정합성을 검토했으며, 카카오는 실무 관점에서 내용을 점검했다.

카카오 김세웅 AI&기술윤리소위원회 위원장은 "AI의 자율성이 커지는 만큼 사람의 판단과 책임을 분명히 하고, 이용자가 안심하고 사용할 수 있는 AI 서비스를 만들어 가겠다"고 강조했다.

한편 카카오는 최근 인공지능안전연구소와 'AI 안전성 공동 평가 및 평가 체계 구축을 위한 전략적 업무협약(MOU)'을 체결하는 등 AI 안전성 확보를 위한 협력도 추진하고 있다.

bsom1@tf.co.kr

발로 뛰는 <더팩트>는 24시간 여러분의 제보를 기다립니다.

· 카카오톡: '더팩트제보' 검색

· 이메일: jebo@tf.co.kr

· 뉴스 홈페이지: https://talk.tf.co.kr/bbs/report/write

· 네이버 메인 더팩트 구독하고 [특종보자→]

· 그곳이 알고싶냐? [영상보기→]