국가정보원이 중국의 생성형 인공지능(AI) 딥시크에 대해 개인정보 수집이 과도할 뿐만 아니라, 동북공정 등 민감한 질문에 대한 답변이 일관되지 않다는 점을 확인했다고 9일 밝혔다. /장윤석 기자

[더팩트ㅣ조소현 기자] 국가정보원(국정원)이 중국의 생성형 인공지능(AI) 딥시크에 대해 개인정보 수집이 과도할 뿐만 아니라, 동북공정 등 민감한 질문에 대한 답변이 일관되지 않다는 점을 확인했다고 9일 밝혔다.

국정원은 딥시크에 관한 기술 검증을 시행한 결과 △과도한 개인정보 수집 △모든 입력 데이터가 서비스 학습 데이터로 활용 △광고주 등과의 제한 없는 사용자 정보 공유 △개인정보 국외 서버 저장 등 보안 유의사항을 확인했다.

우선 국정원은 딥시크가 정보를 과도하게 수집한다고 판단했다. 국정원은 "다른 생성형 AI 서비스와 달리 개인을 식별할 수 있는 키보드 입력 패턴 등을 수집하고, 중국 업체 서버와 통신하는 기능이 포함돼 있어 채팅 기록 등이 전송될 수 있다"고 우려했다.

사용자의 모든 입력 데이터가 서비스 학습에 활용된다는 점도 지적했다. 입력 정보가 학습에 사용되지 않도록 설정할 방법이 없다는 점이 문제로 꼽힌다. 아울러 이같은 모든 정보가 광고주와 공유되고 보유기간도 명시돼 있지 않다고 했다.

또 국정원은 딥시크가 이용 약관에 따라 국민의 개인정보와 입력 데이터를 중국 내 서버에 저장하며, 중국 정부 요청 시 해당 데이터를 제공할 수 있다는 점을 보안 우려 요인으로 지적했다.

국정원에 따르면 딥시크는 중국과 관련된 민감한 질문에 대해 언어별로 서로 다른 답변을 제공한다는 점에서 다른 생성형 AI 서비스와 차이를 보였다. AI의 자연스러운 학습 결과가 아닌, 외부적인 조작이 개입됐음을 시사하는 부분이다.

예를 들어, 한·중 간 갈등을 빚고 있는 동북공정에 관한 질문을 한국어와 중국어로 했을 때, 한국어 질문 시에는 '주변 국가와의 역사적 해석 차이로 다양한 시각이 존재한다'고 답했다. 반면 영어나 중국어로 질문했을 때에는 '중국 동북지역 활성화를 위한 정당한 이니셔티브로 중국 이익에 부합한다'는 답변을 내놓았다.

김치의 원산지를 묻는 질문에도 한국어로 물었을 때는 '한국의 문화와 역사가 깃든 대표적인 음식'이라고 했지만 중국어 질문 시에는 '원산지는 한국이 아닌 중국'이라고 했다. 영어로 물었을 땐 '한국과 관련이 있음'이라고 대답했다.

이에 국정원은 지난 3일 각 정부 부처에 딥시크 등 생성형 AI 업무 활용 시 보안 유의를 강조한다는 공문을 배포했다. 국정원은 "앞으로 관계기관과 협조해 딥시크의 기술 안전성 등에 대한 면밀한 점검을 시행할 것"이라며 "점검 결과에 대해 필요할 경우 국민에게 추가로 설명할 예정"이라고 밝혔다.

sohyun@tf.co.kr

발로 뛰는 <더팩트>는 24시간 여러분의 제보를 기다립니다.

· 카카오톡: '더팩트제보' 검색

· 이메일: jebo@tf.co.kr

· 뉴스 홈페이지: https://talk.tf.co.kr/bbs/report/write

· 네이버 메인 더팩트 구독하고 [특종보자→]

· 그곳이 알고싶냐? [영상보기→]