김명주 AI 안전연구소장이 17일 중국 인공지능(AI) 모델 '딥시크(DeepSeek)'가 대량살상무기(WMD) 제작과 사이버 공격 방법에 대한 지식을 상당량 포함하고 있다고 경고했다.

김 소장은 이날 한국과학기술단체총연합회, 한국과학기술한림원, 국민생활과학자문단이 온라인으로 개최한 ‘딥시크 파장과 미래 전망’ 긴급 공동 포럼에서 이 같은 내용을 발표했다.

그는 “지난달 말 딥시크가 전 세계적으로 논란이 된 이후 AI 모델의 위험성을 연구했다”며 “그 과정에서 생물학·화학 등 대량살상무기 개발과 관련된 정보가 다수 포함된 것을 확인했다”고 밝혔다.

또한, 중국 정부가 국가 안보를 이유로 자국 내 기업 정보를 무제한적으로 접근할 수 있으며, 이를 통해 사용자 개인 정보를 수집하고 분석하는 ‘프로파일링’을 할 가능성이 크다고 지적했다. 그는 “이 같은 방식으로 정치적 검열이나 ‘당성 검사’까지 진행할 수 있다”고 덧붙였다.

김 소장은 딥시크의 보안 취약점 문제도 언급했다. 그는 “오픈소스 소프트웨어가 가진 대표적인 보안 위협 중 하나는 ‘히든 코드’”라며 “히든 코드는 평소에는 드러나지 않다가 특정 조건에서 활성화되는 코드로, 오픈소스 AI 모델이 이런 취약점을 내포하고 있을 가능성이 있다”고 경고했다. 이어 “히든 코드가 존재할 경우 이후 수정되는 모든 시스템에 백도어(backdoor·불법적 접근 통로)가 생길 수도 있다”고 설명했다.

딥시크는 최근 키보드 입력 패턴을 수집하는 기능을 변경한 것으로 알려졌다. 김 소장은 “이탈리아 등 일부 국가에서 딥시크 사용을 금지하자, 중국 측이 개인정보 보호 정책을 수정하며 현지 법을 따르겠다는 입장으로 선회했다”고 전했다.

한편, 김 소장은 도널드 트럼프 전 미국 대통령이 재집권할 경우 AI 규제를 완화할 것이라는 전망에 대해 회의적인 입장을 밝혔다. 그는 “트럼프 행정부에서 AI 안전을 우려하는 제이컵 헬버그 국무부 차관보와 같은 인물들이 요직을 차지하고 있다”며 “취임 후 몇 달간의 허니문 기간이 지나면 AI 안전 문제에 대한 논의가 본격적으로 이뤄질 것”이라고 예상했다.

이상근 고려대 정보보호대학원 교수는 AI 모델의 보안 취약성을 지적하며, 딥시크가 주요 AI 모델 중 ‘탈옥(Jailbreak)’ 성공률 1위를 기록했다고 밝혔다. 탈옥이란 AI 모델이 기본적으로 설정된 가이드라인을 우회해, 개발사가 의도하지 않은 작업을 수행할 수 있는지를 테스트하는 방식이다.

시스코 보고서에 따르면, 딥시크의 탈옥 성공률은 100%에 달했다. 메타의 ‘라마3.1’은 96%, 오픈AI의 ‘GPT-4o’는 86%로 뒤를 이었다. 이 교수는 “국가별 AI 역량을 평가할 때 단순히 LLM(대형 언어 모델)의 개수만으로 판단하는 것이 적절한지 고민해야 한다”고 제언했다. 그는 “예를 들어, 팔란티어(Palantir)는 자체 LLM을 보유하지 않고도 세계적으로 가장 유망한 AI 기업으로 평가받고 있다”며 “기술력의 본질을 다시 생각해봐야 할 시점”이라고 말했다.

딥시크의 보안 문제와 AI 모델의 윤리적 사용에 대한 논란이 지속되는 가운데, 글로벌 AI 규제 및 보안 대책 마련이 시급하다는 목소리가 커지고 있다.

내일의 세상을 바꾼다 <오픈타임즈>는 24시간 여러분의 제보를 기다립니다.
▶카카오톡: '오픈타임즈' 검색
▶이메일: opentimenews@gmail.com
▶뉴스 제보: https://www.opentimes.kr