Chinese startup DeepSeek's chatbot, R1, initially celebrated for its potential to challenge U.S. dominance in artificial intelligence (AI), has faced a rapid decline in its reputation. Launched in January, it was likened to the Soviet Union's Sputnik 1 for its impact on global tech rivalry. However, it has quickly become viewed as a security threat, leading to bans from several countries.
Countries including South Korea, Australia, Japan, Taiwan, and Italy have prohibited the installation of DeepSeek's app due to concerns about security risks. The U.S. government has also blocked access to the app, with Congress introducing a bill to restrict its use on federal devices.
On Monday, South Korea suspended new downloads of DeepSeek's app after concluding that the company shared personal data of Korean users with a Chinese tech firm without proper consent. South Korean law mandates that businesses obtain explicit approval from customers before collecting their personal data, which DeepSeek reportedly failed to do.
Experts suggest that the rapid abandonment of DeepSeek may hinder China's ambitions in AI, with concerns raised about the app's extensive data collection practices. Unlike other chatbots, DeepSeek collects a broader range of user information, tracking interactions, device activities, and unique typing behaviors, which could reveal sensitive personal details.
Furthermore, China's legal framework allows the government access to sensitive data, raising alarms about potential misuse of this information for national security purposes. Reports indicate that DeepSeek's web code may transmit user data to state-owned entities with military links in China.
Analysts warn that the theft of personal data could lead to cyber espionage and influence operations, particularly targeting individuals with access to sensitive information. The implications of such data breaches could be significant, especially if shared with North Korea.
Experts critique China's strategy to enhance big data capabilities, asserting that it faces challenges in gathering information from foreigners due to strict censorship policies. To counter this, they suggest that Chinese firms like DeepSeek are increasingly used to collect data on foreign nationals.
In response to South Korea's ban, a spokesperson for China's foreign ministry emphasized compliance with local laws by Chinese companies and urged against politicizing technology-related issues.
중국 스타트업 DeepSeek의 이야기는 짧은 기간 동안 주목받았다. 1월에 새로운 챗봇 R1의 혁신적인 데뷔는 미국의 인공지능(AI) 지배를 뒤흔들 수 있는 역사적인 순간으로 평가되었고, 미국과 중국 간의 AI supremacy를 위한 치열한 경쟁을 촉발할 수 있을 것이라는 기대를 모았다. 이는 1957년 소련의 스푸트니크 1호 발사가 냉전 우주 경쟁을 촉발한 것과 비교되었다.
그러나 몇 주 후, 한때 찬사를 받았던 이 오픈소스 챗봇은 배척당하며 잠재적인 스파이 앱으로 간주되고 있다.
DeepSeek 기술과 관련하여 보안 위험이 드러나면서, 여러 국가들이 DeepSeek 설치를 금지하고 있다. 이들 국가에는 한국, 호주, 일본, 대만, 이탈리아가 포함된다. 미국 연방 정부 및 주 정부는 보안 우려로 DeepSeek에 대한 접근을 차단했으며, 미국 의회는 2월 11일 DeepSeek를 연방 정부 기관에서 금지하는 초당적 법안을 발의했다.
한국은 이번 주 월요일, 정부 부처와 공공 부문, 기업들이 직원들에게 DeepSeek 제품 및 애플리케이션 설치를 prohibited하기로 결정한 후, DeepSeek 앱의 새로운 다운로드를 중단했다. 한국의 개인정보 보호 위원회에 따르면 DeepSeek은 한국 사용자의 개인 데이터를 중국 기술 기업 ByteDance와 사전 동의 없이 공유했다. 한국 개인정보 보호법에 따르면 기업은 개인 데이터를 수집하기 위해 고객의 명시적 동의를 얻고 그 이용 목적과 방법을 알려야 한다. DeepSeek은 이러한 법적 요건을 충족하지 않았으며, ByteDance에 공유된 특정 데이터나 양에 대한 정보는 불명확하다.
Global ICT Lab의 창립자이자 최고 연구 책임자인 권호천은 “DeepSeek의 새로운 챗봇은 아마도 중국의 AI 꿈으로 남을 것이며, 보안 우려로 인해 그 서비스는 결국 중국에서만 이용 가능해질 것”이라고 말했다. 그는 여러 국가가 이 중국 앱을 금지하는 이유 중 하나로 감시 위험을 언급했다.
권은 또한 중국이 세계 강대국이 되기 위한 더 넓은 노력의 일환으로 AI 기술을 무기화하려는 전략을 쫓는 것으로 보이며, 이는 1990년대 이후 악성 인터넷 사용의 증가와 유사하다고 제안했다.
“인터넷이 전 세계적으로 널리 사용되기 시작했을 때, 러시아, 중국, 그리고 후에 북한과 같은 국가들은 이를 사이버 공간에서 적을 방해할 새로운 무기를 개발하는 기회로 보았다”고 그는 말했다. “이들은 이를 성공적으로 수행했으며 이후로도 목표 국가를 겨냥한 사이버 공격을 활발히 시작했다. 이제 AI의 발전에 따라 이러한 국가들은 이 기술을 새로운 무기를 개발할 또 다른 도구로 보고 있는 것 같다. 이번에는 AI 덕분에 작업이 훨씬 더 쉬워졌다.”
DeepSeek은 다른 챗봇들과 마찬가지로 사용자로부터 이름, 생년월일, 이메일 및 IP 주소와 같은 개인 데이터를 자동으로 수집한다. 또한 사용자가 입력한 단어와 구문, 챗봇을 통해 공유된 소리, 사진 및 파일도 수집한다.
그러나 다른 챗봇들과 비교할 때 DeepSeek의 데이터 수집 범위는 훨씬 넓다. 이 중국 기술 회사는 앱이 사용자와의 상호작용 방법과 거의 모든 기기, 네트워크 및 개인 활동의 측면을 추적할 수 있도록 허용하고 있다. 사용자 고유의 입력 행동도 기록된다. 전문가들은 입력 패턴이 누군가가 치매를 앓고 있을 가능성 같은 민감한 정보를 드러낼 수 있다고 지적한다. 이러한 개인 데이터는 실시간으로 DeepSeek의 서버에 전달된다.
DeepSeek의 과도한 데이터 수집과 이 정보의 잠재적 악용을 넘어 중국의 의심스러운 개인정보 보호 관행에 대한 우려가 커지고 있다. 중국 법률은 국가 안보를 위해 필요하다고 판단되는 경우 외국 사용자의 민감한 개인 데이터에 대한 접근을 정부에 허용한다. 중국 기업은 데이터 요청 시 정부에 이러한 데이터를 제공해야 한다.
Associated Press에 따르면 DeepSeek의 웹사이트에는 특정 사용자 로그인 정보를 중국 국영 이동 통신업체인 China Mobile로 전송할 수 있는 컴퓨터 코드가 포함되어 있으며, 이 업체는 중국 군과 밀접한 관계를 유지하고 있다고 한다.
중국의 약한 개인정보 보호 정책은 심각한 우려를 낳고 있다. 만약 중국 정부나 군이 국외의 외국 국민에 대한 민감한 정보에 접근한다면 어떤 일이 발생할까? 중국 정부가 이 훔친 데이터를 자신의 이익을 위해 악용할 경우 어떤 위험이 초래될 수 있을까?
대규모의 개인 데이터가 유출될 경우, 사이버 스파이, 기술 절도 및 지적 재산권 침해와 같은 여러 문제가 발생할 수 있다. 사이버 전쟁은 현대 갈등의 중요한 요소가 되었으며, 전통적인 물리적 전쟁과 달리 평화 시에도 매일 사이버 공간에서 발생하고 있다. 중국, 러시아, 북한과 같은 사이버 공격을 통해 외교 정책 목표를 달성하려는 국가들이 가능한 한 많은 데이터 도용을 시도하는 것은 놀라운 일이 아니다.
“만약 적들이 어떤 정보를 필요로 하는지 안다면, 그들이 이 정보를 가지고 무엇을 할 계획인지에 대한 통찰력을 얻을 수 있다”고 퇴역 해군 대령이며 경희대 교수인 박범진은 말했다. 그는 중국이 군사 정보에 접근할 수 있는 개인들, 즉 군 고위 지도자나 주요 정책 결정자들의 데이터를 훔치는 것에 특히 관심이 있을 것이라고 강조했다.
중국이 이러한 데이터를 성공적으로 획득할 경우, 그 결과는 심각할 수 있다.
“거대한 데이터는 전문가들이 특정 국가나 그룹에 대한 다각적인 정보 분석을 수행할 수 있게 해주는 중요한 자산이다”라고 군사 정보 장교로 복무했던 박 교수는 말했다.
그는 중국이 이 민감한 정보를 북한과 공유할 경우 한국이 직접적인 보안 위험에 처할 것이라고 경고했다.
“중국 기술 회사가 한국인의 개인 데이터를 수집할 때, 중국 정부는 그 정보에 접근할 수 있다. 진짜 문제는 중국이 그 데이터를 북한과 공유할 경우 발생한다”고 그는 말했다.
개인정보 보호 위원회 부위원장인 차종혁은 월요일 정부 종합 청사에서 한국이 중국 스타트업 DeepSeek의 챗봇 앱에 대한 새로운 다운로드를 금지하기로 한 결정에 대해 브리핑을 하고 있다.
전문가들에 따르면 중국이 한국인 및 다른 외국 국가의 시민들로부터 방대한 개인 데이터를 수집하려는 노력은 자국의 빅데이터 분석 능력을 강화하기 위한 전략의 일환이다.
2020년 9월 미국 정책 싱크탱크 RAND Corporation이 발표한 '중국의 빅데이터 분석에 대한 관점'이라는 보고서에 따르면, 중국은 군사, 내국 및 기타 주요 국가 이익과 관련된 목적을 위해 방대한 데이터 세트를 처리하는 데 컴퓨터를 사용해 온 것으로 나타났다. “중국 군 관계자들은 빅데이터 분석의 숙달이 중국이 대국 간의 미래 군사 충돌에서 더 나은 위치를 차지하게 할 것이라고 믿고 있었다”고 이 보고서는 밝혔다.
중국은 지속적으로 자국민에 대한 데이터를 수집하여 그들을 통제하고, 국가 내 민족적 소수자를 감시해 왔다. 이 노력은 시진핑 중국 국가주석이 중국의 세계 강국 전략의 일환으로 빅데이터 분석의 중요성을 강조한 이후 더욱 강화되었다.
그러나 중국은 자국 경계를 넘어 데이터를 수집하는 데 있어 심각한 도전에 직면해 있음을 보여준다. 이는 주로 중국의 엄격한 검열 정책 때문이다.
“구글은 중국에 진출해 있지만, 그 서비스는 널리 사용되지 않는다. 페이스북 및 기타 외국 소셜 미디어 플랫폼은 차단되어 있다”고 경희대 중국학 교수인 추재우는 설명하며, 중국은 이제 검열 제한으로 인해 직면한 결과에 대해 고심하고 있다고 덧붙였다.
“중국이 해외에서 사람들로부터 방대한 양의 데이터를 수집할 방법은 없다. 문제는 빅데이터가 인공지능 시대에 매우 중요하다는 것이다. 이러한 도전에 직면하여, 중국 정부는 DeepSeek 및 기타 중국 기술 회사를 통해 외국 국민에 대한 데이터를 수집하려고 하고 있다”고 그는 말했다.
추 교수는 도난당한 데이터가 중국의 해외 영향력 작전에도 사용될 수 있다고 주장했다. “사람들의 이메일 주소 및 기타 로그인 정보에 접근할 수 있다면, 그들의 정체성과 어떻게 접근할지를 배우는 것이 쉬워진다. 알고리즘을 통해 추적된 그들이 온라인에서 검색한 정보는 그들에 대해 많은 것을 드러낸다”고 그는 설명했다.
한국의 DeepSeek 앱에 대한 다운로드 금지에 대한 중국의 반응은 신속했다.
중국 외교부 대변인 구오쟈쿤은 월요일 정례 브리핑 중 중국 정부가 해외에서 운영되는 중국 기업들이 현지 법률 및 규정을 준수할 것을 권장한다고 말했다.
“또한 관련 국가들이 경제, 무역 및 기술 문제를 일반화하거나 정치화하지 않기를 바란다”고 덧붙였다.