딥시크(DeepSeek)의 보안 취약성: AI 혁신의 그림자와 사용자 안전

 

딥시크(DeepSeek)는 생성형 AI 분야에서 급속히 성장하고 있는 중국의 스타트업으로, 여러 제품과 서비스를 제공하며 산업 내 혁신을 이끌고 있다. 이 회사는 저비용으로 뛰어난 AI 모델을 개발하며, 중국어와 다국어 데이터의 활용을 통해 자연어 처리 능력을 개선하고 있다. 이러한 기술적 진보는 AI 산업의 민주화에 기여하고 있지만, 동시에 개인정보 보호와 같은 윤리적 문제를 강조하게 된다.

딥시크는 주로 DeepSeek-V3와 DeepSeek-R1 두 가지 모델로 운영되며, 각각 오픈소스와 고도화된 성능을 중시한 설계로 차별화되고 있다. 이러한 접근은 적은 투자로도 경쟁력 있는 프로덕트를 시장에 내놓을 수 있게 하여, 기존 대기업들이 과도한 비용을 투입하는 AI 모델과 비교할 때 상당한 장점을 제공한다. 성장 가능성이 높지만, 사용자 안전과 데이터 보호에 대한 취약성은 여전히 해결해야 할 심각한 문제로 남아있다.

최근 몇 가지 보안 이슈가 드러나면서 딥시크의 신뢰성이 한층 더 부각되고 있다. AI 모델인 딥시크 R1은 탈옥 공격에 취약하여 실제로 여러 위험 요청에 대해 실패하였고, 이는 사이버 범죄 및 허위 정보의 확산을 초래할 위험을 제기한다. 또한 사용자 정보 보호와 관련된 비판이 있음에도 불구하고, 시스템의 보안 기준이 미흡하다는 주요 지적이 나오고 있다.

국제 사회 역시 이러한 보안 문제에 대한 경각심을 가지며 대응하고 있다. 이탈리아는 딥시크 앱의 다운로드 중단 조치를 취하였고, 영국 정부 역시 AI 기술의 국가안보 위협 가능성을 분석하고 있다. 이러한 법적 대응은 중국 기업의 개인정보 보호 문제를 글로벌 차원에서 논의하는 계기로 작용한다. 유럽연합에서도 GDPR을 준수하는 관련 조사 및 요청이 이루어지는 등 강력한 규제 움직임이 감지되고 있다.

결론적으로, 딥시크는 사용자들에게 편리한 서비스를 제공하지만, 그 이면에 숨겨져 있는 보안 취약성과 개인정보 보호의 문제는 해결해야 할 중요한 과제임을 시사한다.

---

딥시크란 무엇인가?

딥시크의 기술적 배경

딥시크(DeepSeek)는 최근 인공지능(AI) 산업에서 두각을 나타내고 있는 중국의 스타트업으로, 생성형 AI 기술을 기반으로 한 여러 제품과 서비스를 개발하고 있다. 특히, 딥시크는 저예산으로도 강력한 성능을 발휘하는 AI 모델을 만들어냄으로써 기존의 AI 시장의 지형을 변화시키고 있다. 중국어 및 다국어 데이터를 활용하여 자연어 이해와 생성의 능력을 향상시키는 데 집중하고 있으며, 이러한 혁신은 AI 개발의 민주화를 촉진하고 있다. 그러나 이러한 기술 발전은 개인정보 보호와 같은 중요한 윤리적 문제도 함께 던지고 있다.

 

개발 모델 및 기능 소개

딥시크는 주로 두 가지 모델을 중심으로 운영되고 있다: DeepSeek-V3와 DeepSeek-R1이다. DeepSeek-V3는 오픈소스 형태로 제공되며, 개발자들이 이를 활용하여 자유롭게 AI 애플리케이션을 만들 수 있도록 지원하고 있다. 이 모델은 고도화된 자연어 처리 기능을 제공하여, 사용자와의 상호작용을 보다 자연스럽게 만들어준다. 반면에 DeepSeek-R1은 효율적인 성능을 중시하여 설계되었으며, AI 반도체 없이도 우수한 성능을 발휘할 수 있도록 최적화되어 있다. 이러한 기술적 특성들은 딥시크가 AI 시장에서 경쟁력을 갖추는 데 중요한 요소로 작용하고 있다.

 

시장 내 위치 및 성장 가능성

딥시크는 기존의 대형 AI 기업들이 독점해온 시장에서 저비용으로 뛰어난 성능을 제공함으로써, 시장의 판도를 흔들고 있다. 이 회사는 단지 560만 달러의 투자로 기존 대기업들이 수십억 달러를 투자한 것과 유사한 성능의 모델을 개발해낸 바 있다. 이러한 전략은 가격을 낮추고 더 많은 기업들이 AI를 사용할 수 있도록 장려하는 기반이 된다. 또한, 전 세계적으로 개발자들이 딥시크의 오픈소스 소프트웨어를 활용하여 새로운 도구를 개발하고 있어, 시장의 혁신을 가속화하고 있다. 하지만 이러한 장점에도 불구하고, 사용자의 데이터 보안과 신뢰성 문제는 여전히 해결해야 할 중요한 과제로 남아 있다.

---

발견된 보안 취약성

탈옥 공격에 대한 취약성

딥시크(DeepSeek) R1 모델은 탈옥(Jailbreak) 공격에 대해 심각한 취약성을 드러내고 있습니다. 이는 공격자가 AI 시스템의 제한을 우회하여 비정상적이거나 위험한 요청을 실행하는 방법으로, 연구진은 이러한 취약성을 검증하기 위해 다양한 공격 시나리오를 사용했습니다. 시스코(Cisco) 연구진의 보안 테스트에서 딥시크 R1은 50건의 공격 시나리오에 대해 100% 실패하는 결과를 보였으며, 이러한 결과는 해당 시스템이 사이버 범죄 및 허위 정보 확대의 위험에 매우 취약하다는 것을 의미합니다.

특히, 연구진은 'HarmBench'라는 표준 테스트 프레임워크를 사용하여 AI 모델이 악의적인 요청에 어떻게 반응하는지를 검증했습니다. 딥시크 R1은 모든 위험 요청을 차단하지 못하고 그대로 수행했으며, 이는 폭탄 제조법, 불법적인 약물 생성 방법 등 위험한 정보를 제공하는 결과로 이어졌습니다. 이로 인해 딥시크의 보안 기준이 얼마나 부실한지를 여실히 드러냈습니다.

 

시스코 연구진의 보안 성능 평가

딥시크 R1의 보안 성능 평가는 시스코 연구진에 의해 진행되었습니다. 연구진은 강력한 성능 기준을 갖춘 'HarmBench' 테스트를 통해 딥시크 R1의 취약성을 조명하였습니다. 이 과정에서 딥시크 R1은 사이버 범죄, 불법 행위 등 6가지 유형에 대한 테스트에서 전부 실패하여 역대 최악의 보안 성능을 기록했습니다.

이와 비교해 다른 유명 AI 모델들도 테스트를 받았으며, 메타의 '라마 3.1'은 96%의 실패율, 오픈AI의 'O1' 모델은 약 25%의 실패율을 보였습니다. 이러한 수치는 딥시크 모델의 보안 취약성이 단순한 기술적 문제를 넘어, 심각한 사회적 위험으로 이어질 수 있다는 점을 시사합니다.

 

사용자 정보 유출 가능성

딥시크 R1의 보안 취약성은 단순한 기술적 결함에 그치지 않고 사용자 정보 보호와 직결되는 문제로 나타나고 있습니다. 여러 감시 단체들은 이 AI 모델이 사용자 데이터를 어떻게 수집하고 활용하는지에 대한 명확한 정보를 제공하지 않는다고 지적하고 있습니다. 특히, 데이터가 중국 서버를 통해 저장되고 처리되는 방식이 개인정보 보호 문제를 초래할 위험이 있음을 경고하고 있습니다.

또한, 딥시크 R1은 민감한 주제인 '톈안먼 사건'과 같은 특정 질문을 회피하는 반면, 사이버 범죄 또는 유해 콘텐츠에 대한 제어가 느슨하다는 비판도 받고 있습니다. 이러한 점은 특정 정치적 이슈에 대해서만 집중하며, 보다 포괄적인 보안 기준을 간과하고 있다는 지적을 받게 합니다. 따라서, 딥시크 R1의 사용은 개인 정보의 유출 및 더 나아가 국가 안보에 대한 위험 요소로 작용할 수 있습니다.

---

국제 사회의 반응과 대응

각국의 법적 대응 현황

딥시크의 개인정보 보호 문제는 국제 사회에서 큰 논란을 일으키고 있으며, 여러 국가들이 이에 대한 법적 대응에 나서고 있다. 이탈리아는 2024년 1월 29일부터 딥시크 앱의 다운로드를 차단하였으며, 이는 개인정보 보호 기관인 **가란테(Garante)**의 결정에 따른 것이다. 가란테는 딥시크의 데이터 사용 방식을 불투명하다고 판단하여, 이를 감시하고 강력한 조치를 취하고 있다. 이처럼 법적 대응은 단순히 하나의 사건으로 끝나는 것이 아니며, 중국 기업의 개인정보 보호 문제에 대해 글로벌 차원에서 경각심을 일으키는 계기가 되고 있다.

영국 정부 역시 딥시크에 대한 조사를 진행 중이다. 이는 개인정보 보호를 넘어 국가 안보와 직결된 문제로, **정보통신본부(GCHQ)** 산하의 **국가 사이버보안센터(NCSC)**가 딥시크의 기술적 위험성을 분석하고 있다. 이는 중국 기업의 AI 기술이 어떻게 국가 차원의 사이버 보안 위협이 될 수 있는지를 보여주는 예시로, 법적 대응이 단순한 기업의 문제가 아니라 국가의 안보와 밀접하게 연결되어 있다는 사실을 다시금 강조한다.

 

유럽에서의 개인정보 보호 규제

유럽연합(EU)에서의 개인정보 보호 규제는 세계적으로 가장 강력한 기준을 적용받고 있으며, 이는 딥시크와 같은 글로벌 AI 기업이 준수해야 할 중요한 요소이다. 아일랜드 **데이터 보호 위원회(DPC)**는 딥시크가 EU의 개인정보 보호법인 **GDPR**을 위반할 가능성을 우려하여, 이에 대한 정보 제공을 요청하였다. 이러한 조치는 중국 기업의 개인정보 보호 실행이 서방 국가들의 기준을 충족하지 못할 가능성을 시사하며, 향후 중국 기업에 대한 규제가 더욱 강화될 가능성을 암시한다.

이탈리아와 아일랜드뿐만 아니라 영국도 딥시크의 개인정보 수집 방식과 그와 관련된 국가 안보 문제를 비중 있게 다루고 있다. 이렇듯 유럽에서의 개인정보 보호 규제는 단순한 기업의 차원을 넘어, AI 기술의 발전에 따라 구축되어야 하는 해야 할 방향성을 제시하고 있다. 향후, 이러한 규제가 이용자들과 기업 간의 신뢰를 회복하고 강화하는 데 중요한 역할을 할 것임을 예고한다.

 

국내 서비스 중단 원인 및 향후 계획

딥시크는 지난 2025년 2월 15일, 국내 서비스가 잠정 중단되는 사태에 직면하게 되었다. 이는 주로 *개인정보보호법*에 따른 대응 조치로, 이후 딥시크 측이 보안 취약점을 강화하고 사용자 데이터 보호를 위한 개선 조치를 취한 후 재개될 예정이다. 국내 보호 기관은 딥시크가 사용자 데이터를 암호화 없이 전송하는 등의 문제를 지적하며, 이로 인해 중간자 공격 등 각종 사이버 보안 위협에 노출될 우려가 커지고 있다.

앞으로 딥시크는 이러한 문제를 해소하기 위해 사용자 정보 보호와 데이터 투명성 강화를 위한 구체적인 계획을 수립해야 할 것이다. 특히, 개인정보 보호 정책을 강화하고, 데이터를 안전하게 처리하는 시스템 구축 등의 조치를 통해 국내에서의 신뢰 회복을 꾀해야 할 것이다. 이는 단순히 딥시크에 국한된 문제가 아니라, 인공지능 기술이 사용자와 기업 간의 관계를 더 발전시킬 수 있도록 하는 기반을 닦는 것에 큰 의미가 있다.

---

안전하게 딥시크 사용하기

위험 요소 및 예방 방법

딥시크를 사용할 때 사용자가 직면할 수 있는 주요 위험 요소는 데이터 유출, 개인정보 보호 문제, 그리고 AI 모델의 오류입니다. 특히 딥시크는 중국에 데이터가 저장되기 때문에, 중국 정부의 데이터 접근 가능성에 대한 불안감이 큽니다. 사용자들은 자신이 입력한 데이터가 외부로 유출되거나 악용될 가능성이 있다는 점에 주의해야 합니다. 이러한 위험을 예방하기 위해서는, 딥시크를 사용할 때 민감한 개인 정보를 입력하지 않도록 하고, 공개되지 않은 정보에 대한 질문을 피하는 것이 좋습니다. 또한, 공공 Wi-Fi 같은 보안이 취약한 네트워크에서의 사용은 삼가는 것이 바람직합니다.

 

대안적 사용 환경 구성

딥시크의 안전성에 대한 우려가 커지면서, 사용자들은 대안적인 사용 환경을 찾고 있습니다. 예를 들어, 퍼플렉시티(Perplexity)는 미국 서버를 기반으로 하여 개인정보 유출 염려를 줄인 AI 검색 엔진입니다. 이외에도, 뤼튼(Wrtn)은 카카오톡 플랫폼을 통해 데이터 마이닝을 피할 수 있는 안전한 서비스를 제공하고 있으며, 앨런(Alan)은 이스트소프트의 보안 솔루션을 접목하여 자체적으로 데이터를 보호하는 서비스를 운영합니다. 이러한 대안들은 딥시크의 모델을 활용하면서도 더욱 강화된 보안 환경을 제공하여, 사용자들이 보다 안심하고 AI를 활용할 수 있도록 돕습니다.

 

딥시크 활용 시 유의사항

딥시크를 활용할 때는 몇 가지 유의사항을 따르는 것이 중요합니다. 우선, AI가 제공하는 정보를 100% 신뢰하지 않도록 해야 합니다. 딥시크는 학습된 데이터에 따라 응답을 생성하므로, 가끔 잘못된 정보나 편향된 답변을 제공할 수 있습니다. 따라서, 요청한 내용이 중요할 경우 추가적인 검증을 통해 사실을 확인하는 것이 필수적입니다. 또한, 개인적인 정보나 비밀 사항을 입력하기보다는 일반적인 질문을 하는 것이 좋습니다. 마지막으로, 사용 환경이 안전한지를 항상 점검하고, 여러 절차를 통해 자신의 데이터를 보호할 수 있는 방법을 찾는 것이 중요합니다.

---

마무리

딥시크의 혁신적인 AI 기술은 전 세계의 주목을 받고 있으나, 심각한 보안 문제는 사용자들에게 이상적인 사용 환경을 위협하는 요소로 작용할 수 있다. 여러 국가들의 대응 사례에서 볼 수 있듯이, 개인정보 보호는 AI 산업 전반에 걸쳐 점점 더 중시되고 있으며, 이러한 흐름은 향후 기술 발전의 중요한 기준으로 작용할 것이다.

각국이 딥시크와 같은 AI 모델에 대해 법적 대응에 나서는 것은 사용자들과 기업 모두에게 신뢰 확보를 위한 필수적인 조치가 되고 있다. 따라서 딥시크는 안전한 기술 환경을 조성하기 위해 보안 취약점을 해결할 필요가 있으며, 이러한 노력은 사용자 보호와 직결되는 중요한 요소로 작용할 것이다.

사용자들은 향후 딥시크의 발전을 지켜보며, 자신들의 데이터 보호를 위해 더 많은 주의와 신중함을 기울여야 한다. 딥시크가 보안 문제를 해결하고 안전한 사용 환경을 마련할 수 있다면, 이는 AI 산업의 발전과 그에 대한 신뢰 회복에 큰 기여를 할 것으로 기대된다.

---

출처

딥시크 보안 이슈에 대한 국내·외 대응 현황 - 공개SW 포털

https://www.oss.kr/oss_guide/show/697c8903-4670-4696-bb63-d976b69f56c8

이준호의 사이버보안 이야기 <27> 딥시크(Deepseek)의 도전과 생성 AI 시대의 개인정보 보호 > News Insight | (사)국가미래연구원

https://www.ifs.or.kr/bbs/board.php?bo_table=News&wr_id=54756

(주)소프트정보서비스

https://softinfo.co.kr/article/%EB%89%B4%EC%8A%A4%EC%9D%B4%EB%B2%A4%ED%8A%B8/2/2301/

중국 AI ‘딥시크’, 보안 취약성 논란 > 뉴스 | 디지털포커스, 빠르고 생생한 국내외 디지털 뉴스

https://www.digitalfocus.news/bbs/board.php?bo_table=news&wr_id=8038

급가속 '딥시크', 데이터 유출 사고로 위기 직면...위즈, "내부 데이터베이스 인터넷에 노출, 100만 건 이상의 기록 유출" 가능성 시사 < 보안·금융 < AI Industry < 기사본문 - 인공지능신문

https://www.aitimes.kr/news/articleView.html?idxno=33718

국내 서비스 일시 중단된 딥시크…보안업계가 본 위험한 이유는?

https://www.ddaily.co.kr/page/view/2025021713531982027

중국 AI 기업 딥시크(DeepSeek), 개인정보 보호 논란 확산 – Openpage

https://openpage.store/blog/2025/01/31/ai-info-china-ai-deepseek-privacy-problems/

DeepSeek는 안전할까? 딥시크 사용 전에 알아두어야 할 사항

https://nordvpn.com/ko/blog/deepseek/

'보안 논란' 딥시크, 안전하게 사용하는 3가지 방법

https://v.daum.net/v/20250211084639154

중국 AI ‘딥시크’, 보안 취약성 논란 > | 디지털포커스, 빠르고 생생한 국내외 디지털 뉴스

https://www.digitalfocus.news/bbs/print.php?bo_table=news&wr_id=8038