서울--(뉴스와이어)--Google Threat Intelligence Group(GTIG)은 사이버 범죄자들이 어떻게 AI 플랫폼을 표적으로 삼고 있는지 관찰한 내용과 이러한 기술적 진화에 대응하기 위해 구글이 취한 조치를 담은 ‘AI 위협 보고서(GTIG AI Threat Tracker: Advances in Threat Actor Usage of AI Tools)’를 공개했다.

해당 보고서는 위협 행위자들이 생산성 향상 도구로서 AI를 사용하는 것에서 나아가 혁신적인 AI 기능을 공격에 활용할 수 있을지 실험하고 있다는 사실을 제시한다. 중국, 북한, 러시아, 이란에 기반한 위협 행위자들은 멀웨어 실행부터 소셜 엔지니어링 프롬프트, AI 도구 판매까지 작전의 각 단계를 성공적으로 수행하기 위해 AI를 전방위적으로 사용하고 있다.

이와 함께 GTIG는 이번 보고서를 통해 위협 행위자의 AI 활용을 저지하고 차단할 뿐만 아니라 대규모의 사용자를 보호하기 위해 구글의 안전 및 보안 보호 체계와 정책에 위협 인텔리전스를 반영한 정교한 조치들 또한 공유한다.

본 보고서의 주요 조사 결과는 다음과 같다.

· 멀웨어에 ‘저스트 인 타임(Just-in-Time)’ AI 최초 사용: GTIG는 PROMPTFLUX 및 PROMPTSTEAL와 같은 멀웨어 유형이 실행 중에 대규모 언어 모델(LLMs)을 사용하는 것을 최초로 확인했다. 이러한 도구는 악성 스크립트를 동적으로 생성하고, 자체 코드를 난독화해 탐지를 회피하며, 멀웨어에 악의적인 기능을 미리 하드코딩(hard-coding)하는 대신 AI 모델을 활용해 요청에 따라 이를 생성한다. 이와 같은 양상은 아직은 초기 단계이지만, 더욱 자율적이고 유연한 멀웨어로 발전할 가능성을 시사한다.

· 소셜 엔지니어링으로 안전장치 우회: 위협 행위자들은 AI의 안전장치를 우회하기 위해 소셜 엔지니어링 기법을 프롬프트에 적용하고 있다. GTIG는 위협 행위자들이 CTF 대회(해킹 대회) 참가 학생 혹은 사이버 보안 연구원으로 가장해 제미나이(Gemini)가 본래 차단하도록 설계된 정보를 제공하도록 설득함으로써 도구를 개발하는 사례를 확인했다.

· AI 도구 사이버 범죄 시장의 성숙화: 2025년에는 불법 AI 도구를 판매하는 지하 시장이 2025년 성숙 단계에 접어들었다. GTIG는 피싱, 멀웨어 개발, 취약점 연구 등을 지원하도록 설계된 다기능 도구를 다수 확인했으며, 이는 덜 숙련된 공격자들의 진입 장벽을 낮추는 데 일조하고 있다.

· 지속 강화되는 공격 라이프사이클: 북한, 이란, 중국 등을 포함한 국가 지원 공격자들은 정찰 및 피싱 미끼 제작부터 C2(Command and Control) 개발 및 데이터 유출에 이르기까지 작전의 모든 단계를 고도화시키기 위해 제미나이를 지속적으로 악용하고 있다.

이에 대해 빌리 레오나드(Billy Leonard) Google Threat Inteligence Group 기술 리드는 “공격자들은 분명 주류 AI 플랫폼을 활용하고자 시도하고 있지만, 이러한 AI 플랫폼은 안전장치가 있기 때문에 공격자들은 지하 사이버 범죄 시장에서 구할 수 있는 AI 모델로 눈을 돌리고 있다. 이러한 도구들은 제한 없이 이용할 수 있기 때문에, 기술 수준이 낮은 공격자들에게도 상당한 이점을 제공할 수 있다. 현재 공격자들이 이용할 수 있는 다수의 도구가 유통되고 있는 만큼 범죄자들의 진입 장벽이 낮아질 것으로 예상하고 있다”고 말했다.