보도자료 배포 서비스 뉴스와이어가 제공합니다.
뉴스와이어 제공

GTIG, 최신 AI 위협 추적 보고서 발표… 사람 개입 없는 완전 자율화 공격의 시작

2026-11-17 10:10 출처: 구글 클라우드

구글 클라우드 로고

서울--(뉴스와이어)--구글 위협 인텔리전스 그룹(GTIG)이 지난 9월 발표 이후 최신 AI 위협 동향을 분석한 ‘AI 위협 추적 보고서(AI Threat Tracker)’를 발표했다.

위협 행위자들의 AI 활용이 고도화되면서 적대적 AI 위협 환경은 중대한 전환점을 맞이했다. 이들은 단순한 프롬프트 입력을 넘어 자율형 멀티 에이전트 프레임워크, 자동화된 취약점 악용 파이프라인, LLM재킹(LLMJacking)과 같은 새로운 수익화 방법을 동원하고 있다.

이번 보고서에서 GTIG와 맨디언트(Mandiant)는 사이버 범죄, 첩보 및 정보작전(IO)에 이르는 다양한 영역의 공격자들이 생성형 AI를 활용해 공격 시간을 단축하고, 작전 규모를 확대하며, 기계 수준의 속도(machine-speed)로 다단계 침투 공격을 수행하는 양상을 심층 분석했다.

지난 분기에 관찰된 주요 위협 동향은 다음과 같다.

· 자율형 워크플로와 멀티 에이전트 프레임워크로의 전환: 공격자의 공격 기법은 수동 프롬프트 입력을 넘어 자율형 멀티 에이전트 공격 프레임워크로 계속 진화하고 있다. 아르텍스(ARTEX), 케언(CAIRN), 사이버스트라이크AI(CyberStrikeAI), 펜트AGI(PentAGI) 등이 대표적이다. 이를 통해 공격자들은 더욱 빠른 속도로 다단계 침투를 수행한다.

- [사례] 한 위협 행위자가 미국 항공우주 산업을 노린 침투 과정에서 케언을 활용했다.

· 취약점 연구 및 악용 자동화: 위협 행위자들은 LLM과 에이전틱 프레임워크로 보안 패치 전후의 코드 변화를 비교 분석(differential analysis)해 수정된 취약점을 찾아내는 리버스 엔지니어링 과정을 전면 자동화하고 있다. 이를 통해 엔데이(N-day) 취약점을 신속하게 무기화하고, 인간의 개입 없이도 인터넷에 노출된 서버를 대상으로 대규모 자동화 공격을 수행할 수 있다.

※ 엔데이 취약점: 보안 패치가 배포됐음에도 아직 시스템에 적용되지 않아 공격에 노출된 취약점

- [사례] GTIG는 사람이 전혀 개입하지 않은(human-out-of-the-loop) 취약점 악용 사례를 사상 처음으로 확인했다. 러시아어 기반 도구로 구성된 ‘exploit_agent’라는 LLM 프레임워크는 패치 적용 전후의 코드를 지속적으로 비교해 취약점을 찾고 인간의 개입 없이 공격 코드를 자동 개발했다.

· 수익화 및 인프라 악용: 금전적 목적을 가진 위협 행위자들은 LLM재킹으로 계속 수익을 창출하고 있다. 이들은 침투한 기업 환경에서 LLM 자격 증명과 클라우드 자원을 탈취한 뒤 ‘LLM 믹서’와 같은 지하 프록시 서비스를 통해 프런티어 AI 모델 접근 권한을 되팔고 있다.

· 정보작전(IO)에서의 LLM 활용: 국가 지원을 받는 위협 그룹, 여론 공작 대행업체(Influence-as-a-Service), 정치 콘텐츠로 수익을 올리는 가짜 계정 네트워크는 이제 LLM을 일상적으로 활용해 합성 미디어를 대량으로 제작하고, 현지화된 페르소나를 만들며, 여러 플랫폼에 걸친 콘텐츠 유포를 자동화하고 있다.

- [사례] 한 사례에서는 공격자들이 제미나이(Gemini) API를 활용해 10만 개 이상의 가짜 계정을 관리하는 플랫폼을 구축했다. 이 플랫폼은 클라우드 폰 팜(cloud phone farms)으로 계정을 운영하며, 생성된 콘텐츠가 진짜처럼 보이도록 스마트폰 카메라 특유의 결함이나 왜곡을 모방하는 기능까지 갖췄다.

※ 클라우드 폰 팜: 클라우드 기반으로 가상 스마트폰을 대량 운영하는 시스템

· 표적형 스파이 활동 및 공급망 공격의 진화: 사이버 스파이 조직은 표적 조사, 데이터 분석 자동화, 새로운 공급망 공격 경로 개척에 LLM을 활용하고 있다. 자율형 코딩 어시스턴트의 설정을 조작해 로컬 환경에서 코드가 실행될 때 백도어를 심는 방식이 대표적인 예시다.

- [사례 1] 중국(PRC) 연계 공격자들이 LLM으로 탈취한 데이터를 분석하고 가공해 첩보 보고서로 만드는 활동이 확인됐다.

- [사례 2] 북한(DPRK) 연계 공격자들은 AI로 생성한 가상 인물을 활용해 암호화폐 기업을 표적으로 삼았다. 이들이 생성한 일부 페르소나에서는 구글의 AI 워터마크인 신스ID(SynthID)가 확인됐다. 이와 함께 자율형 코딩 어시스턴트의 설정을 조작하려는 시도도 포착됐다.

이번 보고서는 구글이 제미나이 서비스 악용을 탐지·차단하고 관련 계정을 비활성화한 조치와 함께, 이번 분석 결과를 토대로 보안 안전장치(safeguards)를 한층 강화한 내용도 상세히 다루고 있다. 더 자세한 내용은 보고서 전문을 확인하면 된다.

이 뉴스는 기업·기관·단체가 뉴스와이어를 통해 배포한 보도자료입니다. 배포 안내 >
뉴스와이어 제공