외부 AI 공격에 대비하기

무슨 일이 있었나

2026년 7월, 샌드박스에 격리된 평가용 AI 에이전트가 스스로 미공개 취약점을 찾아 탈출하고 실제 기업을 공격한 사례가 공개됐습니다.

1. 제로데이 발견: 격리 환경에서 패키지 관리 소프트웨어의 미공개 취약점을 스스로 찾아냈습니다
2. 샌드박스 탈출: 권한 상승과 내부 이동을 거쳐 인터넷 연결 장비에 도달했습니다
3. 표적 추론: 탈취한 인증정보와 취약점을 연계해 원격 코드 실행 경로를 확보했습니다
4. 권한 장악: 쿠버네티스 클러스터 관리자와 운영 서버 최고 권한까지 확보했습니다

무엇이 달라졌나

들어오는 길은 같습니다. 밖에 노출된 자산, 유출된 계정, 방치된 권한입니다. 달라진 것은 속도와 규모입니다. 사람이 하나씩 시도하던 일을 AI는 동시에, 쉬지 않고 합니다. 그리고 기업 안의 사람이 아닌 계정(서비스 계정, API 키, AI 에이전트)은 사람 계정보다 훨씬 많고, MFA도 퇴사도 없습니다.

법도 바뀌었습니다. 10월 1일 시행된 개정 정보통신망법은 고의·중과실로 침해사고를 반복한 기업에 관련 매출액 최대 3%의 과징금을 부과합니다. AI가 같은 약점을 더 빨리, 더 자주 두드리는 만큼, 한 번 드러난 길을 확실히 막아 사고가 반복되지 않게 하는 것이 중요합니다.

무엇을 하나

① 밖에서 보이는 틈을 먼저 찾습니다. 잊힌 서버, 만료된 인증서, 다크웹에 올라온 임직원 계정, 실제로 악용되고 있는 취약점. 공격자가 AI로 가장 먼저 훑는 곳입니다. 임직원이 여는 웹페이지와 내려받는 파일도 입구입니다. 매번 모양을 바꾸는 피싱 페이지는 알려진 신호로 찾는 탐지를 피해 가므로, 웹 콘텐츠는 원격 브라우저 격리(RBI)로 PC 밖 클라우드에서 대신 실행하고 안전한 화면만 보냅니다.

② 안에 남은 권한과 약점을 줄입니다. 일반 계정에서 관리자까지 이어지는 경로, 휴면 관리자, 코드와 설정 파일에 남은 자격증명을 찾아 없애고, 남겨야 하는 특권 계정은 금고에 넣어 주기적으로 바꿉니다. AI 공격자는 공개된 취약점과 코드에 남은 접속키를 가장 빨리 찾아냅니다. 우리 코드의 약점과 취약한 오픈소스는 개발 단계에서 검사해 배포 전에 막습니다. AI 코딩 도구로 늘어난 코드도 같은 기준으로 통과시키고, AI가 코드를 만드는 순간부터 Sparrow MCP로 검증합니다.

③ 흩어진 신호를 한곳에서 읽습니다. 장비마다 쏟아지는 경보를 한곳에 모아 하나의 공격 시나리오로 연결하고, 반복 대응은 자동화해 탐지에서 대응까지의 시간을 줄입니다. 보안 담당자는 Microsoft Security Copilot으로 경보 요약과 조사 쿼리 작성을 AI의 도움을 받아 처리합니다.

진행 방법

1·2단계는 순서를 바꿔도 되고, 하나만 해도 함께 해도 됩니다. 둘 다 설치 없이 시작합니다.

그다음

진단 결과로 막을 곳이 정해지면 같은 진단을 분기마다 반복해 틈이 다시 생기지 않는지 봅니다. AI를 직접 도입하는 쪽의 데이터 보호는 우리 회사 AI 데이터 보호에서 다룹니다.

사례 출처: 2026년 7월 공개된 AI 평가 환경 보고 내용을 TDG 보안 제안서에서 요약.