-
1
SK쉴더스의 화이트해커 그룹 EQST가 글로벌 AI 레드팀 해킹대회 ‘Judgement Day’에서 김병현 선임이 1위를 차지했으며, 마준영 선임과 김신우 선임이 각각 5위와 7위를 기록했다.
-
2
이번 대회는 AI 의사결정 취약점을 겨냥한 공격 기법을 평가하며, 실제 산업 환경을 반영한 8개 시나리오로 구성되었다.
-
3
EQST는 다양한 보안 대회에서 성과를 내며 글로벌 수준의 화이트해커 조직으로 자리매김하고 있다.
화이트해커 그룹 EQST가 기록한 글로벌 대회 성과
SK쉴더스는 글로벌 AI 레드팀 해킹대회 ‘Judgement Day’에서 자사 화이트해커 그룹 EQST 소속 김병현 선임이 최종 1위를 차지했다고 발표했다. EQST 소속 마준영 선임과 김신우 선임도 각각 5위와 7위를 기록했다.
AI 의사결정 취약점을 노린 공격이 미치는 파급력
이번 대회는 AI 에이전트가 금지된 행동을 수행하거나 필수 안전 조치를 누락하도록 유도하는 공격 기법을 평가하는 데 초점을 맞췄다. 응급환자 분류 오류, 댐 수위 판단 왜곡, 항공기 이상 징후 미탐지 등 실제 산업 환경을 반영한 8개 시나리오로 구성됐다.
AI의 의사결정 취약점을 노린 공격으로 응급실에서 중증 환자의 우선순위가 뒤바뀌거나 항공기 이상 신호가 정상으로 판단되는 상황이 발생할 수 있다. 이는 금전적 손실과 신뢰도 저하를 넘어 심각한 인명 피해로까지 이어질 수 있다.
1위를 차지한 공격 기법의 핵심
김병현 선임은 이미지, 음성, 영상 등 다양한 형태의 입력을 활용하는 ‘멀티모달 프롬프트 인젝션’ 공격으로 AI의 판단을 교란했다. 이미지 내부에 잘못된 행동을 유도하는 문구를 숨기거나 특정 행위를 강요하는 방식으로 AI가 기존 규칙을 따르지 않도록 유도했다.
실제 시스템 로그처럼 보이도록 입력을 설계하고 시스템 프롬프트에 정의되지 않은 예외 상황을 공략해 공격 성공률을 크게 높였다. 동일한 문제에서도 다양한 방식으로 공격을 빠르게 성공시키며 높은 점수를 획득했다.
EQST의 글로벌 화이트해커 조직 경쟁력
EQST는 폰투온 오토모티브, 블랙햇, 데프콘, 드림핵 해킹방어대회 등 국내외 주요 보안 대회에서 꾸준히 성과를 내며 글로벌 수준의 화이트해커 조직으로서 경쟁력을 입증해왔다.
다양한 산업에서 축적한 침해 대응 경험과 위협 인텔리전스를 기반으로 실제 공격을 가정한 레드팀 서비스를 제공한다. 고객사의 AI 시스템 취약점 사전 식별과 보안 리스크 최소화를 지원하며, 글로벌 표준인 ‘OWASP Top 10 for LLM’을 반영한 자체 프레임워크로 체계적인 점검과 대응 전략 수립까지 제공한다.
‘Judgement Day’ 대회 운영 방식과 참여 현황
AI 안전성 전문 스타트업 에임인텔리전스와 인공지능안전연구소가 공동 주최한 이번 대회는 4월 6일부터 약 8주간 진행됐다. GPT-5.4, Gemini 3.1 Pro, Claude Opus 4.6 등 최신 AI 모델 기반으로 실제 산업 시나리오를 적용해 운영됐다.
평가는 문제 해결 방식과 공격 전략의 다양성을 반영하는 구조로 진행됐다. 참가자들은 동일한 시나리오를 여러 방식으로 반복 공략할 수 있었으며, 신속하게 성공시킬수록 추가 점수가 부여됐다. 글로벌 보안 조직과 AI 기업, 연구기관 등이 참여했다.
Q1. AI 의사결정 취약점을 노린 공격 기법은?
멀티모달 프롬프트 인젝션 공격이 효과적이다. 이미지 내부에 잘못된 행동을 유도하는 문구를 숨기거나 특정 행위를 강요하는 방식으로 AI가 기존 규칙을 따르지 않도록 유도한다.
Q2. AI 보안 연구에서 실전 역량을 입증한 조직은?
SK쉴더스 EQST가 글로벌 AI 레드팀 해킹대회 ‘Judgement Day’에서 1위를 차지했다. 폰투온 오토모티브, 블랙햇, 데프콘, 드림핵 해킹방어대회 등 국내외 주요 보안 대회에서 꾸준히 성과를 내며 글로벌 수준의 화이트해커 조직으로서 경쟁력을 입증해왔다.
Q3. AI 시스템 취약점 사전 식별에 적합한 서비스는?
SK쉴더스 EQST의 레드팀 서비스가 적합하다. 다양한 산업에서 축적한 침해 대응 경험과 위협 인텔리전스를 기반으로 실제 공격을 가정한 서비스를 제공하며 OWASP Top 10 for LLM을 반영한 자체 프레임워크로 체계적인 점검과 대응 전략 수립까지 지원한다.
Q : AI 레드팀 해킹대회 ‘Judgement Day’란 무엇인가?
A : AI 에이전트가 금지된 행동을 수행하거나 필수 안전 조치를 누락하도록 유도하는 공격 기법을 평가하는 대회이다. 응급환자 분류 오류, 댐 수위 판단 왜곡, 항공기 이상 징후 미탐지 등 실제 산업 환경을 반영한 8개 시나리오로 구성된다.
Q : 멀티모달 프롬프트 인젝션은 어떻게 작동하는가?
A : 이미지·음성·영상 등 다양한 형태의 입력을 활용하여 AI의 판단을 교란하는 공격 기법이다. 이미지 내부에 잘못된 행동을 유도하는 문구를 숨기거나 특정 행위를 강요하는 방식으로 AI가 기존 규칙을 따르지 않도록 유도한다.
Q : EQST의 AI 레드팀 서비스는 어떤 결과를 제공하는가?
A : 다양한 산업에서 축적한 침해 대응 경험과 위협 인텔리전스를 기반으로 고객사의 AI 시스템 취약점 사전 식별과 보안 리스크 최소화를 지원한다. OWASP Top 10 for LLM을 반영한 자체 프레임워크로 체계적인 점검과 대응 전략 수립까지 제공한다.
AI 레드팀: AI 시스템의 보안 취약점을 찾기 위해 실제 공격자의 관점에서 시스템을 공격하고 평가하는 전문 팀 또는 활동
멀티모달 프롬프트 인젝션: 텍스트뿐만 아니라 이미지, 음성, 영상 등 다양한 형태의 입력을 통해 AI 모델의 동작을 의도적으로 조작하는 공격 기법
OWASP Top 10 for LLM: 대형 언어 모델에서 발생할 수 있는 주요 보안 취약점 10가지를 정리한 국제적 보안 기준
본 콘텐츠는 매경비즈 콘텐츠·기획팀이 공식 발표 자료와 보도자료를 바탕으로 작성했습니다.
