생성형 인공지능을 활용한 공격이 본격화되고 있는 것으로 나타났다.
정보기술 컨설팅 업체 가트너(Gartner)가 지난 12개월 동안 북미·EMEA·아시아·태평양 지역의 사이버 보안 리더 302명을 대상으로 2025년 3월부터 5월 사이 진행한 설문조사에 따르면, 응답자의 29%는 자사 엔터프라이즈 생성형 AI 애플리케이션 인프라가 공격을 받았다고 답했다.
조직의 62%는 사회공학이나 자동화된 프로세스를 악용한 딥페이크 공격을, 32%는 애플리케이션 프롬프트를 활용한 인공지능 애플리케이션 공격을 지난 12개월 동안 각각 경험했다고 답했다.
가트너는 챗봇 어시스턴트가 대규모 언어모델(LLM)이나 멀티모달 모델이 편향되거나 악성 출력을 내도록 조작하는 등, 공격자가 생성하는 다양한 적대적 프롬프트 기법에 취약하다고 전했다.
가트너 애널리스트 아키프 칸(Akif Khan)은 “피싱·딥페이크·사회공학에 생성형 AI를 활용하는 공격은 이미 주류가 되었다”며 “생성형 AI 애플리케이션 인프라 공격과 프롬프트 기반 조작과 같은 다른 위협도 새롭게 등장하고 있다”고 말했다.
한편, 사이버 보안 리더의 67%는 생성형 AI 리스크가 기존 사이버 보안 접근법에 중대한 변화를 요구한다고 인식하는 것으로 나타났다. 이와 관련, 가트너는 균형 잡힌 전략이 필요하다고 진단했다.
칸 애널리스트는 “전면적인 변화나 단편적 투자보다는 핵심 통제를 강화하고 신규 리스크 범주별로 표적화된 조치를 도입해야 한다”고 조언했다.
댓글 작성