국내 최대 인공지능 보안 컨퍼런스 ‘AIS 2025(Artificial Intelligence Security Conference 2025)’ 에서 첫 발표를 맡은 신융합원장이자 데이터보안·활용융합 혁신융합대학사업단장 곽진 교수님의 뉴스기사가 게재되었습니다.

-

(전략)

■ “AI로 보호하고, AI로부터 보호하라”

행사의 첫 발표는 아주대학교 사이버보안학과 곽진 교수(혁신융합원 원장가 ‘인공지능 기반 보안위협과 대응: 새로운 위협의 시대, AI로 보호하고, AI로부터 보호하라’를 주제로 진행했다.

곽 교수는 “AI는 이제 보안의 핵심이지만, 동시에 공격자들에게도 무기가 되고 있다”며, AI 기술의 양면성을 경고했다. 그는 IBM X-Force, ENISA, MITRE, NIST 등 글로벌 기관들의 최근 위협 분석을 바탕으로 인공지능이 사이버공격 전 과정에 침투하고 있음을 상세히 설명했다.

■ AI가 무기화되는 시대…“공격자도 생성형 AI를 쓴다”

곽 교수는 특히 ‘AI-Related Attacks’ 사례를 중심으로 공격자들이 AI 툴체인을 활용하는 방식을 소개했다. 그는 “AI 기반 공격은 전통적인 킬체인(cyber kill chain) 전 단계에 적용되고 있으며, 데이터 수집·취약점 분석·공격 자동화까지 AI가 관여한다”고 지적했다.

최근 AI를 이용한 자동화된 피싱, 악성코드 생성, 취약점 탐색 등은 기존 수작업 공격보다 빠르고 정교하게 진화하고 있다.

곽 교수는 “이제 사이버 공격은 ‘AI 대 AI’의 경쟁 구도가 되고 있다”며, “공격자는 인공지능을 학습시켜 탐지 회피 기법을 발전시키고, 방어자는 AI로 이를 실시간 탐지하는 싸움이 벌어지고 있다”고 말했다.

■ 해커의 AI 툴체인…“Vibe Hacking과 No-Code Malware”

발표에서는 최근 등장한 새로운 공격 트렌드로 ‘바이브 해킹(Vibe Hacking)’과 ‘노코드 멀웨어(No-Code Malware)’가 언급됐다.

곽 교수는 “Anthropic이 2025년 공개한 위협 인텔리전스 보고서에서 AI가 스스로 악성코드를 구성하는 ‘AI-Generated Ransomware-as-a-Service’ 개념이 실험적으로 입증됐다”고 설명했다.

또한, 뉴욕대학교 연구진이 생성형 AI를 이용해 만든 ‘PromptLock’이라는 실험적 랜섬웨어 사례를 언급하며 “이러한 시도는 아직 실제 공격으로 사용되지 않았지만, 공격자들이 AI를 무기로 삼는 시대가 머지않았음을 보여준다”고 강조했다.

그는 이어 “노코드 환경에서 보안 취약점이 급증하고 있다”며 OWASP의 ‘No-Code Top 10’ 자료를 인용, AI 기반 자동화 개발 환경이 새로운 공격 표면으로 변하고 있다고 경고했다.

■ “기본으로 돌아가되, 더 똑똑하게(Back to Basics, But Smarter)”

곽 교수는 “AI 위협에 대응하기 위해서는 새로운 기술 이전에 기본 보안 원칙을 AI 시대에 맞게 강화해야 한다”고 강조했다. 그는 ‘Protect the AI’(AI를 보호하라)와 ‘Protect from AI’(AI로부터 보호하라) 두 가지 전략을 제시하며, 데이터 검증, 모델 보안, 프롬프트 무결성, 학습 데이터 오염 방지 등 AI 자체 보안을 위한 기술적 통제가 필요하다고 말했다.

또한 AI가 인간의 판단을 대체할수록 ‘AI의 오용’을 막기 위한 거버넌스 체계와 인간 중심의 보안 감시가 중요해진다고 지적했다. 그는 IBM의 ‘Back to Basics, Better Security with AI’ 보고서를 인용하며 “AI를 활용한 방어도 결국 인간의 통찰력 위에서 완성되어야 한다”고 말했다.

■ “AI 보안의 본질은 신뢰”

곽 교수는 끝으로 “AI 보안의 본질은 ‘신뢰’이며, 신뢰할 수 있는 AI를 구축하기 위해서는 기술·정책·인간 요소가 유기적으로 결합돼야 한다”고 강조했다. 그는 “AI를 보안의 동반자로 삼되, 그 영향력과 위험성을 냉철하게 바라보는 균형감각이 필요하다”고 덧붙였다.

(후략)

전문보기 : https://www.dailysecu.com/news/articleView.html?idxno=201849