내셔널 인터레스트, 전문가 전망 기고
AI 활용해 공격·방어 능력 모두 향상
새로운 위험·기회 될 것으로 예상

(사진=셔터스톡)
(사진=셔터스톡)

인공지능(AI)이 향후 사이버 전쟁에서 양날의 칼이 될 것이라는 전망이 나왔다.

막스 시트 'ETH 추리히 CSS(보안연구센터)' 선임연구원은 최근 미국 외교안보 전문매체 ‘내셔널 인터레스트’에 쓴 ‘AI는 향후 사이버 전쟁에서 양날의 칼’이라는 제목의 기고에서 인공지능이 군사 및 정보 커뮤니티에 새로운 위험과 기회가 될 것이라고 예상했다. 

미 국가안전보장국 및 미 사이버사령부(NSC) 본부장을 지낸 마이크 로저스 대장은 한 인터뷰에서 “인공지능 및 머신러닝이 사이버 보안의 미래를 위한 기반으로, 이 문제를 어떻게 다룰 것인지 고민해야 하며 그것은 만약을 가정할 것이 아니라 언젠가 다가올 문제”라고 밝혔었다. 버락 오바마 전 대통령은 재임 기간 AI를 이용해 핵무기 발사 코드에 접근하는 공격자에 대한 우려를 표명하기도 했다. 오바마 대통령은 “이것이 유일한 업무이고, 자기 학습이 되며, 정말 효과적인 알고리즘이라면 문제가 있는 것”이라고 말했다.

시트 연구원은 AI 응용프로그램이 다양한 유형의 군사 및 정보활동에 미치는 영향에 대해 보다 정확하게 파악하는 것이 중요하다며 사이버 전략에서 AI의 사용에 대해 논의하는 것은 미래에 기술이나 사람이 더 중요해질 것인가에 대한 논의가 아니며 AI를 통해 사이버 조직이나 해킹 그룹의 개발자, 운영자, 관리자 및 기타 직원이 더 나은 작업을 수행할 수 있느냐에 대한 것이라고 지적했다. 향후 사이버 전쟁 시 공격적 및 방어적 관점에서 AI의 주요 응용분야를 이해하는 것이 중요하는 것이다.

시트 연구원은 해커가 AI 기술을 활용해 사이버 운영을 보다 효과적으로 수행할 수 있는 방법에 여러 가지가 있다며 첫째로 AI 기술이 악용 가능한 취약점을 찾는 데 도움이 될 수 있다고 밝혔다. 알려지지 않은 취약점을 찾는 작업은 종종 운영자가 대량의 데이터를 자동으로 입력해 ‘응답 예외’ 또는 잠재적인 취약점 징후를 발견하는 ‘퍼징(fuzzing)’이라는 동적 프로세스를 통해 수행된다. AI가 이러한 퍼징 기법을 개선한다는 것이다. 태평양북서부국립연구소의 연구원들은 AI 기반 퍼징이 기존의 퍼징 기법보다 빠르고 효과적이라는 사실을 이미 입증했다.

둘째로 AI가 보다 효과적인 사회공학적 형태를 허용할 수 있다고 시트 연구원은 지적했다. 스팸 메일이 대상의 프로필에 맞게 자동으로 조정되는 것처럼 대량의 사용자 개인 데이터를 사용하는 챗봇이 긴 대화를 통해 대상의 신뢰를 얻을 수 있는 가운데 AI 응용 프로그램이 기존 동영상 또는 이미지를 결합하고 다른 이미지를 오버레이하여 생성하는 이른바 딥페이크의 제작을 가능하게 할 것이라는 설명이다.

(사진=셔터스톡)
(사진=셔터스톡)

딥페이크 앱 및 얼굴 인식 소프트웨어의 개선은 누구나 쉽게 이용할 수 있는 저렴한 콘텐츠 제작 환경을 제공하고 있다. 한 사람의 얼굴 이미지를 여러 장 다운로드해 3D 이미지로 처리한 다음 딥페이크 동영상에 사용할 수 있다. 딥페이크 봇이 실제 화상 채팅에서 실제 사람들로 가장하여 인증이나 기타 정보를 훔칠 수 있는 미래를 예상할 수도 있다. 블라디미르 젤렌스키 우크라이나 대통령이 러시아에 항복하는 모습을 보여주는 딥페이크 애플리케이션이 러시아-우크라이나 전쟁에서 등장한 바도 있다.

셋째, AI 기술이 합법적인 응용 프로그램의 동작을 시뮬레이션하여 감지를 피할 수 있는 악성 멀웨어(malware) 샘플을 생성할 수 있다고 지적했다. 예를 들어 마리아 리가키와 세바스티안 가르시아는 페이스북 채팅과 같은 트래픽 프로필을 모방하는 네트워크 트래픽 동작을 모델링하는 생산적 적대 신경망(GAN, 실제 이미지를 활용해 가짜의 이미지를 만들어내는 것)을 채택해 감지를 피할 수 있다는 것을 입증했다.

넷째, AI 기술을 사용하면 멀웨어가 보다 효과적으로 확산될 수 있다고 시트 연구원은 밝혔다. 트로이목마 다운로더 Emotet는 AI 지원 배포 방식이 사람이 주도하는 것보다 어떻게 더 빠르게 동작할 수 있는지를 보여준다. 2014년에 처음 발견된 Emotet는 원래 스팸 메일을 통해 확산되는 뱅킹 멀웨어로 설계됐다.

지난 몇 년 동안 Emotet는 발전을 거듭해 최신 버전은 머신러닝을 활용해 피해자를 더욱 효과적으로 겨냥할 수 있는 것으로 추정되고 있다. 사이버 보안 회사 ESET의 연구원들은 “매일 수천 개의 디바이스를 공격하고 손상시키기는 하지만, 연구자의 시스템, 허니팟, 봇넷 트래커를 피하는 데 매우 효과적”이라며 “이를 위해 Emotet는 잠재적 피해자에 대한 원격 측정 자료를 수집해 공격자의 C&C 서버에 전송해 분석한다.

이러한 입력을 바탕으로 멀웨어는 최종 탑재물에 포함될 모듈을 선택할 뿐만 아니라 연구자들이 사용하는 가상 시스템 및 자동화된 환경과 실제 작업자를 구별하는 것으로 보인다"고 설명했다. 이들은 “Emotet는 합법적인 프로세스와 인위적인 프로세스를 자동으로 구별해 관련 탑재물을 선택할 수 있게 하는 것 같다”며 “이 프로세스를 수동으로 수행할 경우 상당한 시간과 리소스가 필요하다”고 덧붙였다.

(사진=셔터스톡)
(사진=셔터스톡)

마지막으로 가장 중요한 발전은 백엔드, 즉 사이버 역량 개발 인프라 측면으로, AI 기반 데이터 분석은 데이터의 수집, 번역 및 조작을 개선하는 데 도움이 될 것으로 예상된다는 설명이다.

시트 연구원은 AI 기술이 공격자들에게 상당한 영향을 미칠 수 있지만, AI가 사이버 방어를 지원할 수 있는 잠재력이 있다는 점도 인식해야 한다고 밝혔다. 사이버 공격을 탐지하고 이에 대응하는 AI 응용 프로그램이 있으며 감지 측면에서 지속적으로 업데이트돼야 하는 일련의 정적 규칙을 이용하는 소위 인증 기반 탐지에서 벗어나 더 나아가 새로운 기능을 기대할 수 있다는 설명이다.

기반 네트워크의 형태를 캡처하는 유연한 감지 기능을 제공하며 비정상적인 것으로 보이는 변경 사항을 파악할 수 있는 가운데 이러한 시스템이 여전히 완벽하지 않고 오탐률을 보이더라도 데이터를 먼저 통과함으로써 인적 분석의 필요성을 줄일 수 있다고 밝혔다.

기고문은 AI가 사이버 범죄에 대한 지능적 대응을 촉진할 수도 있다며 2016년 미 국방고등연구기획청(DARPA)이 네트워크의 소프트웨어 결함을 실시간으로 발견해 검증 및 패치할 수 있는 자동방어시스템을 만들기 위해 세계 최초의 대회인 사이버 그랜드 챌린지를 조직한 사례를 들었다.

대회에서 우승한 자동화 방어 시스템 ForAllSecure의 메이엄은 이후 행사에서 사람이 운영하는 팀을 이길 수 없었지만 DARPA의 행사는 자동화된 시스템이 어떻게 보안 결함을 찾고 솔루션을 실시간으로 개발 및 배포할 수 있는지를 보여주는 자율 사이버 방어의 개념을 증명했다.

부수적 피해를 걱정하는 책임 있는 국가의 경우 웜(worm)이라고도 하는, 자가 전파성 멀웨어를 개발하는 데 사용되는 것과 같은 일부 AI 기술을 매우 주의해서 사용해야 한다고 연구원은 지적했다. 웜이 허용되는 데 명확한 경계가 없으면 무차별 타겟팅 및 통제되지 않은 전파의 위험이 증가한다는 것이다.

시트 연구원은 AI가 공격자에게 보다 효과적이고 효율적으로 적을 오도할 수 있는 새로운 기회를 제공한다며 취약점을 찾고, 인적 요소를 악용하며, 멀웨어를 전달하는 공격자의 능력을 향상시킬 수 있다고 밝혔다. 그러나 또한 속임수들을 신속하게 발견할 수 있는 새로운 기회역시 제공한다고 분석했다.

Ai타임스 이한선 객원 기자 griffin12@gmail.com

[관련 기사]미·중, 핵무기 통제체계에 AI활용 금지해야..AI사고땐 대재앙

[관련 기사]러시아·우크라전쟁서 'AI와 무기 융합의 위험성' 떠올라

[관련 기사]구글, 랜섬웨어 해커 잡아 냈다

 

키워드 관련기사
  • 러시아-우크라이나, 총성 없는 ‘사이버 전쟁’ 돌입
  • 군사 안보, AI로 더 강화된다...국가필수전략기술로 꼽혀
  • AI를 활용한 사이버 공격, 증가 불가피해 대책 필요