마이크로소프트, “AI, 새로운 사이버 보안 패러다임 될 것”

사이버 위협 인텔리전스 요약 보고서 – ‘사이버 시그널’

• 6번째 에디션 「AI 시대의 사이버 위협 탐지 및 보안 강화 편」 공개
• 사이버 위협 행위자 공격 분석 및 AI 활용 방어 인사이트 조명
• 생성 AI, 위협 탐지 강화부터 사고 대응 간소화까지 사이버 보안의 혁신과 효율성 주도

마이크로소프트가 사이버 위협 인텔리전스 요약 보고서 사이버 시그널(Cyber Signals) 6번째 에디션을 공개했다.

사이버 보안 분야는 거대한 변화를 겪고 있다. AI는 이러한 변화의 최전선에 있으며, 사이버 공격을 방어하고 보안 인력 부족 문제를 해결할 뿐 아니라 사이버 보안의 혁신과 효율성을 촉진할 수 있는 잠재력을 가지고 있다. 그러나 공격자도 AI를 공격의 일부로 사용할 수 있게 됨에 따라, 방어자는 AI를 활용해 보안을 강화하는 동시에 AI 자체를 보호하는 것이 중요해졌다.

마이크로소프트는 이번 보고서를 통해 국가 사이버 위협 행위자와 관련된 새로운 위협으로부터 AI 플랫폼을 보호하는 방법을 집중 조명했다.

먼저 오픈AI와 협력을 통해 포레스트 블리자드(Forest Blizzard), 에메랄드 슬릿(Emerald Sleet), 크림슨 샌드스톰(Crimson Sandstorm), 차콜 타이푼(Charcoal Typhoon), 살몬 타이푼(Salmon Typhoon) 등 국가 연계 위협 행위자를 추적한 인사이트를 공유했다. 이미 알려진 위협 행위자의 AI를 활용한 공격 움직임을 분석하고 마이크로소프트가 AI 플랫폼과 사용자를 보호하기 위해 공격을 차단한 방법이 설명됐다. 연구에 따르면, 국가 연계 위협 행위자는 대형언어모델(LLMs)을 활용해 실행 중인 사이버 공격 작업을 강화하고 있다.

또한 마이크로소프트는 국가 차원의 지능형 지속 공격(Advanced Persistent Threats, APTs), 지능형 지속 공격자(Advanced Persistent Manipulators, APMs), AI 플랫폼 및 API를 사용하는 사이버 범죄 조직의 위협을 완화할 수 있는 원칙을 발표했다. 여기에는 악의적인 위협 행위자 식별 및 조치, 다른 AI 서비스 공급자에 대한 접근 알림, 다른 이해관계자와의 협력 및 투명성이 포함된다.

더불어, 더 많은 보안 커뮤니티가 공격 활동에서 대형언어모델의 활용 방안을 이해하고 사용할 수 있도록 지원하고 있다. 마이크로소프트는 대형언어모델 관련 전술, 기술 및 절차(TTPs)를 마이터 어택®프레임워크(MITRE ATT&CK®framework), 마이터 아틀라스(MITRE ATLAS)와 같은 지식 기반에 통합하기 위해 마이터와 지속적으로 협력해 나가고 있다. 이러한 전략적 확장은 위협을 추적하고 무력화할 뿐만 아니라 진화하는 AI 기반 사이버 운영 환경에서 대응책 개발을 선도하겠다는 의지를 반영한다.

이번 에디션에서는 위협 행위자가 AI를 사용해 공격을 고도화하는 방법과 마이크로소프트가 AI를 활용해 이를 방어하는 방법에 대한 인사이트도 공유했다.

사이버 범죄자 및 국가 연계 위협 행위자는 공격력을 높이고 공격 기술을 발전시킬 수 있는 플랫폼을 사용하기 위해 대형언어모델을 포함한 AI를 찾고 있다. 이들의 공격 동기와 정교함은 다양하지만, 공격을 전개할 때 공통된 작업을 수행한다. 잠재적 피해자의 업종, 위치, 관계, 소프트웨어 스크립트 개선, 멀웨어 개발을 포함한 코딩, 인간 및 기계 언어 학습 및 사용 지원이 이에 포함된다. 오픈AI와 면밀히 진행한 조사에 의하면 대형언어모델을 활용한 심각한 공격은 발견되지 않았다.

마이크로소프트는 이러한 유형의 사이버 위협으로부터의 보호를 위해 다양한 방법을 활용하고 있다. 네트워크 리소스 또는 트래픽 사용 방식의 변화를 파악하는 AI 기반 위협 탐지, 위험한 로그인 및 비정상적인 동작을 탐지하는 동작 분석, 위험한 로그인 및 멀웨어를 탐지하는 머신러닝 모델, 모든 액세스 요청에 대한 인증, 승인 및 암호화를 돕는 제로 트러스트(Zero Trust), 회사 네트워크 연결 전 디바이스 상태 확인 등이 여기에 포함된다.

생성 AI는 모든 방어 조직이 기계의 속도로 조직을 보호할 수 있는 놀라운 잠재력을 가지고 있다. AI의 역할은 위협 탐지 강화부터 사고 대응 간소화까지 사이버 보안의 다양한 영역에서 혁신과 효율성을 주도하고 있다.

특히 사이버 보안에서 대형언어모델 사용은 AI가 가진 잠재력을 입증한다. 대형언어모델은 방대한 양의 데이터를 분석해 사이버 위협의 패턴과 추세를 파악하고, 위협 인텔리전스에 유용한 컨텍스트를 추가할 수 있다. 리버스 엔지니어링 및 멀웨어 분석과 같은 기술 작업을 지원해 사이버 공격에 대한 새로운 방어 계층을 생성한다. 마이크로소프트 업무동향지표(Work Trend Index)에 따르면, 마이크로소프트 시큐리티 코파일럿(Microsoft Copilot for Security) 이용자는 모든 작업에서 정확도가 44% 향상되고 속도가 26% 빨라진 것을 확인했다. 이러한 수치는 사이버 보안에 AI를 활용할 때 얻을 수 있는 실질적인 이점을 보여준다.

바수 자칼(Vasu Jakkal) 마이크로소프트 보안 부문 기업 부사장은 “AI의 미래를 확보하기 위해 우리는 새로운 역량과 위험을 동시에 가져오는 기술의 양면성을 인정해야 한다”며, “AI는 단순한 도구가 아닌 새로운 사이버 보안 패러다임이 될 수 있으며, AI를 통해 정교한 사이버 위협을 방어하고 역동적인 위협 환경에 적응함으로써 안전한 미래를 보장할 수 있을 것”이라고 밝혔다.

마이크로소프트 사이버 시그널에 대한 보다 자세한 정보는 공식 블로그를 통해 확인 가능하다.