AI 제로데이가 왔습니다: CISO가 알아야 할 사항
Google 보안 팀에 따르면, AI 기반 취약점 발견 시스템이 일반적으로 사용되는 소프트웨어에서 처음으로 제로데이를 식별했습니다. 구글의 AI 혁신은 AI 기반 위험과 솔루션으로의 불가피한 전환을 강조합니다. Google 연구원들은 AI 모델인 Big Sleep을 사용하여 SQLite 데이터베이스 엔진의 메모리 안전 취약점(스택 버퍼 언더플로)을 식별했습니다. SQLite는 수백만 대의 장치와 애플리케이션에 내장되어 있는 가장 널리 배포된 데이터베이스 엔진 중 하나입니다. 오픈 소스이며 데이터 파이프라인과 데이터베이스를 위한 소프트웨어 공급망에서 중요한 부분을 차지합니다. Big Sleep은 기존 방식으로는 발견되지 않았던 취약점인 코드 내의 심각한 스택 버퍼 언더플로 취약점을 발견했습니다.
CISO에게는 그 의미가 중요합니다. AI는 선의의 행위자나 악의적인 행위자 모두에 의한 제로데이를 감지하는 데 사용될 수 있으며, 실제로 사용될 것입니다. 보안은 더욱 강화되고, 이에 대응하기 위해 AI가 필요할 것입니다. 동시에 핵심 보안 통제가 제대로 실행되고 조정되었는지 확인하는 일이 더욱 중요해질 것입니다. 지금은 AI로 인한 위협에 두 가지 각도에서 대처해야 할 필요성이 부각되는 순간입니다. 첫째, 보안 위험의 급속한 진화에 대응하기 위해 AI 기반 방어 시스템을 구축합니다. 두 번째, 기존 보안 프레임워크를 강화하고 이러한 새로운 기능과 통합할 수 있도록 합니다.
AI 기반 제로데이의 급증
코딩과 코드 분석을 처리하는 대규모 언어 모델(LLM)이 급속히 개선되고 있습니다. 이러한 소프트웨어는 무료로 사용할 수 있으며 종종 오픈 소스 도메인에 속합니다. 공격자들은 이 점을 주목하고 시스템의 취약점을 찾기 위해 AI를 적극적으로 활용하고자 노력하고 있습니다. CISO는 AI가 발견한 제로데이 취약점의 급증이 다음과 같은 몇 가지 주요 요인에서 비롯될 것으로 예상해야 합니다.
고급 AI 기능: 최신 AI 모델, 특히 LLM은 복잡한 코드베이스를 분석하여 이전에는 알려지지 않았던 취약점을 식별하는 데 능숙함을 보여주었습니다. 구글이 Project Big Sleep에 AI를 활용해 광범위한 제로데이 취약점을 발견한 것은 AI가 사전 보안 조치에 미칠 수 있는 잠재력을 잘 보여주는 사례입니다.
자동화 및 효율성: AI 기반 도구는 취약성 발견 프로세스를 자동화하여 보안 결함을 식별하는 속도를 크게 높일 수 있습니다. 이러한 효율성 덕분에 수동 방법만으로는 달성할 수 없는 속도로 취약점을 감지할 수 있습니다. GreyNoise Intelligence가 AI를 사용하여 라이브 스트리밍 카메라의 제로데이 취약점을 발견한 것이 이러한 역량의 좋은 예입니다.
더 큰 의미 이해: AI 모델은 맥락, 의도, 기능에 대한 더 깊은 이해를 바탕으로 코드를 분석하여 기존 방식에서는 간과할 수 있는 취약점을 찾아낼 수 있습니다. 이러한 의미적 통찰력을 통해 AI는 명백한 코딩 오류뿐만 아니라 악용될 수 있는 미묘한 논리적 결함, 구성 문제, 보안 격차도 식별할 수 있습니다. 예를 들어, OpenAI Codex는 프로그램의 의도된 동작을 실제 구현과 비교해 해석하여 미묘한 보안 취약점을 찾아내는 능력을 보여주었습니다.
이러한 발전의 융합은 CISO와 보안 팀이 AI가 발견한 제로데이 취약점의 물결에 대비해야 한다는 것을 의미합니다. 앞서 나가기 위해 조직에서는 AI 기반 방어 도구 도입을 우선시하고, 개발팀과 보안팀 간의 협업을 늘려 취약점을 조기에 해결하고, 새로운 AI 위협에 대해 직원을 지속적으로 교육해야 합니다. AI 기반 사이버 공격의 새로운 시대에서 발생하는 위험을 완화하기 위해서는 사전 예방적 전략이 매우 중요합니다. 즉, AI 위협에 맞서기 위해 AI를 배치하고, 공격 표면을 줄이기 위해 제로 트러스트와 기타 사전적 전략을 두 배로 강화하는 것을 의미합니다.
더욱 강화된 심층 방어가 필수가 되고 있습니다.
CISO에게 새로운 AI 위협 환경은 가능한 한 많은 공격 표면을 포괄하는 것의 중요성을 더욱 강조합니다. 이는 더 광범위한 코드와 구성 데이터, 프로토콜을 포괄한다는 의미입니다. 또한 애플리케이션 제공 라이프사이클에서 더 많은 감지 지점에 보안 메커니즘을 분산하고, 수동 작업을 더 이상 늘리지 않기 위한 도구와 자동화를 제공하는 것을 의미합니다.
예를 들어, F5 NGINX App Protect는 HTTP/S, HTTP/2, gRPC, MQTT 및 WebSocket 등 다양한 프로토콜에서 나타나는 비정상적인 동작을 방지하여 AI에서 식별한 많은 제로데이를 차단할 가능성이 높습니다. NGINX App Protect는 모든 NGINX 제품과 함께 배포하거나 CI/CD 파이프라인에 배포할 수 있습니다. 심층 방어의 또 다른 측면으로, NGINX One SaaS 콘솔은 자동화된 구성 권장 엔진으로 작동하여 팀이 전체 NGINX 제품군(NGINX Plus, NGINX 오픈 소스, Kubernetes 제품 및 Azure-as-a-Service 옵션 포함)에 대한 블록 제로데이에 대한 구성 변경 사항을 신속하게 적용할 수 있도록 합니다.
AI 주도 시대를 위한 심층 방어의 경계 확장
AI 제로데이는 단순히 위협 환경의 변화가 아니라 사이버 보안의 미래를 엿볼 수 있는 기회입니다. AI가 취약점을 발견하는 것은 단 한 번의 사건이 아닙니다. 이는 우리가 자신을 보호하기 위해 사용하는 도구가 우리를 공격하는 데 사용하는 도구와 같은 속도로 발전해야 한다는 신호입니다. AI로 인한 취약성은 사이버 보안에 있어 전환점을 가져오며, 더 광범위하고 심도 있는 방어 전략을 요구합니다.
공격자가 AI를 활용해 취약점을 찾아내고 악용함에 따라 CISO는 심층 방어에 집중해야 합니다. 즉, 공격 표면 전반에서 더 많은 영역을 포괄해야 합니다. 즉, 애플리케이션 수명 주기의 모든 단계에 보안 메커니즘을 배포하는 동시에 더 많은 프로토콜, 코드베이스 및 구성 데이터를 포함하도록 보호 범위를 확대한다는 의미입니다. AI 위협의 증가는 단순히 더 스마트한 도구를 필요로 하는 것이 아니라, 인간의 실수를 최소화하기 위한 포괄적인 적용 범위와 자동화가 필요합니다. 이 새로운 시대에서 생존은 모든 층을 강화하고 취약성을 보호하지 않은 채로 두지 않는 데 달려 있습니다.
자세한 내용을 알아보려면 F5 NGINX App Protect 웹페이지를 방문하세요.