IT 자동화 보안을 위한 AI 활용

갈등이 잦은 시기에 우물에 독을 던지는 일은 이미 널리 알려진 역사 입니다. 우물에 대한 접근을 차단하든지, 질병을 퍼뜨리는 힘의 증폭제로 사용하든지, 마을 우물은 언제나 중요한 공격 벡터가 되어 왔습니다.

현대에 이르러서 우리는 우물을 인프라, 애플리케이션 및 디지털 서비스에 변화를 가져오는 자동화를 시작하는 스크립트나 API 엔드포인트에 비유할 수 있습니다. 대부분의 조직(곧 발간될 2023년 애플리케이션 전략 현황 보고서에 따르면 78%)은 이를 위해 IT 전반에 걸쳐 다양한 자동화를 도입합니다. Facebook, Twitter, Amazon 등이 운영하는 복잡하고 대규모 시스템을 변경하기 위해 자동화가 널리 보급된 점을 고려하면 놀랄 일이 아닙니다.

그 이유는 옛날의 공동 우물처럼 단 하나의 스크립트가 몇 분 만에 수천 개의 시스템에 영향을 미칠 수 있기 때문입니다. 예전에는 같은 수의 시스템에 영향을 미치는 수동 변경 작업을 하려면 며칠 또는 몇 주가 걸렸을 수도 있습니다. 자동화는 힘을 증폭시켜 인간이 결코 이룰 수 없는 방식으로 모든 종류의 작업을 확장할 수 있게 해줍니다. 이는 프로세스, 관행 및 사업을 확장하는 데 있어 초석이 됩니다. 실제로 디지털 비즈니스를 위한 엔터프라이즈 아키텍처 에서 언급했듯이 조직이 자동화 없이는 디지털 비즈니스가 될 수 없다고 주장할 수도 있습니다. 이는 조직이 데이터를 성공적으로 활용하고, SRE 운영을 도입하고, 최신 앱 제공을 통해 디지털 서비스에 적응 능력을 주입하기 위해 구축해야 하는 6가지 핵심 역량 중 하나입니다.

하지만 자동화의 중요한 점은 그것이 자동화된다는 것입니다. 일단 시작되면 이러한 시스템 전반에 걸쳐 발생하는 연쇄적 변화를 가로채는 것은 어렵습니다. 결국 변화의 속도는 자동화를 촉진하는 요인 중 하나이며, 일단 변화가 시작되면 멈추는 것은 어렵거나 불가능합니다.

의도치 않은 변화를 확산시켜 궁극적으로 인터넷의 광대한 영역에 영향을 미치는 자동화에 대해 들어보지 못했다면 그리드에서 벗어나 생활해야 할 것입니다. 스크립트에 잘못된 매개변수를 입력한 경우 Enter 버튼을 누르거나 API 엔드포인트를 호출하면 해당 매개변수를 회수하는 것이 거의 불가능합니다. 이 명령이 실행되면 우물은 오염됩니다.

제가 IT 자동화의 보안에 대해 경각심을 높인 것은 이번이 처음은 아닙니다. 이는 간과되고 충분히 탐색되지 않은 공격 벡터이며, 결국에는 악용될 것입니다. 그리고 '결국'이 실현되기까지는 수십 년이 걸릴지라도, 인간의 실수라는 더 즉각적인 위협은 여전히 존재합니다. 최신 Uptime Institute 조사 에 따르면 "조직의 약 40%가 지난 3년 동안 인적 오류로 인해 심각한 중단을 겪었습니다."

바로 여기서 AI(더 정확하게는 ML)가 등장합니다.