블로그 | CTO 사무실

AI 애플리케이션의 전달 및 보안에 대한 포괄적인 가이드

로리 맥비티 썸네일
로리 맥비티
2024년 8월 11일 게시

어떤 것이 필요하고 어디에 두어야 합니까? 

새로운 세대의 애플리케이션 아키텍처는 모두 네트워크 트래픽에 영향을 미칩니다. 우리가 이 점에 주의를 기울이는 이유는 애플리케이션 아키텍처에 큰 변화가 있을 때마다 발생하는 과제를 해결하기 위해 애플리케이션 제공 및 보안에도 보완적인 변화가 있기 때문입니다. 

운영상의 과제를 해결하기 위한 변화와 네트워크 대응을 살펴보면, AI 애플리케이션에는 실제로 새로운 과제가 발생하지 않는다는 점이 흥미롭습니다. 규모, 성능, 보안, 복잡성이 증가한 것은 물론이지만, 이는 우리가 10년 이상 해결해 온 과제와 동일합니다. 

하지만 AI는 작업 부하 분포와 교통 패턴을 변경합니다. 이것이 중요한 이유는 네트워크 트래픽의 대부분이 애플리케이션 트래픽이고, API 트래픽이 점점 더 늘어나고 있기 때문입니다. 다른 점은 이겁니다. 코어, 클라우드, 에지 전반에 걸친 새로운 트래픽 패턴과 분포를 이해하면 어떤 애플리케이션 제공 및 보안 서비스가 필요한지, 그리고 최대의 효과와 효율성을 위해 어디에 배치할 수 있는지에 대한 통찰력을 얻을 수 있습니다. 

새로운 교통 패턴

AI 애플리케이션의 가장 중요한 결과 중 하나는 EW 및 NS 트래픽이 모두 증가한다는 점입니다. NS 트래픽의 상당 부분이 AI에서 발생하므로 기존 인바운드 NS 데이터 경로 외에도 아웃바운드 NS 데이터 경로가 전략적 제어 지점으로 도입됩니다. 

AI 애플리케이션은 향후 2~3년 동안 기존 포트폴리오에 추가될 것이며, 조직에서 NLI(자연어 인터페이스)에 대한 소비자의 수요를 이해함에 따라 통합이 이루어질 것입니다. 

N-S 데이터 경로의 분산이 증가함에 따라 기업 경계에서 서비스로서의 보안에 대한 수요가 증가하는 반면, 여러 환경 간에 E-W 데이터 경로의 분산이 증가함에 따라 멀티클라우드 네트워킹에 대한 필요성이 커지고 있습니다. 내부적으로는 E-W 데이터 경로의 데이터가 중요해지면서 보안 및 액세스 기능에 대한 필요성이 커지고 있습니다.

결과적으로 AI 애플리케이션 아키텍처에서 애플리케이션 제공 및 보안이 중요한 두 가지 새로운 삽입 지점이 생기고, 효율성, 비용 절감, 효과를 염두에 두고 애플리케이션 제공 및 보안을 배포하는 위치를 재고할 수 있는 기회가 생깁니다. 

추론 서버에 대해 CVE가 기록되기 시작했다는 점을 감안하면 이는 중요합니다. 이는 API를 통해 클라이언트와 통신하는 "모델" 계층의 서버 부분입니다. 여기에서 API 보안을 사용하는 것은 전반적인 AI 보안 전략에서 중요한데, AI 모델과 서버를 악용으로부터 검사, 탐지 및 보호하는 기능이 가장 잘 배치되는 곳이기 때문입니다. 이는 "최후의 방어선"이며, 프로그래밍 가능한 API 보안 솔루션이 제공되면 AI 모델에 대한 새로운 공격을 완화하는 가장 빠른 수단입니다. 

앱 제공 및 보안을 위한 삽입 지점

AI 추론 패턴 에 관한 게시물을 기억하실 겁니다. 이 게시물에서는 오늘날 AI 추론을 위한 세 가지 주요 배포 패턴을 설명합니다. 이러한 패턴을 기반으로 확장된 아키텍처에서 애플리케이션 서비스를 위한 6가지 삽입 지점을 식별하고, 보안, 확장성, 효율성을 최적화하기 위해 해당 서비스를 어디에 배포하는 것이 가장 좋은지 파악할 수 있습니다. 

  1. 글로벌 서비스(회사별) 이 계층의 애플리케이션 제공 및 보안은 일반적으로 보안 서비스이지만 DNS, GSLB, 멀티클라우드 네트워킹과 같은 회사 수준의 제공 서비스도 포함됩니다. DDoS 및 봇 보호 와 같은 보안 서비스는 공격자가 특히 퍼블릭 클라우드에 호스팅된 애플리케이션의 경우 IT 분야의 중요하고 비용이 많이 드는 리소스를 소비하는 것을 방지하는 데 적합합니다. 
  2. 공유 서비스(위치별) 이 계층의 애플리케이션 전달 및 보안은 공격자에 대한 추가적인 보호 역할을 하며 애플리케이션, API, 인프라 서비스(방화벽, SSL VPN 등)에 대한 부하 분산과 같은 가용성 서비스를 제공합니다.  
  3. 애플리케이션 서비스(애플리케이션별) 이 삽입 지점에서 의 애플리케이션 제공 및 보안은 제공 및 보호하는 애플리케이션이나 API에 더 관련성이 높습니다. 여기에는 최신 애플리케이션을 위한 WAF, 로컬 로드 밸런싱, 유입 제어 등의 앱 서비스가 포함됩니다. 이러한 앱 서비스는 사용자와 앱 간 커뮤니케이션을 제공하고 보호합니다. 
  4. 마이크로서비스 네트워킹(클러스터당) 이 삽입 지점의 애플리케이션 제공 및 보안은 일반적으로 Kubernetes 인프라의 일부로 배포되며 mTLS 및 서비스 메시를 포함합니다. 이러한 서비스는 앱 간 커뮤니케이션을 전달하고 보호하기 위한 것입니다. 
  5. AI 추론 서비스(AI 컴퓨팅 단지별) 이 새로운 삽입 지점은 AI 애플리케이션에 특화되어 있으며, AI 추론 서비스를 특별히 제공하고 보호하도록 설계된 제공 및 보안 기능을 포함합니다. AI 추론 API를 보호하기 위해 부하 분산이 일반적이며 애플리케이션 계층 속도 제한도 일반적입니다. 자세한 내용은 AI 추론이 데이터 센터 아키텍처에 미치는 영향을 참조하세요. 
  6. AI 인프라 서비스(AI 서버당) 이 새로운 삽입 지점은 AI 네트워크 패브릭에 내장되어 있으며, 애플리케이션 제공 및 보안은 DPU에 배포되어 제공 및 보안 서비스의 오프로드를 용이하게 합니다. 이 삽입 지점은 CPU에서 필요한 전달 및 보안을 오프로드하여 추론 투자의 효율성을 개선하고 추론 서버가 "서비스만 제공"할 수 있도록 하는 역할을 합니다. F5는 내부에서 외부로 추론을 확장하는 것으로 이 계층에 대한 자세한 내용을 제공합니다.

사실 대부분의 애플리케이션 제공 및 보안 서비스는 이러한 삽입 지점 중 어디에든 배포될 수 있습니다. 예외는 Kubernetes 배포에 바인딩된 인그레스 컨트롤러 및 서비스 메시와 같이 환경과 통합되도록 특별히 설계된 서비스입니다. 

핵심은 효과, 효율, 비용 등 변수를 극대화할 수 있는 삽입 지점을 파악하는 것입니다. 여기에는 해당 서비스의 운영 비용뿐만 아니라 IT 분야에서 해당 트래픽을 더욱 심층적으로 처리하는 데 관련된 비용도 포함됩니다. 

애플리케이션 제공 및 보안을 삽입 지점에 맞추는 모범 사례가 있지만(따라서 각각에 대한 특정 서비스가 언급됨) 두 개의 엔터프라이즈 아키텍처가 동일하지 않기 때문에 항상 다르게 적용할 이유가 있습니다. 이는 또한 애플리케이션 제공 및 보안의 프로그래밍 가능성에 대한 주요 이유 중 하나이기도 합니다. 두 개의 환경, 애플리케이션 또는 네트워크가 동일하지 않기 때문에 고유한 사용 사례에 맞게 사용자 정의할 수 있는 기능이 중요한 기능이기 때문입니다. 

다양한 환경과 삽입 지점에서 애플리케이션 제공 및 보안이 필요하다는 사실 때문에 F5는 모든 환경에서 가능한 한 많은 삽입 지점에서 애플리케이션 제공 및 보안을 구축하도록 지원하는 데 주력합니다. 이는 조직이 환경, 애플리케이션 및 네트워크를 어떻게 설계했는지에 관계없이 효능, 효율성 및 비용을 최적화할 수 있도록 보장하는 방법이기 때문입니다.