AI 공장은 최신 앱 중 가장 최신의 앱을 생산합니다. AI 앱

최신 애플리케이션은 민첩성, 확장성 및 향상된 사용자 경험에 대한 필요성에 따라 상당한 발전을 거쳤습니다. 클라우드 컴퓨팅의 등장은 이러한 발전에 있어 중요한 전환점이 되었으며, 여러 환경에서 효율적으로 확장하고 원활하게 운영할 수 있는 고도로 분산된 시스템의 기반을 제공했습니다. 애플리케이션 현대화는 API 기반 시스템으로의 진화이며, 이를 통해 아키텍처가 하이브리드 및 멀티클라우드가 되었습니다. 

AI 애플리케이션은 API에 대한 의존도를 더욱 높이고 하이브리드 및 멀티클라우드가 새로운 표준으로 자리매김하고 있습니다. 컨테이너화 기술은 기본 인프라에 관계없이 소프트웨어에 일관되고 격리된 환경을 구축함으로써 애플리케이션 배포에 혁명을 일으켰습니다. 이러한 발전은 기존의 현대적 응용 분야에 핵심적인 역할을 할 뿐만 아니라 AI 팩토리의 기반 역할도 합니다. 클라우드 컴퓨팅과 컨테이너화가 제공하는 민첩성은 AI 모델을 훈련하고 배포하는 데 필요한 집약적인 컴퓨팅 수요를 관리하는 데 필수적입니다.

쿠버네티스와 같은 오케스트레이션 도구는 컨테이너화된 애플리케이션을 대규모로 관리하는 데 필수적입니다. 쿠버네티스는 이러한 애플리케이션의 배포, 확장, 관리를 자동화합니다. AI 워크플로에서 쿠버네티스는 여러 시스템에 걸쳐 AI 워크로드의 배포를 조정하여 리소스를 효율적으로 할당하고 AI 모델의 원활한 확장을 가능하게 합니다.

이 과정에서 중요한 측면은 MLOps입니다. MLOps는 AI 모델을 개발, 훈련하고, 운영화하는 데 따르는 고유한 과제를 해결합니다. MLOps는 지속적인 통합 및 배포(CI/CD)를 지원하여 AI 모델이 지속적으로 테스트되고, 업데이트되고, 배포되도록 보장합니다. 또한, 마이크로서비스 아키텍처의 도입으로 모놀리식 시스템이 더 작고 독립적으로 배포 가능한 서비스로 분할되어 현대적인 애플리케이션 개발이 혁신되었습니다. 이러한 접근 방식은 CI/CD를 가속화하여 더 빠르고 안정적인 소프트웨어 업데이트로 이어집니다.

보안은 언제나 현대적 애플리케이션의 발전에 있어서 초석이 되어 왔습니다. 정교한 사이버 위협이 증가함에 따라 최신 애플리케이션에는 웹 애플리케이션 방화벽(WAF), 분산 서비스 거부(DDoS) 보호, API 보안과 같은 고급 보안 수단이 통합되었습니다. 네트워크 및 전송 계층을 타겟으로 하는 3/4 계층 DDoS 공격과 애플리케이션 계층을 타겟으로 하는 7 계층 DoS 공격을 구별하는 것이 중요합니다. 

AI가 발전함에 따라 위협 모델도 진화합니다. 특히 자연어 처리(NLP) 인터페이스를 통해 액세스하는 대규모 언어 모델(LLM)의 경우 더욱 그렇습니다. LLM에 대한 위험에는 LLM 애플리케이션을 위한 OWASP Top 10에서 강조된 것과 같은 취약점, 즉 즉각적인 주입 공격 및 데이터 추출 위협과 모델별 DoS 공격이 포함됩니다. 이러한 보안 향상을 통해 AI 애플리케이션의 회복성과 보안이 유지되고, 진화하는 위협으로부터 AI 기반 솔루션의 무결성과 안정성이 유지됩니다.

AI 팩토리에 관한 시리즈를 보셨다면 API 보안 , 네트워크 세분화 , 트래픽 관리 , 검색 증강 생성(RAG) , 데이터 처리 장치(DPU) 와 같은 주제를 살펴보셨을 것입니다. 한 걸음 물러서서 AI 팩토리가 F5 AI 참조 아키텍처에 어떻게 들어맞는지, AI 팩토리가 AI 애플리케이션을 생성하는 방법, 그리고 이를 제공하고 보안하는 데 필요한 사항에 대해 논의해 보겠습니다.

F5는 고객이 고성능 애플리케이션을 제공하도록 지원해온 30년 가까운 경험을 바탕으로 추론, RAG, RAG 코퍼스 관리, 미세 조정, 훈련, 외부 서비스 통합 및 개발의 7가지 구성 요소와 AI-SaaS, 클라우드 호스팅, 셀프 호스팅 및 엣지 호스팅의 4가지 배포 유형으로 구성된 AI 참조 아키텍처를 개발했습니다. 자세한 내용은 블로그 'AI 팩토리 정의'를 방문하세요 . AI 애플리케이션은 API로 연결되고 극도로 분산된 가장 현대적인 애플리케이션이므로, 이 참조 아키텍처는 AI 애플리케이션 제공에 필수적인 성능, 운영 및 보안 과제를 해결합니다. 

AI 팩토리의 가장 일반적인 두 가지 구성 요소는 학습과 추론입니다. 그러나 각 구성 요소는 완전히 기능하는 AI 애플리케이션을 만드는 데 필요합니다. 일부 조직에서는 훈련이나 추론에 필요한 기능을 처리하기 위해 AI 팩토리를 구축할 수 있습니다. 어떤 기업은 모델 학습을 위한 서비스를 사용하거나 추론을 위한 인프라를 제공하기 위해 제3자를 활용할 수도 있습니다.

핵심적인 AI 애플리케이션은 분산되어 있으며, 잠재적으로 분산된 Kubernetes 컨테이너 플랫폼에서 실행될 수 있습니다. 이것이 바로 현대적 애플리케이션의 정의이며, "AI 애플리케이션은 단순히 현대적 애플리케이션 중 가장 현대적"이라는 문구가 유래한 것입니다. 하지만 이는 AI 공장을 짓는 기업들에게 무엇을 의미할까? AI 애플리케이션에는 Kubernetes 수신, 멀티 테넌트 송신, DNS 기반 트래픽 관리, 복원성 및 관찰성과 같은 오늘날의 최신 애플리케이션과 동일한 제공 및 보안 서비스가 필요합니다. 보안을 위해서는 DDoS 보호, 웹 애플리케이션 및 API 보호, 최적화 기술이 필요합니다. 

AI와 최신 애플리케이션에 공통적인 전달 및 보안 기능에 초점을 맞추고 AI에만 국한된 보안 문제에만 집중하지 않는다는 점이 놀랍게 보일 수 있지만, 이러한 접근 방식은 의도적인 것입니다. AI 애플리케이션은 고유한 위험을 초래하지만, 종종 새로운 혁신적인 기능을 선호하다 보니 애플리케이션 보안과 제공의 기본이 간과되는 경우가 많습니다. 조직이 앱 보안 분야에서 기존 전문 지식을 활용하여 공유 보안 및 제공 요구 사항(당사가 손쉬운 목표라고 부르는)을 먼저 해결함으로써 즉각적인 개선을 이룰 수 있습니다. AI 애플리케이션에는 새로운 구성 요소가 포함될 수 있지만 여전히 웹 및 API 상호 작용에 크게 의존하고 있으며 이는 현재 NetOps 및 SecOps 팀의 역량 내에 있습니다. 검증된 보안 및 제공 전략으로 시작하면 팀은 견고한 기반을 구축하고 점진적으로 AI 애플리케이션으로 인해 발생하는 고유한 과제를 해결할 수 있습니다.

F5 AI 참조 아키텍처의 주요 특징 AI 팩토리의 결과물뿐만 아니라 조직의 비즈니스 목표를 달성하기 위해 AI 애플리케이션을 성공적으로 만드는 데 따르는 과제와 위험도 고려합니다. 이를 위해 우리는 LLM 애플리케이션을 위한 OWASP 상위 10개 위험 및 과제 목록과 F5 애플리케이션 제공 상위 10개 위험 및 과제 목록을 상호 보완적으로 사용하기로 결정했습니다. 우리는 각 구성 요소와 빌딩 블록의 상호 연결을 매핑하고 해당 OWASP LLM 상위 10개와 F5 애플리케이션 제공 상위 10개가 적용되는 곳을 개략적으로 설명했습니다. 아래의 경우 AI 추론의 예를 참조하세요.

AI 애플리케이션 내의 모든 구성 요소와 상호 연결 지점은 현대적 애플리케이션을 위해 설계된 확립된 전달 및 보안 보호 기능의 이점을 누릴 수 있습니다. 이는 이러한 기존 보호 기능이 AI 애플리케이션을 보호하는 데 충분하다는 것을 의미하지 않습니다. 이러한 입증된 제공 및 보안 솔루션을 기반으로 활용함으로써 조직은 AI 애플리케이션의 제공 및 보안 태세를 크게 개선할 수 있습니다. 이러한 견고한 시작점에서 팀은 점진적으로 전문 기술을 개발하고 AI 애플리케이션이 제시하는 고유한 과제와 위험을 해결하는 데 필요한 고급 도구를 채택할 수 있습니다.

현재 F5 AI 참조 아키텍처는 미리 보기로 제공됩니다 . 고객은 다음 달 말부터 F5의 최고 애플리케이션 보안 및 제공 컨퍼런스인 AppWorld 에서 대화형 경험을 통해 전체 AI 참조 아키텍처를 탐색해 볼 기회를 가질 수 있습니다.