F5와 NetApp의 RAG를 사용하여 AI의 마법을 풀어내다
기업이 AI의 힘을 활용하는 방법을 모색함에 따라 많은 기업이 의사 결정을 개선하기 위해 대규모 언어 모델(LLM)에 관심을 기울이고 있습니다. 그러나 ChatGPT와 같은 LLM은 인터넷에서 제공되는 방대한 양의 공개 데이터를 기반으로 훈련되므로, 자체 기업 데이터에서 통찰력을 얻기 위해 AI를 활용하려는 기업에서는 그 유용성이 제한됩니다. 게다가 이러한 모델을 훈련하는 데는 수개월의 시간과 많은 비용이 들기 때문에 모든 응답이 실제로 의미 있고 최신인지 확인하는 것은 사실상 불가능합니다.
문제는 기업이 자연어 처리를 활용해 자사의 특정 데이터로부터 강력하고 최신의 AI 통찰력을 어떻게 얻을 수 있는가입니다. 스스로 LLM을 만드는 것은 엄청나게 비쌉니다. 또한, 전문화된 데이터를 이용해 기존 시스템을 미세하게 조정하는 것도 마찬가지입니다.
다행히도, 기업이 이러한 한계를 극복할 수 있는 방법으로 검색 증강 생성(RAG)이 등장했습니다. 기업은 이러한 고급 AI 기술을 사용하여 ChatGPT와 같은 사전 훈련된 LLM을 자체 독점 데이터와 결합하여 정확하고 상황에 맞는 응답을 얻을 수 있습니다. 승인된 회사 절차, 정책 또는 제품 정보 등 가장 관련성 있는 소스에서만 데이터를 가져와서 사용되는 데이터를 제한할 수 있습니다. 그리고 RAG는 회사의 벡터 데이터베이스에서 실시간으로 정보를 검색하므로 새로운 데이터가 추가될 때마다 항상 최신 정보를 얻을 수 있습니다.
LLM의 이점과 회사 데이터 결합
RAG는 데이터 검색과 언어 생성을 효과적으로 결합합니다. 검색기는 사용자의 질의에 따라 데이터를 검색하는 검색 엔진처럼 작동하며, 정교한 알고리즘을 사용하여 가장 관련성 있는 정보만 수집합니다. 생성기는 일반적으로 이 정보를 수집하여 정확하고 정보에 입각한 응답으로 변환하는 ChatGPT와 같은 LLM입니다. RAG는 이 두 가지 구성 요소를 통합하여 기업이 경쟁 우위를 확보할 수 있는 맞춤형 AI 시스템을 구축할 수 있도록 지원합니다.
잠재적으로 활용될 수 있는 분야는 매우 다양합니다. 영업 및 마케팅 팀은 시장 보고서, 고객 피드백, 소셜 미디어 피드로부터 얻은 정보를 빠르게 결합하여 구매 추세와 고객 선호도를 파악할 수 있습니다. 고객 서비스 팀은 제품 정보, 고객 프로필, 구매 내역을 활용하여 고객 문의에 개인화된 답변을 제공하는 RAG 기반 챗봇을 통해 고객 충성도를 높일 수 있습니다. 법률팀은 법률 자문을 제공할 때 계약서, 법적 사건 및 기타 문서에서 AI가 학습한 내용을 쉽게 활용할 수 있습니다. RAG는 직원들이 여러 데이터베이스에 저장된 관련성 있는 최신 구조화 및 비구조화 데이터를 빠르고 정확하게 활용할 수 있도록 지원함으로써 노동력을 줄이고 고객 충성도를 높여 비즈니스 생산성을 높이고 고객 경험을 개선하며 수익을 늘릴 수 있습니다.
RAG가 기업 AI를 혁신하겠다고 약속했지만 여전히 몇 가지 장애물이 남아 있습니다. 대부분의 회사가 구축한 분산된 IT 환경에서 데이터를 검색하고 통합하는 것은 가장 큰 어려움 중 하나입니다. 오늘날 대부분의 기업은 매우 복잡한 하이브리드 멀티클라우드 환경에서 애플리케이션을 운영합니다. 데이터는 일반적으로 온프레미스 데이터 센터와 Microsoft Azure, Google Cloud Platform, AWS와 같은 여러 클라우드를 포함한 여러 장소에 저장되므로 이러한 모든 분산된 데이터를 LLM과 통합하는 것이 어려울 수 있습니다. 게다가 적절한 보호 조치가 없다면 개인 정보가 노출될 위험이 있습니다.
하이브리드, 멀티클라우드 환경에서 RAG 구현
F5는 이러한 문제를 해결하기 위해 데이터 인프라 회사인 NetApp과 협력해 왔습니다. F5의 안전하고 고성능의 멀티클라우드 네트워킹 기능을 NetApp의 강력한 데이터 관리 솔루션과 통합함으로써 회사 데이터가 어디에 있든 빠르게 검색하고 LLM과 안전하게 결합할 수 있게 되었습니다.
NetApp의 Cloud Volumes ONTAP 과 Azure NetApp Files는 클라우드 스토리지 비용과 성능을 최적화하는 동시에 데이터 보호와 규정 준수를 강화합니다. F5 Distributed Cloud Network Connect 와 결합하면 데이터가 저장된 위치에 관계없이 여러 영역과 지역 간에 데이터를 빠르고 안전하게 연결하고 이동할 수 있습니다.
많은 기업이 사업을 발전시키는 LLM 애플리케이션을 제공할 방법을 모색함에 따라, 두 회사의 공동 솔루션은 비용을 절감하는 동시에 데이터를 원활하게 관리, 보호, 최적화할 수 있는 방법을 제공합니다. 회사 데이터는 비공개로 유지됩니다. 그리고 사용자는 디지털 시대에서 성공하는 데 필요한 정확하고 시기적절하며 상황에 맞는 정보를 얻을 수 있습니다.
F5의 최고기술 및 AI 책임자인 쿠날 아난드(Kunal Anand)는 "저희의 공동 솔루션은 타의 추종을 불허하는 성능과 철저한 보안을 제공하여 기업이 고유한 비즈니스 맥락에서 AI의 역량을 자신 있게 활용할 수 있도록 지원합니다."라고 말했습니다.
엔터프라이즈 AI의 모든 약속을 포착하다
이 파트너십은 기업이 하이브리드 멀티클라우드 환경을 연결하는 데 도움을 주기 위해 F5와 NetApp 간의 이전 협업을 바탕으로 구축되었습니다. 그리고 이것은 단지 시작일 뿐이라는 것을 알아두는 것이 중요합니다. 앞으로 몇 달 동안 우리는 기업이 분산된 IT 환경 전반에서 AI의 모든 기능을 활용할 수 있도록 돕기 위해 계속 협력할 것입니다.
자세한 내용은 보도자료를 읽어보세요. 또한 F5 및 NetApp 웹페이지를 방문해 보세요.