엔터프라이즈 AI 제공 및 보안

프런트엔드 애플리케이션과 추론 서비스 API 간의 상호 작용을 간략하게 설명합니다. AI 모델에 요청을 보내고 응답을 받는 데 중점을 둡니다. 이를 통해 더 복잡한 상호작용을 위한 토대가 마련됩니다.

대규모 언어 모델(LLM) 오케스트레이션 및 검색 증강 서비스를 추가하여 기본 추론을 향상시킵니다. 벡터 데이터베이스와 콘텐츠 저장소에서 추가 컨텍스트를 검색하는 방법과 이를 사용하여 컨텍스트가 풍부한 응답을 생성하는 방법에 대해 자세히 설명합니다.

검색 증강 생성(RAG)을 통한 추론에 필요한 데이터 수집 프로세스에 중점을 둡니다. 여기에는 데이터 정규화, 임베딩, 벡터 데이터베이스 채우기, RAG 호출에 대한 콘텐츠 준비가 포함됩니다.

모델과의 상호작용을 통해 기존 모델의 성능을 향상시키는 것을 목표로 합니다. 모델을 처음부터 다시 구축하지 않고도 모델을 조정하고, 추론 및 RAG를 통한 추론을 통해 데이터를 수집하여 워크플로를 미세 조정하는 데 중점을 둡니다.

이전 체크포인트(재학습)를 사용할 수도 있지만, 근본적으로 새로운 모델을 구축하는 것을 포함합니다. 여기에는 데이터 수집, 전처리, 모델 선택, 학습 방법 선택, 학습, 검증/테스트가 포함됩니다. 이 반복적 과정의 목적은 특정 작업에 맞는 강력한 모델을 만드는 것입니다.

이 기능은 AI와 외부 서비스 및 API의 원활한 통합, 즉 에이전트형 AI를 포괄하며, 사용자 요청이나 모델 추론을 기반으로 동적 상호 작용, 데이터 검색 및 작업 실행을 가능하게 합니다. 외부 도구, 데이터베이스, MCP(모델 제어 프로토콜)를 활용하여 AI는 기능을 확장하고 대리적 행동을 보이며, 필요에 따라 자율적으로 결정을 내리거나 사전 조치를 취합니다. 이를 통해 다양한 외부 리소스와 서비스를 활용하여 지능적이고 상황에 맞는 대응과 솔루션을 제공하는 시스템의 능력이 향상됩니다.

AI 애플리케이션 구성 요소를 개발, 유지 관리, 구성, 테스트 및 배포하기 위한 워크플로를 포함합니다. 여기에는 프런트엔드 애플리케이션, LLM 오케스트레이션, 소스 제어 관리, CI/CD 파이프라인이 포함됩니다.