Produtos

Gateway de IA F5

Implante aplicativos de IA em qualquer lugar com observabilidade, segurança de IA e contenção de custos para sua organização.

Segurança e desempenho de aplicativos de IA

Inspecione prompts de entrada e saída em qualquer ambiente

O F5 AI Gateway permite que organizações implantem aplicativos de IA com confiança em qualquer lugar. Garanta facilmente segurança, escalabilidade e confiabilidade para sua implementação de IA. O AI Gateway inspeciona prompts de entrada e respostas de saída para evitar resultados inesperados ou vazamento de dados críticos. A observação, proteção e gerenciamento personalizáveis de interações de IA ajudam a melhorar a usabilidade de aplicativos de IA e simplificam a conformidade.

Maximize a disponibilidade

Roteie o tráfego e limite a taxa de modelos de idiomas locais e de terceiros para melhorar o desempenho, manter a disponibilidade e controlar custos.

O AI Gateway protege e otimiza seus aplicativos de IA

Diagrama de gateway de IA

O Gateway protege e otimiza seus aplicativos de IA

O AI Gateway é construído em uma arquitetura de microsserviços portáteis, permitindo que você implante onde quer que seus aplicativos de IA estejam sendo criados, proporcionando observabilidade, segurança e otimização intransigentes. O suporte integrado ao OpenTelemetry fornece visibilidade em todos os prompts de entrada e respostas de saída, dando a você mais controle e facilitando os esforços de conformidade.

Nuvem pública

Observe e proteja suas cargas de trabalho de aplicativos AI SLM e LLM hospedadas no Azure, AWS e Google Cloud Platform. Integra-se com o NGINX One.

No local

Monitore e proteja suas cargas de trabalho de aplicativos AI SLM e LLM em sites de data center com serviços ADC via NGINX One e BIG-IP.

Nuvem privada

Proteja e observe suas cargas de trabalho de aplicativos AI SLM e LLM hospedadas em nuvens privadas ou instalações de colocation com serviços ADC via NGINX One e BIG-IP.

Principais capacidades

Detecte e mitigue os riscos listados no OWASP LLM Top 10 e os requisitos de conformidade com identificação e correção automáticas para prompts de entrada e respostas de saída.

Proteja todo o tráfego de IA

Inspeção de todo o tráfego de entrada e saída para aplicativos de IA

Prevenir a raspagem de dados

Proteja ativos empresariais ou dados PII do cliente

Arquitetura segura

Autenticação, autorização e controle de acesso baseado em função

Operação flexível

Conecte e roteie para OpenAI, Anthropic, Ollama, etc.

Visibilidade completa

Exportação automatizada de dados OpenTelemetry do F5 AI Gateway para aplicativos SIEM/SOAR para coletar métricas e rastros

Reduzir custos operacionais

O cache semântico descarrega tarefas duplicadas de SLMs e LLMs, reduzindo o consumo de tokens e melhorando a experiência do usuário

Suporte e integrações de plataformas

Suporte de plataforma e provedor de nuvem

Implante em plataformas de nuvem líderes para acesso escalável a aplicativos de IA

Grandes modelos de linguagem suportados

O AI Gateway oferece suporte às principais plataformas de modelos de IA para proteger interações de aplicativos

observabilidade

Suporte OpenTelemetry para visibilidade e relatórios

Recursos