A F5 apresenta o AI Gateway para gerenciar e proteger as demandas crescentes de tráfego e aplicativos de IA

• Gerencia a segurança para usuários e provedores de serviços de IA, supervisionando a autenticação e os recursos de confiança zero
• Prioriza o consumo de serviços de IA entre equipes, aplicativos e APIs
• Permite a automação integrada com serviços e modelos de IA da OpenAI, provedores de nuvem, código aberto e muito mais

SEATTLE - F5 (NASDAQ: FFIV) anunciou o acesso antecipado ao F5 AI Gateway para simplificar as interações entre aplicativos, APIs e grandes modelos de linguagem (LLMs), impulsionando a adoção da IA corporativa. Essa avançada solução em contêiner otimiza o desempenho, a observabilidade e os recursos de proteção, o que resulta em redução de custos. Integrado ao portfólio da F5, o AI Gateway oferece às equipes de segurança e operações um caminho perfeito para a adoção de serviços de IA por meio de uma qualidade de saída de dados significativamente aprimorada e uma experiência de usuário superior.

De acordo com o relatório State of AI Application Strategy Report da F5, 75% das empresas estão implementando a IA. Como inúmeros aplicativos modernos, os serviços de IA são amplamente fornecidos e consumidos por meio de APIs. No entanto, as empresas enfrentam muitos desafios adicionais na arquitetura e no dimensionamento de aplicativos e serviços fluentes em IA. Por exemplo, operações eficientes exigem um monitoramento rigoroso de métricas cada vez mais relevantes, como custos de computação de GPU e capacidade de resposta do sistema, além de preocupações emergentes com a conformidade regulamentar.

"Os LLMs estão proporcionando novos níveis de produtividade e experiências de usuário aprimoradas para os clientes, mas também exigem supervisão, inspeção profunda no momento da inferência e defesa contra novos tipos de ameaças", disse Kunal Anand, diretor de inovação da F5. "Ao atender a esses novos requisitos e integrar-se às soluções confiáveis da F5 para gerenciamento de tráfego de API, estamos permitindo que os clientes implantem com confiança e eficiência aplicativos alimentados por IA em um cenário de ameaças cada vez maior."

As soluções de IA do mundo real requerem interações otimizadas de solicitação, resposta e prompt em todo o ecossistema de dados. O F5 AI Gateway observa, otimiza e protege um grande número de variáveis automatizadas e de usuários para oferecer reduções de custo, mitigar ameaças maliciosas e garantir a conformidade regulamentar.

O F5 AI Gateway foi projetado para atender aos clientes - e seus aplicativos - no ponto ideal de sua jornada de IA. Ele pode ser implantado em qualquer nuvem ou data center e se integrará nativamente às plataformas NGINX e BIG-IP da F5 para aproveitar os serviços líderes de segurança e entrega de aplicativos da F5 em implantações tradicionais, multinuvem ou de borda. Além disso, a extensibilidade aberta da solução permite que as organizações desenvolvam e personalizem a segurança programável e os controles aplicados pelo F5 AI Gateway. Esses processos podem ser facilmente atualizados e aplicados dinamicamente para promover a adesão instantânea às políticas de segurança e às exigências de conformidade.

"Os aplicativos alimentados por IA se tornarão a base de quase todas as empresas e organizações nos próximos anos", disse Shari Lava, diretora sênior de IA e automação da IDC. "A introdução de um gateway de IA pela F5 em sua pilha de serviços de aplicativos permite que seus clientes tenham maior flexibilidade na forma como criam sua estrutura de aplicativos de IA, mas ainda têm proteção aprimorada e otimização de modelos".

F5 AI Gateway:

• Oferece aplicação de políticas de segurança e conformidade com detecção e correção automatizadas contra os riscos identificados no OWASP Top Ten for LLM Applications.
• Descarrega tarefas duplicadas dos LLMs com cache semântico, aprimorando a experiência do usuário e reduzindo os custos operacionais.
• Simplifica os processos de integração, permitindo que os desenvolvedores se concentrem na criação de aplicativos com tecnologia de IA em vez de gerenciar infraestruturas complexas.
• Otimiza o balanceamento de carga, o roteamento de tráfego e a limitação de taxa para LLMs locais e de terceiros para manter a disponibilidade do serviço e melhorar o desempenho.
• Fornece uma única interface de API que os desenvolvedores podem usar para acessar o modelo de IA de sua escolha.

"O AI Gateway da F5 é parte integrante de nossa estratégia de IA", disse Austin Geraci, CTO da WorldTech IT. "Com essa tecnologia, nossos clientes podem desenvolver aplicativos de IA internos e externos capazes de lidar com um aumento nas consultas sem degradar o desempenho do site e do aplicativo. A F5 traz os principais recursos de segurança e entrega de aplicativos para acelerar as experiências de IA em escala. Com o F5 AI Gateway, o cache semântico e o roteamento inteligente de tráfego representam, por si só, uma economia significativa de custos, e a unificação dos serviços da F5 economizará centenas de horas de trabalho de integração para os clientes".

Recursos de apoio

• Página do produto F5 AI Gateway
• Visão geral do F5 AI Gateway
• Postagem no blog do F5 AI Gateway