Gateway de IA F5: Resolvendo os desafios únicos da segurança e entrega de IA
No ano passado, aprendemos muito sobre IA generativa. Em particular, vimos as melhores práticas para padrões de implantação se materializarem, fábricas de IA se tornando um novo bloco de construção de data center e as preocupações sobre entrega e segurança de modelos e aplicativos de IA surgirem.
Embora seja verdade que os aplicativos de IA são os “mais modernos dos aplicativos modernos” e dependem muito de APIs, também é verdade que os aplicativos de IA trazem desafios únicos com relação à segurança, monitoramento e entrega.
Um desafio significativo se deve à natureza não determinística das aplicações de IA. Ou seja, as entradas e as respostas de saída variam muito e evoluem com o tempo. Os aplicativos de IA também podem extrair dados de fontes estruturadas e não estruturadas que podem abranger vários locais. De fato, não foi nenhuma surpresa quando pesquisamos o mercado e encontramos uma combinação robusta de planos de implantação de IA em nuvem pública, local e híbrida.
O problema com entradas e saídas não estruturadas e imprevisíveis é a dificuldade inerente em determinar se uma solicitação ou resposta contém informações confidenciais ou incorretas. Embora a segurança de API e os firewalls de aplicativos da web sejam frequentemente usados exatamente para essa finalidade, eles operam com conteúdo determinístico. Ou seja, o formato e o conteúdo das solicitações e respostas são compreendidos e, portanto, fica mais fácil detectar conteúdo malicioso ou sensível. Com a IA, embora ela aproveite as mesmas construções de APIs e aplicativos da web, o conteúdo é altamente variável, o que dificulta a elaboração de políticas que examinem ou limpem solicitações e respostas.
Implícito nesse desafio está outro: O tráfego de IA deve ser monitorado em ambas as direções. Isso é particularmente verdadeiro, dado que uma porcentagem significativa de organizações planeja alavancar a IA como um serviço, como ChatGPT, Azure, Google ou Hugging Face.
A segurança necessária para proteger modelos de IA
É por isso que as soluções de segurança de API e aplicativos existentes não são suficientes para proteger modelos e aplicativos de IA. A segurança de IA é um complemento a esses serviços existentes, oferecendo recursos adicionais e exclusivos necessários para manter empresas e clientes seguros, como proteção contra injeção imediata, manipulação de modelos, alucinações e ataques com tecnologia de IA.
Para gerenciar e proteger modelos e aplicativos de IA, os serviços de entrega e segurança de aplicativos devem:
- Observe e registre todas as solicitações, respostas e ações administrativas para dar suporte aos requisitos legais e de conformidade.
- Proteja organizações e usuários inspecionando e agindo em avisos e respostas maliciosos, confidenciais ou imprecisos.
- Acelere o desempenho usando políticas e controles de direcionamento de tráfego, incluindo prevenção de ataques volumétricos.
Por que o F5 AI Gateway?
Por mais de 20 anos, a F5 enfrentou os desafios de entrega e segurança impostos pelas mudanças nas arquiteturas de aplicativos. A IA introduz uma nova arquitetura de aplicativo que, assim como seus antecessores, exige uma evolução complementar na entrega e segurança do aplicativo. O F5 AI Gateway protege, acelera e observa aplicativos com tecnologia de IA e é uma progressão natural de entrega e segurança de aplicativos para o F5.
Essa progressão inclui suporte para a realidade híbrida e multicloud dos atuais ativos de TI, de modo que o F5 AI Gateway pode ser implantado sozinho ou integrado com software, hardware ou serviços F5 existentes.
Inicialmente, nosso foco para o F5 AI Gateway é atender às principais necessidades de entrega e aos dez principais itens do OWASP LLM relacionados aos desafios de segurança em tempo real, com mais por vir no futuro.
Recursos adicionais, como relatórios de uma ampla gama de métricas via OpenTelemetry, atenção cuidadosa aos requisitos de log de auditoria, cache semântico, limitação de taxa e roteamento de modelo baseado em conteúdo, garantem suporte para todos os três requisitos de entrega e segurança de IA: observar , proteger e acelerar .
Reconhecendo que a IA está evoluindo rapidamente e que não há duas empresas iguais, o F5 AI Gateway permite ainda mais que as organizações se adaptem a requisitos personalizados e novos com um ecossistema de plug-ins suportado por um kit de desenvolvimento de software (SDK) para Python, Rust e Go.
Protegendo qualquer aplicativo e API, em qualquer lugar
A F5 está comprometida em entregar e proteger todos os aplicativos e APIs, em qualquer lugar. À medida que os aplicativos evoluem, isso significa evoluir nosso portfólio para enfrentar desafios novos e únicos. Quando se trata de aplicativos de IA, o F5 AI Gateway fornece o que as organizações precisam para entregá-los e protegê-los em qualquer lugar.
Você pode saber mais sobre o F5 AI Gateway aqui ou entrando em contato com seu executivo de conta ou parceiro de tecnologia F5.