Implante, proteja e otimize modelos de IA para aplicativos inteligentes com F5 e Intel

A nova geração de aplicativos inteligentes usa automação de IA com base em entradas de dados — por exemplo, um aplicativo de seguro que monitora condições climáticas severas — ou pode usar aprendizado de máquina para adaptar e melhorar a experiência do usuário. A Gartner estima que até 2026, 30% dos novos aplicativos usarão IA para impulsionar interfaces de usuário adaptáveis e personalizadas, ante menos de 5% atualmente.² 

Mas muitas organizações não têm as habilidades necessárias para criar ou usar os modelos de IA de que precisam. De acordo com uma pesquisa do Fórum Econômico Mundial, os executivos estimam que até 40% de sua força de trabalho geral pode precisar de requalificação para trabalhar efetivamente com IA.³ Em resposta, novas soluções estão surgindo para permitir que os desenvolvedores aproveitem modelos de IA com o mínimo de código.

Os modelos de IA também exigem poder computacional significativo, o que pode criar limitações. Embora colocar modelos de IA perto da fonte de entrada reduza a latência para inferência, os locais de borda geralmente não têm os recursos necessários para um desempenho aceitável de IA.

Para abordar a facilidade de uso e a otimização de recursos do desenvolvedor, a Intel desenvolveu o OpenVINO, um kit de ferramentas de código aberto que acelera a inferência de IA ao mesmo tempo em que oferece um espaço menor e uma abordagem de "escreva uma vez, implante em qualquer lugar". Ele permite que os programadores desenvolvam soluções de IA escaláveis e eficientes com relativamente poucas linhas de código. O OpenVINO também pode converter e otimizar modelos de IA para executá-los em data centers, na nuvem ou na borda.

Embora o OpenVINO torne a IA mais acessível para cenários do mundo real, como inferência de IA, ela precisa de recursos de segurança e entrega, assim como os aplicativos. Uma implantação do OpenVINO pode consistir em centenas ou milhares de servidores de modelo baseados em contêineres. Para fornecer resultados de inferência de forma confiável aos usuários ou aplicativos, você precisa de uma maneira de monitorar a integridade do servidor e gerenciar o tráfego. O F5 NGINX Plus pode proteger servidores modelo OpenVINO.

Embora seja possível usar a versão de código aberto do NGINX com o OpenVINO, usar o NGINX Plus adiciona recursos valiosos, como alta disponibilidade, verificações de integridade ativas e suporte premiado. O NGINX Plus também fornece balanceamento de carga e terminação SSL para que aplicativos e usuários possam se conectar de forma confiável e segura aos seus servidores modelo OpenVINO.

Para maior disponibilidade, o NGINX Plus pode ser implantado como um par ativo-passivo. Isso cria uma solução de alta disponibilidade, usando o primário para processar ativamente o tráfego enquanto o backup monitora a integridade e assume o controle em caso de problemas. O cache de conteúdo e a terminação SSL melhoram o desempenho reduzindo a carga nos servidores do modelo OpenVINO.

As verificações de integridade ativas no NGINX Plus monitoram seus servidores modelo para garantir que o tráfego seja enviado apenas para servidores disponíveis. Proteja e valide o tráfego criptografado de entrada usando certificados mTLS e use análises e painéis para antecipar ou solucionar problemas com seus servidores. A natureza leve do NGINX Plus, bem como o suporte de alto nível para instalação, implantação e depuração, facilitam a adoção para atender às necessidades do seu aplicativo com tecnologia de IA.