F5 libère l'innovation grâce à de puissantes capacités d'IA sur BIG-IP Next pour Kubernetes sur les processeurs DPU NVIDIA BlueField-3.

La création d’une infrastructure d’IA et d’inférence LLM souveraine et évolutive nécessite de relever quatre défis clés :

1. Latence et performances – Une IA rapide et réactive est essentielle, en particulier pour les cas d’utilisation interactifs. Personne n’aime regarder un spinner en attendant qu’une IA réfléchisse.
2. Sécurité des données – Les LLM traitent souvent des données sensibles. Garantir une inférence sécurisée et privée est essentiel et encore plus complexe en raison des différentes règles de sécurité et de conformité dans les environnements cloud et sur site.
3. Conformité réglementaire – Avec l'expansion de l'IA dans tous les secteurs, des réglementations telles que le règlement général sur la protection des données (RGPD) de l'Union européenne ajoutent des règles strictes concernant l'utilisation des données, la sélection des modèles, la transparence et l'équité. Il est essentiel de s’y retrouver.
4. Gestion et intégration des modèles – Les modèles d’IA nécessitent une gestion continue, notamment le contrôle de version, la surveillance et les mises à jour, et ils doivent s’intégrer en douceur dans les systèmes existants. Ce n’est pas du plug-and-play, mais des protocoles tels que MCP facilitent les choses, malgré les défis de sécurité auxquels sont confrontés les modèles d’IA.

Chez F5, nous collaborons avec NVIDIA pour garantir que les usines d'IA et les infrastructures d'IA à l'échelle du cloud répondent aux exigences de l'IA moderne. Aujourd'hui, à la NVIDIA GTC Paris 2025 , nous dévoilons une nouvelle étape d'innovation avec les nouvelles fonctionnalités de F5 BIG-IP Next pour Kubernetes déployées sur les DPU NVIDIA BlueField-3 . Cela s'appuie sur les performances améliorées, la multi-location et la sécurité que nous avons introduites au GTC San Jose 2025. Faisant partie de la plate-forme de sécurité et de livraison application F5 , F5 BIG-IP Next pour Kubernetes fonctionne nativement sur NVIDIA BlueField-3 , de puissants processeurs programmables spécialement conçus pour le déplacement et le traitement des données.

En déchargeant des tâches telles que le traitement du réseau, la gestion du stockage et les opérations de sécurité (par exemple, le chiffrement et la surveillance du trafic), les DPU libèrent de précieux cycles CPU et des ressources GPU pour se concentrer sur la formation et l'inférence de l'IA. Cela réduit les goulots d'étranglement, augmente les performances et améliore la latence, aidant les usines d'IA à fonctionner plus rapidement et plus efficacement en fournissant plus de jetons.

Situés sur des cartes d'interface réseau, les DPU gèrent le flux de données entre les serveurs et entre les clients/utilisateurs/agents externes et l'usine d'IA, orchestrant la mise en réseau et la sécurité à grande échelle. F5 BIG-IP Next pour Kubernetes déployé sur les DPU NVIDIA BlueField-3 est devenu disponible en avril.

Les LLM ont progressé rapidement ces derniers mois, offrant désormais une large gamme de tailles, de coûts et d’expertises spécifiques au domaine. Choisir le bon modèle pour chaque invite garantit non seulement de meilleures réponses et une meilleure conformité réglementaire, mais optimise également la consommation de ressources, les coûts et la latence.

Grâce à l'intégration actuelle des microservices NVIDIA NIM , les organisations peuvent désormais acheminer intelligemment les demandes d'invite d'IA vers le LLM le plus approprié ou précisément vers le bon modèle pour chaque tâche. Par exemple, les modèles légers et économes en énergie peuvent gérer des demandes simples, tandis que les invites plus complexes ou plus volumineuses et spécialisées sont dirigées vers des modèles plus grands ou spécifiques à un domaine.

Cette approche permet aux usines d’IA d’utiliser les ressources informatiques plus efficacement, réduisant ainsi les coûts d’inférence jusqu’à 60 %. C’est une situation gagnant-gagnant pour les fournisseurs et les utilisateurs de modèles d’avoir une meilleure réponse, plus rapide et à meilleur coût.

Pour la plupart des organisations, et en particulier les grandes, comme les services financiers, les opérateurs de télécommunications et les entreprises de santé dotées de systèmes hérités complexes, l’IA agentique présente un fort attrait. Construits sur des LLM, ces agents d'IA peuvent naviguer dans des bases de données, des serveurs, des outils et des applications complexes pour récupérer des informations précises, ouvrant ainsi de nouveaux niveaux d'efficacité et de perspicacité.

Lancé par Anthropic en novembre 2024, MCP transforme la façon dont les systèmes d'IA interagissent avec les données, les outils et les services du monde réel. Agissant comme des connecteurs standardisés, les serveurs MCP permettent aux modèles d'IA d'accéder aux API, aux bases de données et aux systèmes de fichiers en temps réel, permettant à l'IA de transcender les limites des données de formation statiques et d'exécuter des tâches efficacement. À mesure que l'adoption se développe, ces serveurs nécessitent des proxys inverses avancés avec équilibrage de charge, sécurité renforcée, authentification, autorisation des données et des outils ainsi qu'une intégration transparente de Kubernetes, faisant de MCP un pilier clé de l'infrastructure d'IA souveraine et sécurisant et permettant l'IA agentique.

Déployé en tant que proxy inverse devant les serveurs MCP, BIG-IP Next pour Kubernetes déployé sur les DPU NVIDIA BlueField-3 peut mettre à l'échelle et sécuriser les serveurs MCP, vérifier les requêtes, classer les données, vérifier leur intégrité et leur confidentialité, protégeant ainsi les organisations et les LLM contre les menaces de sécurité et les fuites de données. Parallèlement, la programmabilité F5 permet de garantir facilement que l' application d'IA est conforme aux exigences du MCP et d'autres protocoles.

Dans les récentes annonces de résultats, certaines grandes organisations ont commencé à divulguer le nombre de jetons générés chaque trimestre, leur croissance et les revenus qui y sont liés. Cela reflète un besoin croissant parmi nos clients : la possibilité de suivre, de gérer et de contrôler l’utilisation des jetons comme un budget pour éviter les coûts inattendus comme cela arrive parfois avec les clouds publics.

C’est pourquoi BIG-IP Next pour Kubernetes inclut désormais de nouvelles fonctionnalités de mesure et de gestion de la consommation de jetons dans l’ensemble de l’organisation. Lorsque les clients nous le demandent, nous les écoutons et les livrons avec soin.

Alors que les industries développent des usines d’IA et que les pays construisent leur IA souveraine, des agents d’IA émergent et les infrastructures, les écosystèmes et les applications doivent être flexibles et adaptables. Les organisations qui déploient l’IA efficacement évolueront plus rapidement, serviront mieux leurs clients et réduiront leurs coûts. Mais pour réaliser ce potentiel, l’IA doit rester sécurisée, évolutive et rentable sans ralentir le rythme de l’innovation.

C'est là qu'intervient F5. En mars dernier, nous avons fourni des performances, une solution multi-locataire et une sécurité. Désormais, avec BIG-IP Next pour Kubernetes, nous permettons une innovation conçue pour évoluer à la vitesse de l’IA.

Notre promesse : Plus de jetons par dollar, par watt. Essayez-le et voyez la différence par vous-même.