Passerelle IA F5 : Résoudre les défis uniques de la sécurité et de la distribution de l'IA
Au cours de l'année écoulée, nous avons beaucoup appris sur l'IA générative. Nous avons notamment vu les meilleures pratiques en matière de modèles de déploiement se concrétiser, les usines d'IA devenir un nouveau bloc de construction pour les centres de données et les préoccupations concernant la livraison et la sécurité des modèles et applications d'IA prennent le dessus.
S’il est vrai que les applications d’IA sont les « plus modernes des applications modernes » et s’appuient fortement sur les API, il est également vrai que les applications d’IA posent des défis uniques en matière de sécurité, de surveillance et de livraison.
L’un des défis majeurs est la nature non déterministe des applications de l’IA. Autrement dit, les entrées entrantes et les réponses sortantes varient considérablement et évoluent au fil du temps. Les applications d’IA peuvent également extraire des données provenant de sources structurées et non structurées pouvant s’étendre sur plusieurs sites. En effet, cela n’a pas été une surprise lorsque nous avons étudié le marché et découvert un mélange robuste de plans de déploiement de cloud public, sur site et hybrides pour l’IA.
Le problème avec les entrées et sorties non structurées et imprévisibles est la difficulté inhérente à déterminer si une demande ou une réponse contient des informations sensibles ou incorrectes. Bien que la sécurité des API et les pare-feu application Web soient souvent utilisés exactement à cette fin, ils fonctionnent sur un contenu déterministe. Autrement dit, le format et le contenu des requêtes et des réponses sont compris et il est donc plus facile de détecter les contenus malveillants ou sensibles. Avec l’IA, bien qu’elle exploite les mêmes structures que les API et les applications Web, le contenu est très variable, ce qui rend difficile l’élaboration de politiques qui analysent ou épurent les demandes et les réponses.
Ce défi implique un autre élément : Le trafic IA doit être surveillé dans les deux sens. Cela est particulièrement vrai étant donné qu’un pourcentage important d’organisations prévoient d’exploiter l’IA en tant que service, comme ChatGPT, Azure, Google ou Hugging Face.
La sécurité nécessaire pour protéger les modèles d'IA
C’est pourquoi les solutions de sécurité des API et des application existantes ne suffisent pas à protéger les modèles et les applications d’IA. La sécurité de l'IA s'ajoute à ces services existants, offrant les capacités supplémentaires et uniques nécessaires pour assurer la sécurité des entreprises et des clients, telles que la protection contre l'injection rapide, la manipulation de modèles, les hallucinations et les attaques alimentées par l'IA.
Pour gérer et sécuriser les modèles et applications d'IA, les services de fourniture et de sécurité des application doivent :
- Observer et enregistrer toutes les demandes, réponses et actions administratives pour soutenir les exigences légales et de conformité.
- Protégez les organisations et les utilisateurs en inspectant et en agissant sur les invites et réponses malveillantes, sensibles ou inexactes.
- Accélérez les performances en utilisant des politiques et des contrôles de direction du trafic, y compris la prévention des attaque volumétrique .
Pourquoi F5 AI Gateway ?
Depuis plus de 20 ans, F5 relève les défis de livraison et de sécurité posés par l’évolution des architectures application . L’IA introduit une nouvelle architecture application qui, comme ses prédécesseurs, nécessite une évolution complémentaire dans la fourniture et la sécurité des application . F5 AI Gateway protège, accélère et observe les applications basées sur l'IA et constitue une progression naturelle de la livraison et de la sécurité des application pour F5.
Cette progression inclut la prise en charge de la réalité hybride et multicloud des parcs informatiques actuels, de sorte que F5 AI Gateway peut être déployé seul ou intégré aux logiciels, matériels ou services F5 existants.
Dans un premier temps, notre objectif pour F5 AI Gateway est de répondre aux besoins de base en matière de livraison et aux dix principaux éléments de l'OWASP LLM liés aux défis de sécurité en temps réel, avec d'autres à venir à l'avenir.
Des fonctionnalités supplémentaires telles que la création de rapports sur un large éventail de mesures via OpenTelemetry, une attention particulière aux exigences du journal d'audit, la mise en cache sémantique, la limitation du débit et le routage des modèles basés sur le contenu garantissent la prise en charge des trois exigences de sécurité et de diffusion de l'IA : observer , protéger et accélérer .
Reconnaissant que l'IA évolue rapidement et qu'aucune entreprise n'est identique, F5 AI Gateway permet aux organisations de s'adapter aux exigences personnalisées et nouvelles avec un écosystème de plug-ins pris en charge par un kit de développement logiciel (SDK) pour Python, Rust et Go.
Sécuriser n'importe quelle application et API, n'importe où
F5 s'engage à fournir et à sécuriser chaque application et API, où qu'elle soit. À mesure que les applications évoluent, cela signifie que nous devons faire évoluer notre portefeuille pour répondre à des défis nouveaux et uniques. En ce qui concerne les applications d’IA, F5 AI Gateway fournit ce dont les organisations ont besoin pour les fournir et les sécuriser partout.
Vous pouvez en savoir plus sur F5 AI Gateway ici ou en contactant votre responsable de compte F5 ou votre partenaire technologique F5.