Évolutivité et flexibilité multicloud pour soutenir les usines d'IA

Cela semble facile, n’est-ce pas ? Le smartphone sur lequel vous lisez ceci dispose probablement d'un GPU, d'une connectivité 5G et d'un mot de passe. Vous devriez être prêt à exercer dans la sécurité privée, n'est-ce pas ? Eh bien, pas tout à fait. Pour l’instant, nous allons examiner trois points. Cependant, sachez qu’il ne s’agit là que d’un début et que d’autres seront découverts à mesure que vous concevrez et modéliserez le paysage des menaces pour votre usine d’IA.

Commençons par parler de vitesse. Lorsque l’IA générative a fait ses débuts avec ChatGPT fin 2022, nous nous concentrions sur les données textuelles. Cependant, en 2024, nous voyons de plus en plus de cas d’utilisation autour d’autres modalités telles que les images, la vidéo, le texte et les données mélangés aux modèles de flux et de couche application en fonction des spécialisations. Dans une architecture d’usine d’IA distribuée, il peut ne pas être souhaitable ou faisable de déployer tous les modèles partout. Cela peut dépendre de facteurs tels que la gravité des données, la gravité de la puissance ou les besoins de calcul. C'est ici que vous pouvez sélectionner une interconnexion réseau à haut débit pour combler les lacunes et atténuer les problèmes de performances auxquels vous êtes confronté lorsque vous éloignez des services dépendants les uns des autres.

Examinons également le vol de modèles, l'un des 10 principaux risques de l'OWASP pour les grands modèles de langage (LLM) et les applications d'IA génératives . Toute entreprise souhaitant exploiter l’IA générative pour obtenir un avantage compétitif va intégrer sa propriété intellectuelle dans le système. Cela peut se faire en formant leur propre modèle avec des données d’entreprise ou en peaufinant un modèle. Dans ces scénarios, tout comme vos autres systèmes d’entreprise, votre usine d’IA crée de la valeur grâce à un modèle que vous devez protéger. Pour empêcher le vol de modèle dans une architecture distribuée, vous devez vous assurer que ce modèle, les mises à jour du modèle et les sources de données auxquelles l' application doit accéder sont chiffrés et disposent de contrôles d'accès appliqués.

Enfin, considérons le déni de service de modèle, également dans le Top 10 de l’OWASP pour les LLM et les applications d’IA génératives. À mesure que la confiance dans les applications d’IA augmente, leur utilisation dans les systèmes critiques augmente, qu’il s’agisse d’un système générateur de revenus important pour votre entreprise ou d’un système essentiel au maintien de la vie, comme dans un scénario de soins de santé. La capacité d’accès au front-end et à l’inférence doit être conçue de manière à ce que tout moyen d’accès possible soit résilient, contrôlé et sécurisé. Ces scénarios d’accès peuvent être appliqués à l’accès de l’utilisateur final ainsi qu’aux services d’inférence jusqu’à l’usine d’IA principale.