Protection des API pour les usines d'IA : La première étape vers la sécurité de l’IA

Plus tôt dans notre série sur les usines d’IA, nous avons défini une usine d’IA comme un investissement massif en matière de stockage, de réseau et de calcul répondant à des exigences de formation et d’inférence à haut volume et à hautes performances. Comme les usines de fabrication traditionnelles, les usines d’IA exploitent des modèles d’IA pré-entraînés pour transformer les données brutes en intelligence. Les applications d’IA sont tout simplement les applications les plus modernes des applications modernes, fortement connectées via des API et hautement distribuées.

Nous partons du principe qu’une application d’IA est une application moderne, avec les mêmes défis familiers en matière de livraison, de sécurité et d’exploitation, et que les modèles d’IA augmenteront radicalement le nombre d’API nécessitant livraison et sécurité. 

Alors, mission accomplie ! On a compris, n'est-ce pas ? Nous savons comment fournir des applications modernes en toute sécurité. Nous disposons de bonnes pratiques en matière de sécurité des application bien établies et comprenons les subtilités de la protection des API. Nous proposons des solutions qui offrent une protection complète et une sécurité cohérente dans les environnements distribués.

Pas si vite ! Accrochez-vous à vos GPT pendant que nous plongeons brièvement dans les détails.

Bien que les applications d’IA partagent les mêmes risques et défis que celles des applications modernes (qui sont toutes deux essentiellement des systèmes basés sur des API), les applications d’IA ont des implications spécifiques : formation, réglage fin, inférence, génération augmentée de récupération (RAG) et points d’insertion dans les usines d’IA.

Alors oui, les applications d’IA, comme les applications modernes, ont une nature hautement distribuée, créent une prolifération d’outils et compliquent les efforts visant à maintenir une visibilité cohérente, une application uniforme des politiques de sécurité et une correction universelle des menaces dans les architectures hybrides et multicloud. En plus de faire face à cette « boule de feu » de risques et de complexité, les défenseurs doivent faire face à la nature aléatoire des demandes humaines et à la nature très variable du contenu obtenu par l’IA qui peut conduire à des réponses imprévisibles de l’IA, ainsi qu’à des considérations sur la normalisation des données, la tokenisation, l’intégration et le remplissage des bases de données vectorielles.

Le regroupement des données dans des usines d’IA crée un écosystème d’entreprise holistique et connecté, et l’intégration et les interfaces entre toutes ces pièces mobiles nécessitent une posture de sécurité API robuste.

Il est essentiel de protéger les API qui constituent les passerelles vers les fonctionnalités des application d’IA et les échanges de données contre les risques de sécurité. Bien que les mêmes exploitations de vulnérabilité, les mêmes attaques de logique métier, les mêmes abus de robots et les mêmes risques de déni de service (DoS) s'appliquent, il existe des considérations supplémentaires pour les points d'insertion nouveaux et modifiés au sein des usines d'IA et les risques pour les LLM via les interfaces de traitement du langage naturel (NLP), les plugins, les connecteurs de données et les services en aval, pendant la formation, le réglage fin, l'inférence et le RAG. De plus, les attaques connues comme les attaques DoS nécessitent des considérations supplémentaires ; les mesures d’atténuation pour les attaques DDoS volumétriques et les attaques DoS application L7 ne compensent pas complètement les risques liés aux attaques DoS de modèle . Les applications d’IA présentent également un paradoxe d’explicabilité, soulignant l’importance de la traçabilité pour aider à compenser les hallucinations, les biais et la désinformation.

Et les attaquants ne restent pas les bras croisés. L’IA générative démocratise les attaques et augmente la sophistication des campagnes des cybercriminels et des États-nations. Les agents LLM peuvent désormais pirater de manière autonome des applications Web et des API, par exemple en effectuant des tâches aussi complexes que l'extraction de schémas de bases de données à l'aveugle et les injections SQL sans avoir besoin de connaître la vulnérabilité au préalable.

Alors que les nouveaux risques liés à l’IA suscitent beaucoup de buzz, l’importance de la sécurité des API pour les usines d’IA ne peut être surestimée. C'est urgent. L’augmentation de la surface d’API pour les applications d’IA est stupéfiante. Chaque RSSI doit intégrer la sécurité des API dans le cadre des programmes de gouvernance de l'IA, car le mantra fondamental de tout guide de survie du RSSI devrait être « vous ne pouvez pas protéger ce que vous ne pouvez pas voir ». Si vous ne disposez pas d’un inventaire des interfaces derrière vos applications d’IA, vous disposez d’un modèle de menace incomplet et de lacunes dans votre posture de sécurité .

Les applications de l’IA sont dynamiques, variables et imprévisibles. L’adoption sûre des applications d’IA nécessite de mettre davantage l’accent sur l’efficacité, la création de politiques solides et l’automatisation des opérations. Les technologies d’inspection joueront un rôle essentiel et évolutif en matière de sécurité.

Pour la sécurité des API au sein des applications et des écosystèmes d'IA, en particulier, les organisations devront compenser la probabilité accrue d'une utilisation dangereuse des API tierces en concevant la sécurité des appels d'API sortants et des cas d'utilisation associés, en plus des contrôles de sécurité entrants qui sont largement en place. Les solutions de gestion des robots ne peuvent pas s’appuyer uniquement sur l’identification « humaine » ou « machine », compte tenu de l’augmentation du trafic interservices et Est-Ouest , par exemple, à partir des flux de travail RAG. Et comme la chaîne d’approvisionnement des applications LLM peut être vulnérable et avoir un impact sur l’intégrité des données de formation, des modèles et des plateformes de déploiement (qui proviennent souvent de tiers et peuvent être manipulées par des attaques de falsification ou d’empoisonnement), des contrôles de sécurité doivent être mis en œuvre partout : dans le centre de données, dans les clouds, à la périphérie et depuis le code, en passant par les tests, jusqu’à la production.  

La technologie AI Gateway jouera un rôle clé en aidant les équipes de sécurité et de gestion des risques à atténuer les risques pour les LLM tels que l’injection rapide et la divulgation d’informations sensibles, mais la première étape du parcours de sécurité de l’IA commence par la sécurisation des API qui connectent les applications d’IA et les écosystèmes d’IA en rendant la sécurité intrinsèque tout au long du cycle de vie de l’application d’IA.