La escalabilidad y flexibilidad multicloud respaldan las fábricas de IA.

Esto suena fácil ¿verdad? El teléfono inteligente desde el cual quizás estés leyendo esto probablemente tenga una GPU, conectividad 5G y un código de acceso. Deberías estar listo para contratar seguridad privada, ¿verdad? Bueno, no exactamente. Por ahora, veremos tres puntos. Sin embargo, tenga en cuenta que esto es solo el comienzo y que se descubrirá más a medida que diseñe y modele el panorama de amenazas para su fábrica de IA.

Primero, hablemos de la velocidad. Cuando la IA generativa hizo su aparición inicial con ChatGPT a fines de 2022, nos centramos en los datos de texto. Sin embargo, en 2024 veremos cada vez más casos de uso en torno a otras modalidades, como imágenes, vídeo, texto y datos mezclados en los modelos de capa de flujo y aplicação basados ​​en especializaciones. En una arquitectura de fábrica de IA distribuida, puede que no sea deseable ni factible implementar todos los modelos en todas partes. Podría reducirse a factores como la gravedad de los datos, la gravedad de la energía o los requisitos de computación. Aquí es donde puede seleccionar una interconexión de red de alta velocidad para salvar brechas y mitigar los problemas de rendimiento que enfrenta cuando aleja servicios dependientes unos de otros.

Visitemos también el robo de modelos, uno de los 10 principales riesgos de OWASP para los modelos de lenguaje grandes (LLM) y las aplicaciones de IA generativa . Cualquier empresa que busque aprovechar la IA generativa para obtener una ventaja competitiva incorporará su propiedad intelectual al sistema. Esto podría lograrse entrenando su propio modelo con datos corporativos o afinando un modelo. En estos escenarios, al igual que otros sistemas de su negocio, su fábrica de IA está creando valor a través de un modelo que usted debe proteger. Para evitar el robo de modelos en una arquitectura distribuida, debe asegurarse de que este modelo, las actualizaciones del modelo y las fuentes de datos a las que la aplicação necesita acceder estén cifrados y tengan controles de acceso aplicados.

Por último, consideremos el modelo de denegación de servicio, también en el Top 10 de OWASP para LLM y aplicaciones de IA generativa. A medida que se gana confianza en las aplicações de IA, aumenta su uso en sistemas críticos, ya sea que se trate de un sistema que genere ingresos importantes para su negocio o de un sistema crítico para el mantenimiento de la vida, como un escenario de atención médica. La capacidad de acceder a la interfaz y a la inferencia debe diseñarse de modo que cualquier forma posible de entrada sea resiliente, controlada y segura. Estos escenarios de acceso se pueden aplicar al acceso del usuario final, así como desde los servicios de inferencia hasta la fábrica central de IA.