Escalabilidade e flexibilidade multicloud dão suporte a fábricas de IA

Parece fácil, certo? O smartphone em que você está lendo isso provavelmente tem uma GPU, conectividade 5G e uma senha. Você deve estar pronto para contratar segurança privada, certo? Bem, não exatamente. Por enquanto, vamos analisar três pontos. No entanto, saiba que isso é apenas o começo e muito mais será descoberto à medida que você projeta e modela o cenário de ameaças para sua fábrica de IA.

Primeiro, vamos falar sobre velocidade. Quando a IA generativa fez seu primeiro sucesso com o ChatGPT no final de 2022, estávamos focados em dados de texto. No entanto, em 2024, veremos cada vez mais casos de uso em torno de outras modalidades, como imagens, vídeo, texto e dados, combinados aos modelos de camada de fluxo e aplicação com base em especializações. Em uma arquitetura de fábrica de IA distribuída, pode não ser desejável ou viável implantar todos os modelos em todos os lugares. Pode depender de fatores como gravidade de dados, gravidade de energia ou requisitos de computação. É aqui que você pode selecionar a interconexão de rede de alta velocidade para preencher lacunas e mitigar problemas de desempenho que você enfrenta ao mover serviços dependentes uns dos outros.

Vamos também visitar o roubo de modelos, um dos 10 principais riscos da OWASP para grandes modelos de linguagem (LLMs) e aplicativos de IA generativa . Qualquer empresa que queira aproveitar a IA generativa para obter uma vantagem competitiva incorporará sua propriedade intelectual ao sistema. Isso pode ocorrer por meio do treinamento do próprio modelo com dados corporativos ou do ajuste fino de um modelo. Nesses cenários, assim como seus outros sistemas de negócios, sua fábrica de IA está criando valor por meio de um modelo que você deve proteger. Para evitar o roubo de modelos em uma arquitetura distribuída, você deve garantir que esse modelo, as atualizações do modelo e as fontes de dados que o aplicativo precisa acessar sejam criptografados e tenham controles de acesso aplicados.

Por fim, vamos considerar o modelo de negação de serviço, também no OWASP Top 10 para LLMs e aplicativos de IA generativa. À medida que a confiança é conquistada em aplicações de IA, seu uso em sistemas críticos aumenta, seja um sistema de geração de receita significativa para o seu negócio ou algo essencial para a manutenção da vida, como em um cenário de assistência médica. A capacidade de acessar o front-end e a inferência deve ser projetada de modo que qualquer entrada possível seja resiliente, controlada e segura. Esses cenários de acesso podem ser aplicados ao acesso do usuário final, bem como de serviços de inferência até a fábrica principal de IA.