Qual é a opinião da SecOps sobre a IA?
Com novas tecnologias, é fácil se empolgar. Todos vão lembrar da sensação quando fizeram seu primeiro prompt em um modelo de linguagem grande (LLM), da primeira vez que usaram um navegador, dessa ideia maluca de que seus dados vivem na "nuvem". Mas a cada nova inovação, existe uma equipe dedicada de profissionais de segurança determinada a garantir que todos possam usar essas tecnologias com segurança. É comum focarmos nas manchetes e nas possibilidades futuras — que a IA certamente traz muitas — mas, ao definir o papel da F5 na segurança da IA, decidimos dar um passo atrás e perguntar: como a comunidade de segurança encara a IA?
Como somos obcecados por nossos clientes aqui na F5, analisamos todos os comentários relacionados à IA do ano passado (julho de 2024 a junho de 2025) dos principais usuários da maior comunidade de profissionais de segurança da Internet, o r/cybersecurity do Reddit . Classificamos cada comentário e usuário em categorias de sentimentos e extraímos pontos problemáticos expressos ou subjacentes para cada um.
A divisão do SecOps em relação à IA é de 50/50
48% dos profissionais estão otimistas e já usam essa tecnologia em suas estruturas, enquanto o restante ainda é cético ou tem receio do que o futuro reserva.
Metade dos comentários de SecOps mostraram otimismo quanto à IA. Eles utilizam ferramentas com IA em suas stacks, automatizam tarefas repetitivas e usam assistentes de IA para priorizar alertas.
A outra metade dos comentários foi dividida entre o receio, ligado ao desafio de proteger sistemas de IA, e a dúvida de que a IA avançará muito além do que já alcançou.
A proteção de dados é a maior preocupação manifestada por profissionais de segurança nos comentários do r/cybersecurity no Reddit, seguida pela observabilidade/detecção de anomalias e ataques impulsionados por IA.
IA Shadow e segurança de dados
A tensão entre a demanda de dados da IA e os princípios fundamentais da segurança cibernética colocou a segurança de dados no centro das discussões. Em 2025, essa foi a maior preocupação dos profissionais de segurança e só ganhou força à medida que as empresas aceleraram a adoção da IA.
O maior desafio nesse setor é a shadow AI, ou as interações não autorizadas dos usuários com sistemas de IA. Mesmo que uma organização esteja no início ou já avançada na adoção da IA, esse problema persiste independentemente do grau de maturidade da tecnologia.
Observabilidade é um requisito básico, não apenas um recurso
Segurança de dados domina a conversa, mas observabilidade e detecção de anomalias são as principais preocupações de IA em SecOps. Enquanto fornecedores afirmam o que a IA pode fazer para apoiar fluxos de trabalho de segurança, você demonstra a necessidade de equilíbrio: “Agentes de segurança de IA têm limitações, e sempre deve haver um humano envolvido.” Um analista compartilhou a experiência de usar IA para automatizar a triagem L1 de alertas EDR, reduzindo o MTTT de 45 minutos para menos de dois, mas destacou: “Isso só foi possível com regras claras, regras claras e mais regras claras.” O pedido é unânime: garanta visibilidade e rastreabilidade contínuas nas interações com IA, automatize o trabalho repetitivo e mantenha os julgamentos estratégicos sob responsabilidade humana.
As estratégias dos atacantes estão mudando
Esta não é uma ameaça teórica, é um multiplicador de força que eleva o patamar para os oportunistas e amplia os limites para agentes de ameaça sofisticados. Na prática, discutimos essas mudanças de duas maneiras: novas técnicas adversárias de IA, como injeção de prompts ou ataques de jailbreak direcionados a sistemas de IA, e uma democratização maliciosa dos ataques de engenharia social, como phishing e deepfakes. As preocupações sobre esse último fenômeno cresceram à medida que modelos e agentes passam a integrar mais ferramentas e dados.
O comportamento do modelo precisa de limites claros
Outros 12% das dificuldades destacaram o comportamento do modelo e a qualidade da saída como riscos à segurança. As maiores preocupações envolveram alucinações, falhas de precisão e resultados prejudiciais, mas a principal delas foi a escalada de privilégios—com a IA acessando dados ou executando tarefas sem ter permissão para isso. É nesse ponto que vemos o SecOps buscar salvaguardas práticas: moderação de conteúdo adaptada ao risco do negócio, alinhamento das políticas e permissões claras para modelos e agentes.
O que a SecOps espera da segurança com IA
Nas entrelinhas, e às vezes claramente expressas, as equipes de segurança esperam que os fornecedores alcancem um padrão mais elevado:
- Priorize a segurança dos dados: Proteção contra perda de dados (DLP) para aplicação de políticas de IA e controles de acesso baseados no princípio do menor privilégio.
- Sem falsas promessas sobre IA: Mostre capacidades reais de segurança e conformidade com evidências concretas, não com artifícios.
- Deixe a observabilidade pronta para auditoria e prática: Simplifique e maximize a integração com fluxos de trabalho SIEM/SOAR já existentes, incorporando visibilidade em todas as interações.
- Flexibilidade para pessoas no processo: Projete focando na priorização do impacto, não só na velocidade.
- Resiliência contra adversários: A superfície de ataque da IA muda constantemente, e as soluções devem evoluir para acompanhar novas ameaças.
- Simplifique o gerenciamento de políticas. Conecte as políticas corporativas e os regulamentos sem esforço manual.
Atendemos ao chamado
Dê prioridade à proteção de dados, ajuste a segurança para enfrentar ameaças adversárias emergentes, consolide a observabilidade em todas as interações e planeje tendo a governança responsável de IA como base. Vamos continuar a compartilhar insights de testes práticos, publicar orientações úteis para que as equipes de segurança possam aplicar e manter total transparência sobre como minimizamos riscos.
Lembrando do comentário no Reddit sobre IA segura OU eficaz, estamos ansiosos para transformar esse “ou” em um “e.”
Atendemos ao chamado; esta é a nossa resposta.