SecOps는 AI를 어떻게 받아들이고 있나요?

새로운 기술이 등장하면 누구나 쉽게 기대하게 됩니다. 처음 대규모 언어 모델(LLM) 프롬프트를 사용했을 때, 웹 브라우저를 처음 접했을 때, 그리고 데이터가 '클라우드'에 저장된다는 놀라운 개념을 기억할 것입니다. 하지만 혁신이 있을 때마다, 우리는 모두가 안전하게 쓸 수 있도록 방법을 고민하는 보안 전문가들의 고단한 노력을 잊어서는 안 됩니다. AI가 가진 다양한 가능성과 미래 전망에 집중하기 쉽지만, F5가 AI 보안에서 맡을 역할을 정의하며 한 걸음 물러나 보안 커뮤니티가 AI를 어떻게 바라보는지 직접 질문해 보았습니다.

F5에서는 고객을 매우 중요하게 생각하기 때문에 인터넷에서 가장 큰 보안 전문가 커뮤니티인 Reddit의 r/cybersecurity 에서 상위 사용자의 지난 1년(2024년 7월~2025년 6월) 동안 AI와 관련된 모든 댓글을 분석했습니다. 우리는 모든 댓글과 사용자를 감정 버킷으로 분류하고 각각에 대해 표현되거나 숨겨진 고통점을 추출했습니다.

데이터 보안이 대화의 중심이지만, SecOps 전반에서 다음으로 중요한 AI 이슈는 관측 가능성 및 이상 감지입니다. 공급업체들이 AI가 보안 워크플로를 어떻게 지원할 수 있는지 말할 때, 실무자들은 항상 균형이 필요하다고 강조합니다. “AI 보안 에이전트가 할 수 있는 일은 한정적이며, 반드시 인간이 함께 있어야 합니다.” 한 분석가는 AI를 활용해 EDR 경고의 1단계 분류를 자동화해 MTTT를 45분에서 2분 이하로 줄인 경험을 나누며, “끊임없는 가드레일이 있어야만 가능했다”고 덧붙였습니다. 요구사항은 분명합니다: AI 작업 전 과정을 지속적이고 명확하게 모니터링하고 추적하며, 반복 작업은 자동화하되 중요한 판단은 인간이 직접 진행해야 합니다. 

모델 동작과 출력 품질을 보안 위험으로 지적한 문제점이 12% 더 있었습니다. 주요 우려사항은 환각 현상, 정확성 부족, 유해한 출력이었지만, 가장 심각한 것은 권한 상승—AI가 허가되지 않은 데이터에 접근하거나 작업을 수행하는 것이었습니다. 여기서 SecOps는 비즈니스 리스크에 맞춘 콘텐츠 조정, 정책 정합성, 그리고 모델과 에이전트에 대한 명확한 권한 설정 같은 실용적인 보호 장치를 강력히 요구하고 있습니다.

보안 팀은 숨은 의미를 파악하거나 때로는 직접 요구하며 공급업체가 더 높은 기준을 충족하기를 기대합니다.

• 데이터 보안을 최우선으로 관리하세요. 최소 권한 원칙을 반영해 AI 정책 시행과 접근 제어를 지원하는 데이터 손실 방지 (DLP).
• ‘AI 세척’은 없습니다: 뱀술 같은 허황된 약속 대신 더 많은 증거로 보안과 준수 능력을 보여드립니다.
• 감사를 위해 관찰 기능을 준비하고 바로 활용하세요: 기존 SIEM/SOAR 워크플로우에 통합을 쉽고 효과적으로 구현하며 모든 상호작용에 가시성을 제공하세요.
• 사람 중심의 유연성 제공: 속도뿐 아니라 영향력을 우선해 설계하세요.
• 적대적 대응 능력: AI 공격 표면은 계속 변화하고 있으며, 우리는 새로운 위협에 맞춰 솔루션도 함께 발전시켜야 합니다.
• 정책 관리를 단순화하세요.  수동 작업 없이 기업 전반의 정책과 규제 체계에 맞춥니다.