BLOG

F5 Distributed Cloud Web App Scanning: Schutz KI-gestützter Applications

Ian Dinno Miniaturbild
Ian Dinno
Veröffentlicht am 18. April 2025

Künstliche Intelligenz (KI) revolutioniert weiterhin die Arbeitsweise von Unternehmen und ihre Integration in Applications– über große Sprachmodelle (LLMs), die KI-gestützte Dienste unterstützen – wird immer üblicher. Und mit dieser Innovation gehen zusätzliche Risiken in Form neuer KI-gestützter Dienste und Schwachstellen einher, die neue kritische Dienste, sensiblere Daten, die allgemeine Zuverlässigkeit von Apps und Unternehmen und letztlich das Vertrauen der Benutzer gefährden.

Erweiterte Sicherheitsmaßnahmen sind von entscheidender Bedeutung und F5 Distributed Cloud Web App Scanning erfüllt diesen Bedarf. Distributed Cloud Web App Scanning ist eine intelligente Sicherheitslösung für Application , die Unternehmen dabei unterstützt, die wachsenden Herausforderungen beim Schutz moderner, KI-fähiger Webanwendungen zu bewältigen. Mit modernsten Funktionen – einschließlich der Abbildung externer Angriffsflächen auf die Domäne einer Organisation, gepaart mit der Funktionalität für dynamische Application (DAST) und einer umfassenden Suite zum Testen von KI-Komponenten auf Risiken der OWASP Top 10 für große Sprachmodelle (LLMs) – bietet dieser Dienst eine robuste und kontinuierliche Erkennung von Schwachstellen moderner Web-Apps.

In diesem Blog wird untersucht, warum die Einführung dieses Dienstes für Unternehmen, die KI und LLMs in ihre Applications integrieren, ein Muss ist, welche Schwachstellen Distributed Cloud Web App Scanning identifiziert und wie der Dienst funktioniert.

Sicherheit für die nächste Applications

Da Unternehmen zunehmend KI einsetzen, um die Funktionalität zu verbessern und ein besseres Benutzererlebnis zu bieten, ist die Gewährleistung der Sicherheit, Zuverlässigkeit und Konformität dieser Systeme unverzichtbar. Die dynamische Natur der KI-Bedrohungen sowie das Potenzial für das Auftauchen realer Schwachstellen in Produktionsumgebungen unterstreichen die Notwendigkeit kontinuierlicher, robuster Tests.

Aus diesen Gründen ist das Scannen verteilter Cloud-Web-Apps für Unternehmen, die KI einsetzen, von entscheidender Bedeutung:

  • Kontinuierliches Testen mit breiter Abdeckung: Im Gegensatz zu herkömmlicher Software sind KI-Systeme dynamisch – sie lernen, passen sich an und entwickeln sich weiter. Durch kontinuierliche Tests wird sichergestellt, dass Unternehmen Schwachstellen im gesamten Spektrum der Top 10-Bedrohungskategorien von OWASP LLM identifizieren und beheben können, einschließlich derjenigen, die sich aus der tatsächlichen LLM-Nutzung ergeben.
  • Schutz des Benutzervertrauens in KI-gestützte Dienste: Probleme wie die sofortige Injektion oder Modellhalluzinationen können das Vertrauen der Benutzer untergraben, insbesondere bei kundenorientierten Applications wie KI-gestützten Chatbots oder Assistenten, Übersetzungsdiensten, Inhaltsgenerierung, Suche usw. Proaktive Tests tragen zum Schutz des Vertrauens bei, indem sie Schwachstellen identifizieren und beheben, bevor sie ausgenutzt werden und diese neuen KI-Erfahrungen beeinträchtigen können.
  • Einhaltung regulatorischer und ethischer Standards: Angesichts der zunehmenden Kontrolle von KI-Systemen müssen Unternehmen, die moderne, KI-gestützte digitale Erlebnisse implementieren, in der Lage sein, die Einhaltung der relevanten regulatorischen Rahmenbedingungen nachzuweisen. Das Scannen verteilter Cloud-Web-Apps unterstützt dies, indem es Unternehmen dabei hilft, Schwachstellen in Web-Apps zu identifizieren und zu verfolgen, einschließlich jener, die integrierte LLM-basierte Dienste beeinträchtigen. Dadurch wird ein wichtiger Prüfpfad für die Berichterstattung im Rahmen ihres Compliance-Prozesses bereitgestellt.

 

Die Schwachstellen verstehen

KI-Systeme, insbesondere LLMs, sind leistungsstark, aber von Natur aus komplex, und ihre Einführung in Applications bringt eine neue Risikoebene in Form neuer Schwachstellen und Angriffe mit sich, über die man sich Sorgen machen muss, darunter:

  • Prompt-Injection-Angriffe: Böswillige Akteure erstellen Eingaben, die das LLM dazu manipulieren, unbeabsichtigte Aktionen auszuführen, beispielsweise die Generierung nicht autorisierter Ausgaben.
  • Datenleck: LLMs sind für ihre Funktion oft auf große Datensätze angewiesen und ohne entsprechende Sicherheitsvorkehrungen können sie unbeabsichtigt vertrauliche Daten preisgeben, die während der Schulung oder der Interaktionen bereitgestellt werden.
  • Cross-Site-Scripting (XSS): Angreifer fügen schädliche Skripte in KI-gestützte Eingaben ein und gefährden so die Application, die Ausgaben und möglicherweise auch deren Benutzer.
  • Modellhalluzinationen: LLMs können kontextuell unangemessene oder ungenaue Ergebnisse generieren, die das Vertrauen der Benutzer schädigen und rechtliche Probleme bzw. Compliance-Probleme nach sich ziehen können.

Das Scannen verteilter Cloud-Webanwendungen findet diese Probleme nicht nur, sondern bietet auch Anleitungen zur Behebung. Mit einem KI-Assistenten, der dabei hilft, jede Schwachstelle besser zu verstehen und umsetzbare Empfehlungen zu geben, können Unternehmen sicherstellen, dass ihre Web-Apps geschützt und verfügbar sind und das Vertrauen der Benutzer erhalten bleibt.

So funktioniert das Scannen verteilter Cloud-Webanwendungen

Der Prozess zum Entdecken und Testen von LLMs in modernen, KI-fähigen Applications beginnt mit einem automatisierten vierstufigen Prozess, der eine umfassende Abdeckung gewährleistet:

  1. Aufklärung: Der Web-App-Scanning-Dienst interagiert zunächst mit allen nach außen gerichteten Domänen, um die gesamte Web-App, ihre Subdomänen und die unterstützende Infrastruktur einschließlich der offengelegten integrierten LLM-Dienste zu erkennen und abzubilden.
  2. Identifikation: Sobald das Vorhandensein eines LLM erkannt wird, führt der Dienst einen Fingerabdruckalgorithmus aus, um die verwendeten spezifischen Modelle zu identifizieren – beispielsweise Mistral 7B Instruct oder andere weit verbreitete Modelle, darunter über 150 beliebte LLMs in der Branche.
  3. Testen: Nach der ersten Zuordnung folgt der automatisierte Penetrationstest, der eine breite Testsuite spezifischer Bedrohungen für OWASP Web App und LLM Top 10 umfasst. Der Dienst nutzt branchenführende Test-Frameworks wie Garak von NVIDIA und PyRIT von Microsoft und simuliert feindliche Angriffe, um kritische Sicherheitsprobleme aufzudecken, darunter Prompt-Injection-Angriffe, Datenlecks über Relay- und Repeat-Relay-Schwachstellen, Cross-Site-Scripting (XSS), Keyword-Sonden und Modellhalluzinationen, irreführende Behauptungen und mehr.
  4. Berichterstattung: Der Scan und der Test generieren einen vollständigen, detaillierten Penetrationstestbericht, der alle in den Top-10-Listen von LLM und Application gefundenen Schwachstellen hervorhebt. Dieser Bericht enthält umsetzbare Anleitungen zur Behebung der Probleme sowie Videos und Screenshots des gesamten Tests und der Schwachstellen mit kontextbezogenen Erkenntnissen, die es Unternehmen ermöglichen, alle identifizierten Schwachstellen problemlos zu beheben, um ihre modernen, KI-fähigen Web-Apps zu schützen.

Sicher in die Zukunft starten

KI-gestützte Innovationen haben ein unglaubliches Potenzial für Applications und moderne digitale Erlebnisse freigesetzt, aber auch Tür und Tor für neue und komplexe Sicherheitsbedrohungen geöffnet. Distributed Cloud Web App Scanning mit seiner integrierten LLM-Testsuite bietet die Skalierbarkeit und Abdeckung, die Unternehmen brauchen, um sich in dieser sich entwickelnden Landschaft sicher zurechtzufinden und so bei der Weiterentwicklung ihrer Applications immer auf dem Laufenden zu bleiben.

Die Einbindung dieser intelligenten, kontinuierlichen Sicherheitstests für Application in die Sicherheitslage eines Unternehmens schützt nicht nur Web-Apps und APIs, sondern stärkt auch das Engagement eines Unternehmens für eine verantwortungsvolle, sichere Entwicklung und Einführung von KI.

Kontaktieren Sie uns , um mehr darüber zu erfahren, wie Ihnen Distributed Cloud Web App Scanning dabei helfen kann, Ihre Abwehrmaßnahmen zu stärken und KI mit Zuversicht zu nutzen.

Und wenn Sie planen, an der RSA-Konferenz in San Francisco teilzunehmen, sollten Sie unbedingt an unserer Sitzung am 29. April teilnehmen: „ Gemeinsam stärker: Ein einheitlicher Ansatz für App-Sicherheit und -Bereitstellung “ und besuchen Sie uns am Stand N-4335.