Prompt Security Firewall für KI auf der F5 Distributed Cloud Platform sichert generative KI-App-Interaktionen
Organisationen auf der ganzen Welt entwickeln in schwindelerregendem Tempo generative KI-Anwendungen. Diese eigenentwickelten Anwendungen sind für die Förderung von Innovationen und neuer Effizienz unverzichtbar geworden. Doch selbst einige der bahnbrechendsten generativen KI-Anwendungen bergen das Risiko, das Unternehmen völlig neuen Angriffsflächen auszusetzen.
Erfolgreiche Angriffe wie Prompt Injections, Jailbreaks oder Remote Code Execution können zu Sicherheitsverletzungen und Datenlecks führen. Ebenso könnten potenziell schädliche oder toxische Reaktionen großer Sprachmodelle (LLMs) auf die Stakeholder einer Organisation zu Reputationsschäden, rechtlichen Problemen und finanziellen Verlusten führen.
Als Reaktion auf den wachsenden Bedarf zum Schutz von Anwendungen, die auf generativer KI basieren, erweitert die F5 Distributed Cloud Platform ihre Technologiepartnerschaften mit Drittanbietern um Technologien, die generative KI-Anwendungen absichern. Prompt Security , eine KI-Firewall, wird jetzt von F5 Distributed Cloud App Stack unterstützt. Die Distributed Cloud Platform bietet Anwendungssicherheit wie WAF, Bot-Abwehr, DDoS-Schutz und API-Erkennung/-Sicherheit und beseitigt mit Customer Edge die Komplexität der Vernetzung. Diese Partnerschaft demonstriert die Erweiterbarkeit der F5 Distributed Cloud Services und erleichtert Kunden die Sicherung von KI-Anwendungen in On-Premise-, Edge-, Hybrid- und Multicloud-Umgebungen. Die Prompt Security-Firewall für KI schützt eingehende generative KI-Abfragen und ausgehende Antworten und stellt sicher, dass Organisationen vor Prompt-Injections, der Offenlegung vertraulicher Daten, schädlichen Antworten und anderen Hacks geschützt sind.
Schlüsselprinzipien zur Sicherung generativer KI-Anwendungen
1. Umgang mit generativen KI-spezifischen Sicherheitsrisiken
Generative KI-Anwendungen bringen eine völlig neue Reihe von Sicherheitsrisiken mit sich. Daher reichen herkömmliche Sicherheitsansätze allein nicht aus. Prompt Security prüft jede Eingabeaufforderung und Modellantwort, um vor einer Reihe neuer Bedrohungen wie Prompt-Injections, Jailbreaking, Verweigerung des Wallets und mehr zu schützen. Der gesamte Datenverkehr zu generativen KI-Anwendungen wird über Prompt Security geleitet und bietet vollständige Transparenz bei eingehenden Eingabeaufforderungen.
2. Moderation von Inhalten, die von LLMs erstellt wurden
Ebenso wichtig wie die Überprüfung der Benutzereingabeaufforderungen, bevor diese in die Systeme einer Organisation gelangen, ist die Gewährleistung, dass die Antworten der LLMs sicher sind und keine toxischen oder schädlichen Inhalte enthalten, die einer Organisation schaden könnten.
3. Gewährleistung des Datenschutzes und Verhinderung von Datenlecks
Bei der Entwicklung operativer generativer KI-Anwendungen erhalten die Anwendungen Zugriff auf Datenbanken und Ressourcen einer Organisation (oder eines Drittanbieters), um das bestmögliche Benutzererlebnis zu bieten. Ohne geeignete Sicherheitsmaßnahmen können jedoch Unternehmensdaten als Teil der von LLMs generierten Antworten offengelegt werden. Dies könnte es einem Benutzer möglicherweise ermöglichen, die Anwendung zu täuschen und vertrauliche Informationen preiszugeben, was zu möglichen rechtlichen und rufschädigenden Konsequenzen führen kann.
4. Implementierung von Governance und Sichtbarkeit
App-Entwickler und Sicherheitsteams überwachen den ein- und ausgehenden Datenverkehr von generativen KI-Apps an allen möglichen Einfügepunkten. Dies wird umso bedeutsamer, je detaillierter die Governance und Vorschriften einer Organisation im Zusammenhang mit KI werden und je strenger diese durchgesetzt werden. Prompt Security bietet eine vollständige Protokollierung jeder generativen KI-Interaktion. Die Protokollierung umfasst Benutzer, Eingabeaufforderung, Antwort, Ergebnisse und mehr.
Steigern Sie die Unternehmensproduktivität mit sicheren Gen-AI-Anwendungen
Mit der Prompt Security-Firewall für KI können Kunden von F5 Distributed Cloud Services ihre generativen KI-Anwendungen an jedem Berührungspunkt schützen. Dank der integrierten sofortigen Beobachtung und Richtlinienverwaltung können Unternehmen ihre generativen KI-Anwendungen sichern, die Geschäftsproduktivität verbessern und die Datenverwaltung aufrechterhalten.
Um die Pressemitteilung von Prompt Security zu lesen, klicken Sie bitte hier .
Um eine Demo von Prompt Security + F5 Distributed Cloud Services in Aktion zu sehen, besuchen Sie bitte https://www.youtube.com/watch?v=rP4fgpXgv3Q .
Um besser zu verstehen, wie F5 Distributed Cloud Services Unternehmen beim Aufbau einer Infrastruktur für beliebige Anwendungen überall helfen können, besuchen Sie https://www.f5.com/cloud .
Um mehr über Prompt Security zu erfahren, besuchen Sie https://www.prompt.security .