F5 KI-Gateway: Die einzigartigen Herausforderungen der KI-Sicherheit und -Bereitstellung lösen
Im vergangenen Jahr haben wir viel über generative KI gelernt. Insbesondere haben wir gesehen, wie Best Practices für Bereitstellungsmuster umgesetzt wurden, KI-Fabriken zu einem neuen Baustein für Rechenzentren wurden und die Bedenken hinsichtlich der Bereitstellung und Sicherheit von KI-Modellen und Applications in den Vordergrund gerückt sind.
Zwar sind KI- Applications die „modernsten aller modernen Applications“ und verlassen sich in hohem Maße auf APIs, doch es stimmt auch, dass KI- Applications hinsichtlich Sicherheit, Überwachung und Bereitstellung einzigartige Herausforderungen mit sich bringen .
Eine große Herausforderung liegt in der nicht-deterministischen Natur von KI- Applications. Das heißt, eingehende Eingaben und ausgehende Antworten variieren stark und entwickeln sich im Laufe der Zeit. KI Applications können außerdem Daten aus strukturierten und unstrukturierten Quellen abrufen, die sich über mehrere Standorte erstrecken können. Tatsächlich war es keine Überraschung, als wir den Markt untersuchten und einen robusten Mix aus Public Cloud-, On-Premises- und Hybrid-Bereitstellungsplänen für KI fanden.
Das Problem bei unstrukturierten, unvorhersehbaren Ein- und Ausgaben liegt darin, dass es schwierig ist, festzustellen, ob eine Anfrage oder Antwort vertrauliche oder falsche Informationen enthält. Während API-Sicherheit und Web Application Firewalls oft genau zu diesem Zweck eingesetzt werden, arbeiten sie mit deterministischen Inhalten. Das heißt, das Format und der Inhalt von Anfragen und Antworten werden verstanden und daher ist es einfacher, bösartige oder vertrauliche Inhalte zu erkennen. Obwohl bei KI dieselben Konstrukte wie APIs und Applications zum Einsatz kommen, sind die Inhalte höchst variabel. Daher ist es schwierig, Richtlinien zum Scannen oder Löschen von Anfragen und Antworten zu erstellen.
Mit dieser Herausforderung geht implizit eine weitere einher: Der KI-Verkehr muss in beide Richtungen überwacht werden. Dies gilt insbesondere angesichts der Tatsache, dass ein erheblicher Prozentsatz der Organisationen plant, KI als Service zu nutzen, wie etwa ChatGPT, Azure, Google oder Hugging Face.
Die zum Schutz von KI-Modellen erforderliche Sicherheit
Aus diesem Grund reichen vorhandene API- und Application nicht aus, um KI-Modelle und Applications zu schützen. KI-Sicherheit ergänzt diese bestehenden Dienste und bietet die zusätzlichen und einzigartigen Funktionen, die zum Schutz von Unternehmen und Kunden erforderlich sind, wie etwa Schutz vor sofortiger Injektion, Modellmanipulation, Halluzinationen und KI-gestützten Angriffen.
Um KI-Modelle und Applications zu verwalten und zu sichern, müssen Application und Sicherheitsdienste:
- Beobachten und protokollieren Sie alle Anfragen, Antworten und Verwaltungsmaßnahmen, um gesetzliche und Compliance-Anforderungen zu erfüllen.
- Schützen Sie Organisationen und Benutzer, indem Sie böswillige, vertrauliche oder ungenaue Eingabeaufforderungen und Antworten prüfen und entsprechend reagieren.
- Beschleunigen Sie die Leistung durch Richtlinien und Kontrollen zur Verkehrssteuerung, einschließlich der Verhinderung volumetrischer Angriff .
Warum F5 AI Gateway?
Seit über 20 Jahren stellt sich F5 den Herausforderungen hinsichtlich Bereitstellung und Sicherheit, die sich durch Veränderungen in der Application ergeben. KI führt eine neue Application ein, die wie ihre Vorgänger eine ergänzende Weiterentwicklung der Application und -sicherheit erfordert. F5 AI Gateway schützt, beschleunigt und überwacht KI-gestützte Applications und ist für F5 eine natürliche Weiterentwicklung der Application und -sicherheit.
Dieser Fortschritt umfasst die Unterstützung der hybriden Multicloud-Realität heutiger IT-Umgebungen, sodass F5 AI Gateway eigenständig bereitgestellt oder in vorhandene F5-Software, -Hardware oder -Dienste integriert werden kann.
Zunächst konzentrieren wir uns bei F5 AI Gateway auf die Erfüllung zentraler Bereitstellungsanforderungen und die Top-Ten-Elemente des OWASP LLM im Zusammenhang mit Echtzeit-Sicherheitsherausforderungen. Künftig werden weitere hinzukommen.
Zusätzliche Funktionen wie die Meldung einer breiten Palette von Messdaten über OpenTelemetry, die sorgfältige Berücksichtigung der Anforderungen an Prüfprotokolle, semantisches Caching, Ratenbegrenzung und inhaltsbasiertes Modellrouting gewährleisten die Unterstützung aller drei KI-Bereitstellungs- und Sicherheitsanforderungen: Beobachten , Schützen und Beschleunigen .
Angesichts der Tatsache, dass sich KI rasant weiterentwickelt und kein Unternehmen dem anderen gleicht, ermöglicht F5 AI Gateway Organisationen darüber hinaus die Anpassung an individuelle und neue Anforderungen mithilfe eines Plug-in-Ökosystems, das durch ein Software Development Kit (SDK) für Python, Rust und Go unterstützt wird.
Sichern Sie jede App und API, überall
F5 ist bestrebt, jede Application und API überall bereitzustellen und zu sichern. Da sich Applications weiterentwickeln, müssen wir auch unser Portfolio weiterentwickeln, um neuen und einzigartigen Herausforderungen gerecht zu werden. Wenn es um KI Applications geht, bietet F5 AI Gateway alles, was Unternehmen brauchen, um diese überall bereitzustellen und zu sichern.
Weitere Informationen zum F5 AI Gateway erhalten Sie hier oder indem Sie Ihren F5-Kundenbetreuer oder F5-Technologiepartner kontaktieren.