Generative KI: Anwendungssicherheit und -optimierung

Einzelpersonen und Organisationen nutzen generative KI für eine Vielzahl von Zwecken und Anwendungen, darunter Inhaltserstellung, Verarbeitung natürlicher Sprache und Datensynthese. Bei der Inhaltserstellung hilft es bei der Generierung von allem, von Gedichten, akademischen Aufsätzen und Marketingmaterialien bis hin zu Bildern, Videos, Musik und Computercode. Im Bereich der Verarbeitung natürlicher Sprache verbessert generative KI Chatbots und Sprachübersetzungen und ermöglicht die Synthese riesiger Datenmengen, um die Kreativität bei Produktdesign, -entwicklung und -prototyping zu fördern. Der Einsatz von GenAI-Anwendungen innerhalb einer Organisation kann menschliche Arbeitskräfte unterstützen, indem er zu besseren, fundierteren Entscheidungen und verbesserter Betriebseffizienz beiträgt, was wiederum zu höherer Rentabilität und Unternehmenswachstum führt. 

Allerdings bringt generative KI auch erhebliche Sicherheits- und ethische Bedenken mit sich, darunter das Potenzial für Voreingenommenheit, verstärkte Cyberangriffe und Datenschutzrisiken. Generative KI kann beispielsweise große Sprachmodelle (LLMs) verwenden, die mit systematisch aus dem Internet (wie Online-Büchern, Posts, Websites und Artikeln) zusammengetragenen Inhalten trainiert werden. Generative Modelle lernen aus Trainingsdaten. Wenn die verwendeten Daten verzerrt sind, kann es sein, dass das Modell bestehende Verzerrungen in seinen Ausgaben aufrechterhält und sogar verstärkt. Darüber hinaus kann generative KI unbeabsichtigt irreführende oder falsche Informationen erzeugen (sogenannte Halluzinationen), was zur Verbreitung von Fehlinformationen führt. Böse Akteure können GenAI auch dazu einsetzen, Propaganda zu verbreiten und abzustimmen, die zu sozialen Unruhen führen kann. Generative KI wird heute häufig von böswilligen Akteuren genutzt, um Deepfakes zu erstellen, also realistische, aber manipulierte Inhalte, die irreführend oder böswillig sein können. Deepfakes können für Identitätsdiebstahl, Social Engineering oder Phishing-Angriffe, die Verbreitung falscher Informationen oder die Erstellung irreführender Inhalte verwendet werden, die eine Bedrohung für Einzelpersonen und die Gesellschaft darstellen. Dark-Web-Märkte bieten jetzt ein FraudGPT-KI-Tool an, mit dem sich Spear-Phishing-E-Mails erstellen, nicht erkennbare Malware erstellen, Phishing-Seiten generieren, anfällige Websites identifizieren und sogar Tutorials zu Hacking-Techniken anbieten lassen.

Die Inhalte, die zur Ausbildung von LLMs verwendet werden und auf die möglicherweise ohne Zustimmung zugegriffen und die für das Modelltraining verwendet werden, können auch persönliche und vertrauliche Informationen sowie urheberrechtlich geschützte oder geschützte Inhalte enthalten. Da diese privaten Informationen alle Teil des Inhalts sind, auf den die KI bei der Inhaltsgenerierung zurückgreift, besteht das sehr reale Risiko, dass die Ausgaben unbeabsichtigt vertrauliche Daten oder private Informationen preisgeben. 

Anbieter generativer KI bieten Einzelpersonen oder Organisationen möglicherweise keine Möglichkeit, zu bestätigen, dass ihre persönlichen oder geschützten Daten gespeichert oder für Schulungszwecke verwendet wurden, und können auch nicht die Löschung dieser Daten verlangen (im Rahmen des „Rechts auf Vergessenwerden“ oder „Recht auf Löschung“ in staatlichen Vorschriften wie der Datenschutz-Grundverordnung (DSGVO) der EU). Die LLM-Ausbildung beinhaltet oft auch die Zusammenführung und Nutzung von Daten aus verschiedenen Regionen oder Ländern. Dies kann zu Szenarien führen, die möglicherweise die Vorschriften zur Datensouveränität gefährden. 

Generative KI bietet vielfältige Anwendungsmöglichkeiten für Organisationen und Branchen. Eine umsichtige Einbindung von GenAI in entsprechende Arbeitsabläufe kann Unternehmen dabei helfen, einen Wettbewerbsvorteil zu erlangen. Zu diesen Anwendungen gehören:

• Erstellung schriftlicher Inhalte. Generative KI kann selbstständig menschenähnliche Texte für Artikel, Blogs, personalisierte Nachrichten, Werbetexte für Kampagnen und viele andere Zwecke generieren. Zwar muss KI-generierter Inhalt normalerweise von Menschen überprüft werden, doch kann KI die Inhaltserstellung erleichtern, indem sie erste Entwürfe im gewünschten Stil und in der gewünschten Länge produziert, vorhandenen schriftlichen Inhalt zusammenfasst oder vereinfacht und Inhaltsübersichten bereitstellt, um den Schreibprozess für menschliche Autoren zu optimieren. 
• Bild- und Videoerstellung. Generative Modelle können aus Text- oder Bildeingaben abgeleitete Bilder und Videos synthetisieren oder ändern und so je nach gewünschter Einstellung, Thema, Stil oder Standort einzigartige und realistische visuelle Inhalte erstellen. Diese visuellen Materialien finden in den Bereichen Medien, Design, Werbung, Marketing, Bildung und Unterhaltung zahlreiche kommerzielle Anwendungsmöglichkeiten. GenAI kann auch Charaktere und realistische Szenen für Spiele und virtuelle Umgebungen erstellen. 
• Verbesserte Automatisierung des Kundensupports. Generative KI kann die Entwicklung fortschrittlicher Chatbots und Gesprächsagenten unterstützen, die natürlichere und kontextrelevantere Gespräche führen können, insbesondere in Situationen, in denen vordefinierte Antworten möglicherweise nicht ausreichen. Adaptive Konversationsagenten können dynamisch Inhalte generieren, wie etwa spontane Produktempfehlungen oder auf bestimmte Benutzerpräferenzen zugeschnittene Antworten. Diese kontextsensitiven Chatbots und Agenten können Unternehmen dabei helfen, Zeit und Ressourcen zu sparen, während sie gleichzeitig das Kundenerlebnis verbessern und die Supportkosten senken.
• Codegenerierung. Die Verwendung von GenAI zur Codegenerierung kann den Softwareentwicklungsprozess effizienter und produktiver gestalten. Es kann die Code-Entwicklung auf vielfältige Weise unterstützen, unter anderem durch die automatische Code-Vervollständigung (Vorschläge zur Code-Vervollständigung während der Eingabe), die Überprüfung des Codes auf Qualität, Fehler und Bugs sowie die Automatisierung der Modernisierung von Legacy-Code. Die automatische Codegenerierung erleichtert das schnelle Prototyping, sodass Entwickler schnell mit Ideen experimentieren und verschiedene Codierungsoptionen testen können, um effizientere Softwareentwicklungs-Workflows zu erzielen. GenAI eröffnet auch Programmiermöglichkeiten für Laien, da Benutzer eine Beschreibung dessen, was der Code tun soll, in natürlicher Sprache eingeben können und das Tool für generativen Code den Code automatisch erstellt.

Generative KI-Sicherheit ist eine Reihe von Praktiken und Maßnahmen, die implementiert werden, um potenzielle Sicherheitsrisiken und Herausforderungen im Zusammenhang mit der Entwicklung, Bereitstellung und Nutzung von GenAI-basierten Anwendungen zu bewältigen. Da diese Technologien immer weiter verbreitet und ausgefeilter werden, werden Sicherheitsbedenken immer wichtiger, insbesondere da KI-Workloads zu einer bevorzugten Angriffsfläche für Cyberkriminelle geworden sind. Eine detaillierte Untersuchung der Sicherheitsrisiken, die mit der Bereitstellung und Verwaltung von GenAI-Anwendungen verbunden sind, finden Sie in den OWASP Top 10 für Large Language Model Applications . Ziel dieser Liste ist es, das Bewusstsein für die Schwachstellen zu schärfen, Strategien zur Behebung dieser Probleme vorzuschlagen und die Sicherheitslage von LLM-Anwendungen zu verbessern.  

Obwohl GenAI extrem leistungsstark und beinahe magisch erscheint , nutzt es zum Teil die gleiche Infrastruktur, Schnittstellen und Softwarekomponenten wie herkömmliche Workloads und birgt daher dieselben Risiken, wie etwa Injection-Angriffe und Angriffe, die schwache Authentifizierungs- und Autorisierungskontrollen umgehen. Für den effektiven Betrieb anspruchsvoller generativer KI-Modelle ist eine zuverlässige, leistungsstarke und sichere Infrastruktur erforderlich. 

Zu den Infrastrukturangriffen gehört auch Denial-of-Service-Angriffe (DoS) , bei denen Angreifer Hardwareressourcen wie CPUs, Arbeitsspeicher oder Speicher überlasten, um die Ausführung generativer KI-Workloads zu stören. Diese Angriffe zur Erschöpfung der Ressourcen können zu Leistungseinbußen oder Systeminstabilitäten führen, die Verfügbarkeit und Zuverlässigkeit des KI-Systems beeinträchtigen und die Fähigkeit des Modells, zu lernen und auf Benutzereingaben zu reagieren, beeinträchtigen.

Auch der unbefugte Zugriff auf die KI-Systeminfrastruktur stellt eine erhebliche Bedrohung für die GenAI-Arbeitsabläufe dar und kann die Vertraulichkeit und Integrität des Systems beeinträchtigen. Eingriffe in die Systeminfrastruktur können zu böswilligen Aktivitäten wie Datendiebstahl, Dienstunterbrechung oder Einschleusung von böswilligem Code führen. Dies gefährdet nicht nur die Sicherheit der KI-Modelle und -Daten, sondern kann auch zur Generierung und Verbreitung ungenauer oder schädlicher Ergebnisse führen.

Ausgangspunkt für jede GenAI-Anwendung sind die Trainingsdaten, die von maschinellen Lernmodellen verwendet werden, um gewünschte Muster zu erkennen, Vorhersagen zu treffen und Aufgaben auszuführen. Damit ein LLM hochleistungsfähig ist, müssen die Daten, mit denen es trainiert wird, ein breites und vielfältiges Spektrum an Domänen, Genres und Quellen abdecken. Allerdings ist der Modelltrainingsprozess – unabhängig davon, ob er gebrauchsfertige, vorab trainierte Modelle oder maßgeschneiderte Modelle verwendet, die anhand benutzerdefinierter Datensätze trainiert wurden – anfällig für Manipulationen und Angriffe. 

Bei gegnerischen Angriffen manipulieren böswillige Akteure absichtlich Eingabedaten, um die Leistung generativer KI-Modelle zu beeinträchtigen oder zu beeinträchtigen. Dieser Prozess wird von OWASP als „Training Data Poisoning“ (Vergiftung von Trainingsdaten) bezeichnet. Dazu gehört auch die Manipulation von Daten, um Schwachstellen, Hintertüren oder Verzerrungen einzuführen, die die Sicherheit, Wirksamkeit oder das ethische Verhalten des Modells gefährden könnten. Diese Schwachstellen führen auch zu Angriffsmethoden, die böswillige Akteure ausnutzen können, um unbefugten Zugriff auf vertrauliche Informationen zu erhalten. Kompromittierte Modell-Lieferketten können zu verzerrten oder unzuverlässigen Ergebnissen, Datenschutzverletzungen und der Ausführung nicht autorisierten Codes führen. Dies ist insbesondere bei GenAI-Anwendungen von Bedeutung, da diese umfangreiche Plug-In-Ökosysteme nutzen. 

GenAI-Anwendungen nutzen LLMs, die Ausgaben auf der Grundlage von Trainingsdatensätzen, neuronalen Netzwerken und Deep-Learning-Architekturen generieren, um Antworten auf Eingabeaufforderungen von Benutzern zu generieren. KI-Modelle dienen als Grundlage für die Erkennung von Mustern, Strukturen und Beziehungen in vorhandenen Daten, die auf Grundlage dieses Verständnisses zur Generierung neuer Ergebnisse dienen. 

KI-Modelle sind anfällig für eine Vielzahl von Angriffen, darunter Prompt-Injections und andere Eingabebedrohungen, die LLMs durch die Eingabe sorgfältig formulierter Eingabeaufforderungen manipulieren, die dazu führen, dass das Modell vorherige Anweisungen ignoriert oder unbeabsichtigte Aktionen ausführt. Prompte Einfügungen gehören zu den häufigsten Ursachen für von KI-Modellen generierte Fehlinformationen und gefälschte Inhalte. GenAI-Anwendungen sind außerdem anfällig für Schwachstellen wie SSRF (Server-Side Request Forgery) , das Angreifern die Ausführung unbeabsichtigter Anfragen oder den Zugriff auf eingeschränkte Ressourcen ermöglicht, und RCE (Remote Code Execution) , das die Anwendung dazu bringen kann, Schadcode auszuführen oder andere Aktionen auf dem zugrunde liegenden System auszuführen.

Der Schutz von GenAI-Systemen erfordert einen mehrschichtigen Sicherheitsansatz. Hierzu sollten robuste Authentifizierungs- und Autorisierungsprotokolle gehören, einschließlich strenger Zugriffskontrollen, um sicherzustellen, dass nur autorisiertes Personal Zugriff auf kritische Systemkomponenten hat. Implementieren Sie ein proaktives Schwachstellenmanagement einschließlich regelmäßiger Softwareupdates und kontinuierlicher Überwachung zur frühzeitigen Erkennung und Verhinderung von Eindringversuchen. Um DoS-Angriffen entgegenzuwirken, bauen Sie Redundanz in das System ein, einschließlich der Verwendung von Backup-Servern und ausfallsicheren Protokollen, um eine dauerhafte Verarbeitungsverfügbarkeit zu gewährleisten. Auch LLMs können Opfer eines Denial-of-Service-Angriffs werden, da Benutzeraufforderungen Token generieren und LLMs über feste Kontextfenster verfügen, die beim Versuch, die Systemressourcen zu erschöpfen, angegriffen werden können. 

Organisationen sollten strenge Prüfprozesse implementieren, um die Lieferkette der Trainingsdaten zu verifizieren und nur vortrainierte Modelle aus vertrauenswürdigen Quellen auszuwählen. Da Daten von schlechter Qualität und Verzerrungen in den Trainingsdaten die Fähigkeit des Modells beeinträchtigen können, genaue Darstellungen zu lernen und zuverlässige Ergebnisse zu liefern, ist die Vorverarbeitung der Daten, bevor sie in ein generatives Modell eingespeist werden, für eine effektive GenAI von entscheidender Bedeutung. Die Feinabstimmung von Modellen ist auch in vielen regulierten Branchen von entscheidender Bedeutung. Techniken wie Datenbereinigung, -normalisierung und -erweiterung sowie Erkennung und Minderung von Verzerrungen können dazu beitragen, Fehler und Datenvergiftungen zu verhindern.

Implementieren Sie robuste Zugriffskontrollen, Verschlüsselungsmethoden und sichere Bereitstellungspraktiken – einschließlich Netzwerkisolierung und geeigneter Firewall-Konfigurationen –, um generative KI-Modelle vor potenziellen Sicherheitsbedrohungen zu schützen. Um Prompt-Injektionen zu verhindern, setzen Sie Techniken wie Prompt-Bereinigung, Eingabevalidierung und Prompt-Filterung ein, um sicherzustellen, dass das Modell nicht durch böswillig erstellte Eingaben manipuliert wird. Das Risiko einer unbefugten Codeausführung lässt sich durch den Einsatz sicherer Codierungspraktiken, die Durchführung gründlicher Codeüberprüfungen und die Nutzung von Laufzeitschutzmaßnahmen wie Code-Sandboxing verringern. Die sofortige Injektion stellt eines der schwerwiegendsten und kompliziertesten Risiken von GenAI-Anwendungen dar. 

Da die GenAI-Verarbeitung ressourcenintensiv sein kann, ist die Optimierung generativer KI-Modelle zur Verbesserung von Leistung und Effizienz ein wichtiger Schritt, um Modelle schneller, skalierbarer und energieeffizienter zu machen. 

Multi-Cloud-Umgebungen sind zur Grundlage für KI-gestützte Anwendungen geworden, da sie KI-Workloads und Ökosystem-Plugins über verteilte Umgebungen hinweg verbinden können. Multi-Cloud-Networking (MCN) bietet die Flexibilität, Ressourcen je nach Rechenleistungsbedarf generativer KI-Workloads dynamisch nach oben oder unten zu skalieren. Dazu gehören Hardwarebeschleuniger wie Grafikprozessoren (GPUs), wobei Ressourcen verschiedener Cloud-Anbieter in die Datenverarbeitung integriert werden, um die Leistung zu optimieren und Verzögerungen zu minimieren. Durch die Bereitstellung von GenAI-Modellen über mehrere Cloud-Regionen hinweg sind eine geografische Verteilung der Verarbeitung, geringere Latenzzeiten und verbesserte Reaktionszeiten möglich, was insbesondere für verteilte Echtzeit- oder interaktive KI-Anwendungen wichtig ist. Edge AI erweist sich als unschätzbar wertvolle Methode zur Verbesserung des Benutzererlebnisses. Die regionale Verteilung von GenAI-Modellen kann es Organisationen außerdem ermöglichen, Daten unter Einhaltung der Anforderungen an die Datensouveränität zu speichern und zu verarbeiten.

Die Container-Orchestrierungsplattform Kubernetes ist der De-facto-Standard für die Ausführung von GenAI-Workloads und bietet die Infrastruktur zum Ausführen und Skalieren von KI-Modellen in Containern, um eine hohe Verfügbarkeit und effiziente Ressourcennutzung zu gewährleisten. Kubernetes fungiert als Orchestrator, der die Bereitstellung und Überwachung verschiedener Komponenten innerhalb der KI-Anwendung verwaltet und sicherstellt, dass KI-Modelle, Datenverarbeitungs-Pipelines und andere Dienste effizient verwaltet und skaliert werden können. MCN- und Ingress-Controller sind aufgrund der verschiedenen Implementierungen von Kubernetes und der Notwendigkeit, Workloads einheitlich bereitzustellen, den Datenverkehr sicher zu leiten und Inferenzen zu verteilen, von entscheidender Bedeutung.  

APIs stellen das Bindegewebe für verschiedene Teile der KI-Anwendung dar, um Daten und Anweisungen auszutauschen und so verschiedenen Komponenten und Diensten die Kommunikation untereinander zu ermöglichen. Die Anbindung von GenAI-Plugin-Ökosystemen erfolgt beispielsweise über API-Aufrufe. Kubernetes-Ingress-Lösungen bieten integrierte Funktionen für Lastausgleich, Geschwindigkeitsbegrenzung und Zugriffskontrolle und verteilen den Datenverkehr sicher auf mehrere Pods, um die Gesamtverarbeitungsleistung von KI-Workloads zu verbessern.

Das Ausbalancieren von Ausgabegeschwindigkeit und Qualität erfordert häufig Kompromisse bei der GenAI-Optimierung. Um qualitativ hochwertige Ergebnisse zu erzielen, sind in der Regel komplexere und ressourcenintensivere Modelle und Berechnungen erforderlich. Zur Leistungsoptimierung können zudem Modellvereinfachungen erforderlich sein, die sich auf die Qualität der generierten Inhalte auswirken können. Komplexere Modelle erfordern möglicherweise auch längere Trainingszeiten und führen zu langsameren Inferenzen, was sich sowohl auf die Geschwindigkeit des Trainingsprozesses als auch auf die Leistung von Echtzeitanwendungen auswirkt. Dies ist insbesondere bei GenAI-Modellen ein Problem, die sich an dynamische Umgebungen anpassen müssen, was eine kontinuierliche Optimierung erfordern kann und Herausforderungen bei der Aufrechterhaltung eines Gleichgewichts zwischen Qualität und Leistung mit sich bringen kann. Zusätzlich zu GPUs können allgemeine Zentraleinheiten (CPUs) und Datenverarbeitungseinheiten (DPUs) für Verarbeitungsaufgaben verwendet werden – was die Bedeutung eines intelligenten Verkehrsmanagements und einer Ressourcenbündelung unterstreicht.

Die Optimierung generativer KI-Modelle erfordert eine ausgewogene Berücksichtigung und Kombination mehrerer Faktoren. 

Beim Modellbeschneiden werden redundante oder weniger wichtige Parameter aus dem Modell identifiziert und entfernt, um dessen Größe und Rechenleistungsbedarf zu reduzieren. Das Ziel besteht darin, ein kompakteres Modell bei gleichbleibender Leistung zu erstellen. Durch die Quantisierung werden der Speicherbedarf und die Rechenkomplexität von GenAI-Modellen verringert, indem numerische Werte mit geringerer Bitpräzision dargestellt werden, beispielsweise durch die Umwandlung von Gleitkommazahlen in Festkomma- oder Ganzzahldarstellungen mit geringerer Präzision. Dies kann zu einem geringeren Speicherbedarf und einer höheren Effizienz beim Bereitstellen und Speichern von Modellen führen. 

Transferlernen ist eine Technik des maschinellen Lernens, bei der ein für eine Aufgabe trainiertes Modell angepasst wird, um eine andere, verwandte Aufgabe auszuführen. Dadurch wird der für das Training erforderliche Zeit- und Rechenaufwand erheblich reduziert, insbesondere bei tiefen und komplexen Modellen. Transferlernen erleichtert die effiziente Wiederverwendung von Wissen und ermöglicht die Optimierung generativer KI-Modelle für bestimmte Anwendungen, ohne dass umfangreiche Rechenressourcen erforderlich sind. 

Durch die Verteilung des Modelltrainings und der Inferenz auf mehrere Prozessoren, Geräte oder Clouds werden das Modelltraining und das Benutzererlebnis durch die Nutzung paralleler Verarbeitungsfunktionen optimiert. Darüber hinaus kann die Anpassung der Modellarchitektur und des Trainingsprozesses zur Ausnutzung der individuellen Fähigkeiten der Hardware (beispielsweise der spezifischen CPU oder GPU, auf der das Modell ausgeführt wird) den Trainings- und Inferenzprozess optimieren und so die Leistung verbessern – insbesondere, wenn die Inferenz in der Nähe des Benutzers durchgeführt werden kann.

Generative KI hat das Potenzial, große Wettbewerbsvorteile zu verschaffen. Damit Unternehmen ihre Vorteile jedoch ohne Risiko voll ausschöpfen können, müssen sie die notwendigen Schritte unternehmen, um KI-Workloads in unterschiedlichen, verteilten Umgebungen zu optimieren und zu sichern. Dies erfordert nicht nur eine Verbesserung der Effizienz von KI-Workloads, sondern auch die Verwaltung komplexer Kubernetes-Ökosysteme, eine nahtlose und sichere Integration von APIs und eine effektive Verwaltung von Multi-Cloud-Netzwerken. 

F5 optimiert die Leistung und Sicherheit moderner KI-Workloads und gewährleistet eine konsistente Verteilung und den Schutz generativer KI-Modelle und -Daten in der gesamten verteilten Anwendungsumgebung, einschließlich Rechenzentren, öffentlichen Clouds, privaten Clouds, Multi-Cloud, nativem Kubernetes und dem Edge. F5 liefert eine zugrunde liegende, einheitliche Datenstruktur, die das Trainieren, Verfeinern, Bereitstellen und Verwalten generativer KI-Modelle im großen Maßstab unterstützt, ein nahtloses Benutzererlebnis gewährleistet und Echtzeit-Entscheidungen in KI-gesteuerten Anwendungen unterstützt. 

F5 bietet eine Reihe integrierter Lösungen zur Sicherheits-, Bereitstellungs- und Leistungsoptimierung, die die Komplexität der generativen KI reduzieren und gleichzeitig eine vorhersehbare Skalierung und Leistung mit zentraler Sichtbarkeit und Verwaltung über eine einzige Glasscheibe bieten.

• F5 Secure Multi-Cloud Networking (MCN) reduziert die Komplexität der Verwaltung und Bereitstellung von KI-Workloads in verteilten Umgebungen – Cloud, Multi-Cloud, Edge – ohne die Komplexität und den Verwaltungsaufwand von Punkt-zu-Punkt-Konnektivitätslösungen.
• F5 Distributed Cloud Network Connect bietet Layer-3-Konnektivität über jede Umgebung oder jeden Cloud-Anbieter hinweg, einschließlich lokaler Rechenzentren und Edge-Sites, in einem SaaS-basierten Tool, das End-to-End-Sichtbarkeit bietet, die Bereitstellung von Links und Netzwerkdiensten automatisiert und die Erstellung konsistenter, absichtsbasierter Sicherheitsrichtlinien über alle Sites und Anbieter hinweg ermöglicht. 
• F5 Distributed Cloud App Connect ist ein Dienst, der App-zu-App-Konnektivität und Orchestrierung für KI-Workloads bereitstellt, die über mehrere Cloud-Regionen, Anbieter und Edge-Sites verteilt sind.
• Mit dem F5 Distributed Cloud App Stack können Sie KI-Workloads mit einheitlichem Kubernetes in Produktionsqualität problemlos in verschiedenen Umgebungen bereitstellen, verwalten und sichern. So wird die Lebenszyklusverwaltung von KI-Workloads vereinfacht und eine Methode bereitgestellt, um Inferenzen über alle Ressourcenpools hinweg auf den richtigen Prozessor (CPU/GPU/DPU) zu verteilen – sogar am Rand, um die Leistung zu maximieren. 
• F5 NGINX Connectivity Stack für Kubernetes ist ein einzelnes Tool, das Ingress-Controller-, Load Balancer- und API-Gateway-Funktionen umfasst, um eine schnelle, zuverlässige und sichere Kommunikation für in Kubernetes ausgeführte KI/ML-Workloads bereitzustellen. Dies verbessert die Betriebszeit, den Schutz und die Sichtbarkeit im großen Maßstab und reduziert gleichzeitig die Komplexität und die Betriebskosten. 
• F5 Distributed Cloud Web App and API Protection (WAAP) schützt die APIs, die KI-spezifische Interaktionen ermöglichen, und mindert die mit unbefugtem Zugriff, Datenschutzverletzungen, Missbrauch der Geschäftslogik und kritischen Schwachstellen wie SSRF und RCE verbundenen Risiken. Gleichzeitig bietet es einen umfassenden Ansatz für die Laufzeitanalyse und den Schutz von APIs mit einer Kombination aus Verwaltungs- und Durchsetzungsfunktionen.
• F5 Distributed Cloud Bot Defense bietet hochwirksamen Bot-Schutz auf Basis von Echtzeitanalysen von Geräten und Verhaltenssignalen, um automatisierte bösartige Bot-Angriffe zu entlarven und abzuschwächen. Es passt sich schnell an Umrüstungsversuche der Angreifer bei Tausenden der weltweit am häufigsten genutzten Anwendungen und KI-Workloads an und neutralisiert böswillige Akteure, die Bots und bösartige Automatisierung nutzen, um LLM-Modelle zu verunreinigen, Denial-of-Service-Angriffe durchzuführen und Propaganda zu verbreiten. 

Durch die Optimierung der Effizienz, Reduzierung der Latenz und Verbesserung der Reaktionszeiten helfen F5-Technologien Unternehmen dabei, die Vorteile der generativen KI sicher zu nutzen und gleichzeitig ein nahtloses Benutzererlebnis zu gewährleisten und die Flexibilität zu unterstützen, KI-Workloads überall einzusetzen.