Multicloud-Skalierbarkeit und Flexibilität unterstützen KI-Fabriken

Das klingt einfach, oder? Das Smartphone, auf dem Sie dies möglicherweise lesen, verfügt wahrscheinlich über eine GPU, 5G-Konnektivität und einen Passcode. Für den privaten Sicherheitsdienst sind Sie doch bestens gerüstet, oder? Naja, nicht ganz. Wir werden uns zunächst drei Punkte ansehen. Bedenken Sie jedoch, dass dies nur ein Anfang ist und dass beim Entwerfen und Modellieren der Bedrohungslandschaft für Ihre KI-Fabrik noch mehr aufgedeckt werden.

Lassen Sie uns zunächst über die Geschwindigkeit sprechen. Als generative KI Ende 2022 mit ChatGPT erstmals für Aufsehen sorgte, konzentrierten wir uns auf Textdaten. Im Jahr 2024 sehen wir jedoch zunehmend Anwendungsfälle rund um andere Modalitäten wie Bilder, Videos, Text und Daten, die auf der Grundlage von Spezialisierungen in die Flow- und Application eingemischt werden. In einer verteilten KI-Fabrikarchitektur ist es möglicherweise nicht wünschenswert oder machbar, alle Modelle überall einzusetzen. Es kann auf Faktoren wie Datengravitation, Leistungsgravitation oder Rechenleistungsanforderungen ankommen. Hier können Sie eine Hochgeschwindigkeits-Netzwerkverbindung auswählen, um Lücken zu überbrücken und Leistungsprobleme zu mindern, die auftreten, wenn Sie abhängige Dienste voneinander trennen.

Befassen wir uns auch mit dem Modelldiebstahl, einem der Top-10-Risiken von OWASP für große Sprachmodelle (LLMs) und generative KI-Apps . Jedes Unternehmen, das generative KI nutzen möchte, um einen Wettbewerbsvorteil zu erlangen, wird sein geistiges Eigentum in das System integrieren. Dies kann durch das Trainieren eines eigenen Modells mit Unternehmensdaten oder durch die Feinabstimmung eines Modells geschehen. In diesen Szenarien schafft Ihre KI-Fabrik, genau wie Ihre anderen Geschäftssysteme, Werte durch ein Modell, das Sie schützen müssen. Um Modelldiebstahl in einer verteilten Architektur zu verhindern, müssen Sie sicherstellen, dass dieses Modell, Aktualisierungen des Modells und Datenquellen, auf die die Application zugreifen muss, verschlüsselt sind und über angewendete Zugriffskontrollen verfügen.

Betrachten wir abschließend die Modell-Denial-of-Service-Attacke, die sich ebenfalls in den OWASP Top 10 für LLMs und generative KI-Apps befindet. Mit zunehmendem Vertrauen in KI Applications steigt deren Nutzung in kritischen Systemen – ganz gleich, ob es sich dabei um ein wichtiges umsatzsteigerndes System für Ihr Unternehmen oder um lebenserhaltende Systeme, wie beispielsweise im Gesundheitswesen, handelt. Der Zugriff auf das Front-End und die Inferenz muss so gestaltet sein, dass jeder mögliche Zugang stabil, kontrolliert und gesichert ist. Diese Zugriffsszenarien können sowohl auf den Endbenutzerzugriff als auch auf Inferenzdienste zurück zur zentralen KI-Fabrik angewendet werden.