Von konventionell zu umgangssprachlich: Wie generative KI-Anwendungen digitale Interaktionen verändern
Die Einführung neuer Möglichkeiten zur Interaktion mit der Geschäftslogik hat dramatische Auswirkungen auf die Konzeption, Bereitstellung und letztendlich Auslieferung von Anwendungen.
Der Webbrowser beispielsweise war die treibende Kraft, die Monolithen aufbrach und uns das gab, was die Grundlage des Internets bildete, wie wir es kennen: dreistufige Web-Anwendungen. Die primäre Schnittstelle wurde schnell zu einer GUI, die viel einfacher zu navigieren war als ihre Vorgänger mit Greenscreen und Befehlszeile.
Dank generativer KI verändert sich diese Schnittstelle erneut . Und dieses Mal werden die Auswirkungen enorm sein.
Tatsächlich werden die grafischen Benutzeroberflächen, die wir lieben – und manchmal auch hassen –, durch eine neue Art der Interaktion mit Anwendungen ersetzt: die Konversationsschnittstelle.
Dank der Fähigkeit der generativen künstlichen Intelligenz, unsere Anfragen zu analysieren und scheinbar zu verstehen, entwickelt sich die Schnittstelle in natürlicher Sprache schnell zu „der Art“, Geschäfte mit Ihren Kunden abzuwickeln.
Dieser Wandel verändert nicht nur das Benutzererlebnis radikal, sondern hat auch erhebliche Auswirkungen auf die technischen Details: Wie Entwickler Anwendungen erstellen, wie Anwendungen kommunizieren und wie wir diese Anwendungen bereitstellen und sichern.
Drei wichtige Änderungen
Es gibt drei wichtige technische Änderungen bei generativen KI-Anwendungen, die Veränderungen in anderen Bereichen vorantreiben.
Interaktionsmuster
Interaktionsmuster beschreiben die Art und Weise, wie der Datenverkehr zwischen einem Benutzer und der Anwendung, die die Anforderungen verarbeitet, hin und her fließt. Bei herkömmlichen Anwendungen sind diese Interaktionen statisch. Das heißt, wir wissen, was jede Seite und jede API-Anforderung senden und empfangen wird. Wir definieren, welche Daten ausgetauscht werden können, und können im Rahmen unserer Sicherheitsbemühungen die Art und Größe dieser Daten beschränken.
Bei Konversationsanwendungen ändert sich dieses Muster . Das Gespräch kann kurz und kurz sein, es kann aber auch lange dauern und ausführliche Anfragen enthalten. Da multimodale KI den Fähigkeiten generativer KI immer neue Datentypen hinzufügt , kann die Konversation Bilder, Audio oder Video umfassen. Vielleicht nicht. Wir wissen es einfach nicht. Dadurch wird es nicht nur schwierig, die Sicherheit zu gewährleisten, sondern auch zu verstehen, wie die Leistung skaliert und optimiert werden kann. Wir können den Ressourcenverbrauch nicht mehr vorhersagen, da er sehr variabel und dynamisch ist.
Die Auswirkungen auf die App-Bereitstellung
Herkömmliche Skalierungsmittel über Ingress-Kontrolle , Gateway-API und Load Balancer auf lokaler und globaler Ebene müssen selbst dynamischer werden. Diese kritischen Komponenten jeder heutigen Unternehmensarchitektur benötigen eine bessere Sichtbarkeit und ein besseres Verständnis des Anwendungs- und Benutzerverhaltens in Echtzeit. Außerdem müssen sie in der Lage sein, Entscheidungen über die Weiterleitung von Anfragen auf der Grundlage aktuellerer Bedingungen statt überwiegend statischer Algorithmen zu treffen.
Anwendungsentwicklung
Zweitens wird sich die Anwendungsentwicklung ändern. Wenn Entwickler herkömmliche Anwendungen erstellen, verwenden sie APIs. Das vorherrschende Verkehrsmuster war jedoch das, was wir „Nord-Süd“ nennen. Das heißt, die größten Anforderungen an Datenverkehr und Sicherheit bestanden an der öffentlichen „Vordertür“ der Anwendung.
Bei Anwendungen für generative KI werden Entwickler weiterhin APIs nutzen. Dasselbe gilt jedoch für den AI Orchestrator. Dabei handelt es sich um eine elegante Beschreibung eines Anwendungsproxys, der Benutzeranforderungen empfangen und nach der Analyse der Anforderung über genau definierte APIs die richtigen Dienste aufrufen kann. Dabei handelt es sich um maßgeschneiderte Dienste, von denen einige von Anbietern angeboten werden und andere verschiedene Instanzen von LLMs sind. Dies wird zu einem erheblichen Anstieg des „Ost-West“-Verkehrs führen, da der KI-Orchestrator mit Diensten kommuniziert, die tatsächlich Komponenten der „KI-Anwendung“ sind.
Die Auswirkungen auf die App-Bereitstellung
Bei Konversationsanwendungen wird es weiterhin erheblichen N-S-Verkehr geben, intern, auf dem „Ost-West“-Datenpfad, wird es jedoch zu mehr Verkehr und einem höheren Bedarf an Zustellung und Sicherheit kommen. Dies erfordert eine Ausweitung der Anwendungsbereitstellung und -sicherheit von der Überwachung der Haustür auf die Überwachung aller Türen eines Hauses – innen und außen.
Die Verbreitung von Multicloud- Umgebungen mit Anwendungskomponenten, die über den Kern, die Cloud und den Rand verteilt sind, erfordert darüber hinaus, dass die App-Bereitstellung ihre NS-Funktionen auf das anwendet, was sich schnell zum NE-SW-Datenpfad entwickelt, der den standortübergreifenden Datenverkehr mithilfe sicherer Multicloud-Netzwerkmethoden abdeckt.
Eingabe und Ausgabe
Zuletzt, und das ist vielleicht am offensichtlichsten, ist die Verschiebung von strukturierter Eingabe und Ausgabe zu unstrukturierter. Während des größten Teils der Technologiegeschichte haben wir uns bei der Entwicklung von allem, von Netzwerken über Datenbanken bis hin zu Anwendungen, auf strukturierte Eingabe und Ausgabe verlassen.
Das ändert sich alles. Eingabe und Ausgabe erfolgen jetzt „nach Lust und Laune des Benutzers“, und Entwickler können sich ebenso wenig auf Datentypen oder -längen verlassen, wie Sicherheitsmitarbeiter Richtlinien auf Grundlage der erwarteten Eingaben und Ausgaben erstellen können. Dies stellt eine radikale Änderung in der Art und Weise dar, wie Anwendungen kommunizieren, und wird dramatische Auswirkungen auf die Bereitstellung und Sicherheit von Apps haben.
Die Auswirkungen auf die App-Bereitstellung
Die Verarbeitung unstrukturierter Daten hat die größten Auswirkungen auf die Sicherheit. Wir haben uns darauf verlassen, zu verstehen, wie Angreifer vorhandene Datenstrukturen und -logik ausnutzen können, da es eine klar definierte Reihe von Schwachstellen gab, die sich aus der Art und Weise ergeben, wie strukturierte Daten verarbeitet werden.
Angesichts der nahezu unendlichen Vielfalt an Möglichkeiten der natürlichen Sprache wird es unglaublich schwierig, Angriffe zu identifizieren, da sich die Bedrohungsoberfläche vom Lexikon (Syntaktik) zum Semantikbereich (Kontext und Bedeutung) verlagert. Dies erfordert eine andere Art der Prüfung und Bewertung von Anfragen und Antworten. Aus diesem Grund entwickelt sich KI schnell zu einem der besten Tools im Sicherheitsbereich. Ihre Fähigkeit, natürliche Sprache zu verstehen und riesige Datenmengen zu analysieren, ermöglicht Erkenntnisse über Anomalien und Ausreißer, die auf einen Angriff hinweisen können.
Darüber hinaus werden dadurch Datensicherheitstechniken in den Bereich der App-Sicherheit übertragen, sodass die App- und API-Sicherheit auch Eingaben und Ausgaben aus der Perspektive der Datensicherheit prüfen und bewerten muss.
Generative KI verändert alles
Es gibt praktisch keinen Bereich, der nicht bereits oder in Kürze von der Einführung generativer KI betroffen ist. Änderungen an Anwendungen mögen von den Benutzern begrüßt werden, stellen aber Sicherheits- und Bereitstellungsexperten vor Herausforderungen, da sich die Lösungen ändern müssen, um neue Verkehrsmuster und -anforderungen zu berücksichtigen und die neue Bedrohungsoberfläche zu verstehen.
Generative KI verändert alles, weil sie alles an Anwendungen verändert.