F5 分散クラウド プラットフォーム上の AI 向け Prompt セキュリティ ファイアウォールが生成 AI アプリのインタラクションを保護

世界中の組織が、目まぐるしいペースで生成 AI アプリケーションを構築しています。 これらの自社開発アプリケーションは、イノベーションと新たな効率性を推進するために不可欠なものとなっています。 しかし、最も革新的な生成 AI アプリケーションであっても、組織をまったく新しい攻撃対象領域にさらしてしまうリスクがあります。

プロンプトインジェクション、ジェイルブレイク、リモートコード実行などの攻撃が成功すると、セキュリティ侵害やデータ漏洩につながる可能性があります。 同様に、大規模言語モデル (LLM) による組織の利害関係者への潜在的に有害または有害な対応は、評判の失墜、法的問題、金銭的損失をもたらす可能性があります。

生成 AI を搭載したアプリケーションを保護するニーズの高まりに応えて、 F5 分散クラウド プラットフォームは、生成 AI アプリケーションを保護するテクノロジーを含めるようにサードパーティ テクノロジー パートナーシップを拡大しています。 迅速なセキュリティAIファイアウォールであるが、 F5 分散クラウド アプリケーション スタック。 分散クラウド プラットフォームは、WAF、ボット防御、DDoS 保護、API 検出/セキュリティなどのアプリケーション セキュリティを提供し、 Customer Edgeによってネットワークの複雑さを解消します。 このパートナーシップは、F5 分散クラウド サービスの拡張性を示すものであり、オンプレミス、エッジ、ハイブリッド、マルチクラウド環境全体で AI アプリケーションを安全に保護することを顧客が容易にできるようになります。 AI 向け Prompt Security ファイアウォールは、受信側の生成 AI クエリと送信側の応答を保護し、プロンプト インジェクション、機密データの漏洩、有害な応答、その他のハッキングから組織を保護します。

3.      データのプライバシーを確保し、漏洩を防ぐ

運用可能な生成 AI アプリケーションを開発する場合、アプリケーションは組織 (またはサードパーティ) のデータベースとリソースにアクセスして、最も有益なユーザー エクスペリエンスを提供します。 ただし、適切なセキュリティ対策を講じないと、LLM によって生成された応答の一部として組織データが漏洩する可能性があります。これにより、ユーザーがアプリケーションを騙して機密情報を漏洩させ、法的責任や評判に影響を及ぼす可能性があります。

4.      ガバナンスと可視性の実装

アプリ開発者とセキュリティ チームは、あらゆる挿入ポイントで生成 AI アプリからの受信トラフィックと送信トラフィックを監視します。 AI を取り巻く組織のガバナンスと規制が詳細化し、より強力に施行されるようになると、これはさらに重要になります。 Prompt Security は、各生成 AI のインタラクションの完全なログ記録を提供します。 ログには、ユーザー、プロンプト、応答、結果などが含まれます。