F5 AI ゲートウェイ ソリューションの概要

2022年後半のOpenAIの立ち上げにより、人工知能（AI）applicationsの広範な研究と開発が始まりました。 2023 年までに、エンタープライズapplicationsの 30% が、新たな収益の追求のために、生成 AI (GenAI) ラベリングを使用してブランドを再構築すると予測されています。*

AIapplicationsは、applicationプログラマ インターフェイス (API) の拡張使用に基づいて構築された以前の世代のapplicationsとは異なります。 AIapplicationsは依然として対話に API を使用していますが、入力と出力は非決定的であるため、applicationからの受信データ要求と応答はユーザーごとに大きく異なる可能性があります。 これに加えて、受信プロンプトと送信応答の可視性と相関性が欠如しているため、AI が提供しようとしているビジネス価値が失われる可能性のある深刻なセキュリティ リスクが発生します。

AIapplicationsとそのモデルへのオープン アクセスは、内部の制限されたグループにのみ公開されるか、外部の誰でも利用できるかにかかわらず、セキュリティ上のリスクを伴います。 ユーザーは独自のプロンプトを作成できるため、さまざまな攻撃、操作、または不注意による誤用につながる可能性があります。 攻撃や操作の例としては、モデルサービス拒否 (DoS)、プロンプトインジェクション、機密情報の漏洩、モデルの盗難などが挙げられます。 機密情報の漏洩は、企業の機密データや顧客の個人識別情報 (PII) の形で発生する可能性があり、非常に大きな損害をもたらし、訴訟や顧客の信頼の喪失につながる可能性があります。 さらに、AI の幻覚は従業員と顧客のどちらにも問題を引き起こし、高価なリソースを容易に消費する可能性があります。

^{* ガートナーによる2025年以降の主要戦略予測: AI旋風に乗る; 2024年10月21日}

F5 AI ゲートウェイは、攻撃を軽減し、重要な情報の漏洩を防ぎながら、AIapplicationsへのアクセスを保護および最適化するように設計されています。

AI攻撃から保護する

AI ゲートウェイは、プロンプト インジェクション、安全でない出力処理、モデルのサービス拒否、機密情報の漏洩、モデルの盗難などのインバウンド攻撃を検査、識別、ブロックします。 アウトバウンド応答の場合、AI ゲートウェイは PII データを識別して削除し、幻覚を防止します。 ソフトウェア開発キット (SDK) を使用すると、プロンプトと応答の両方に対して運用ルールとコンプライアンス要件をさらに強制し、運用ニーズにさらに適合させることができます。

AIアプリケーションのパフォーマンスを最大化し、コストを削減

AI ゲートウェイは、ローカルおよびサードパーティの大規模言語モデル (LLM) のトラフィック ルーティングとレート制限を提供し、サービスの可用性とパフォーマンスを維持し、コストを制御します。 セマンティック キャッシングによりユーザー エクスペリエンスがさらに向上し、応答時間が短縮され、LLM から重複タスクが削除されて運用コストが削減されます。

どこにでもAIセキュリティを導入

AI Gateway は Kubernetes ベースであるため、パブリック クラウド、プライベート クラウド プラットフォーム、またはオンプレミス データ センターにデプロイできます。 OpenAI、Anthropic、Ollama などの一般的な AI モデル、汎用 HTTP アップストリーム LLM、小規模言語モデル (SLM) サービスがサポートされています。

ガバナンスとコンプライアンスのための可観測性と監査証跡

OpenTelemetryサポートにより、トランザクションとセキュリティ イベントのすべてのメトリック、ログ、トレースを可視化できます。 また、LLM/SLM トークン数、リクエスト量、システム リソースの使用率、パフォーマンスなどの包括的なメトリックも提供します。 セキュリティ コンプライアンスのために、監査データのエクスポートを通じて AI ゲートウェイ構成をすぐに利用できるようになります。