組織の可観測性、AI セキュリティ、コスト抑制を実現しながら、AIapplicationsをどこにでも導入できます。
F5 AI Gateway を使用すると、組織はどこにでも AIapplicationsを自信を持って導入できます。 AI 実装のセキュリティ、スケーラビリティ、信頼性を簡単に確保できます。 AI ゲートウェイは、受信プロンプトと送信応答を検査して、予期しない結果や重大なデータ漏洩を防ぎます。 AI インタラクションのカスタマイズ可能な監視、保護、管理により、AIapplicationsの使いやすさが向上し、コンプライアンスが簡素化されます。
トラフィックをルーティングし、ローカルおよびサードパーティの言語モデルのレートを制限して、パフォーマンスを向上させ、可用性を維持し、コストを管理します。
AI Gateway はポータブルなマイクロサービス アーキテクチャ上に構築されており、AIapplicationsが構築されている場所であればどこにでもデプロイでき、妥協のない監視可能性、セキュリティ、最適化を実現します。 統合されたOpenTelemetryサポートにより、すべての受信プロンプトと送信回答が可視化され、より高度な制御が可能になり、コンプライアンスへの取り組みが容易になります。
Azure、AWS、Google Cloud Platform でホストされている AI SLM および LLMapplicationワークロードを監視および保護します。 NGINX One と統合します。
NGINX One と BIG-IP 経由の ADC サービスを使用して、データセンター サイトで AI SLM および LLMapplicationワークロードを監視および保護します。
NGINX One と BIG-IP を介した ADC サービスを使用して、プライベート クラウドまたはコロケーション施設でホストされている AI SLM および LLM アプリのワークロードを保護および監視します。
受信プロンプトと送信応答の両方を自動的に識別して修復することにより、OWASP LLM Top 10 に記載されているリスクとコンプライアンス要件を検出し、軽減します。
AIアプリへのすべての受信トラフィックと送信トラフィックの検査
企業資産や顧客の個人情報を保護する
認証、承認、およびロールベースのアクセス制御
OpenAI、Anthropic、Ollama などに接続してルーティングします。
F5 AI GatewayからSIEM/SOARapplicationsへのOpenTelemetryデータの自動エクスポートにより、メトリクスとトレースを収集します。
セマンティック キャッシングは、SLM と LLM から重複タスクをオフロードし、トークンの消費を減らしてユーザー エクスペリエンスを向上させます。