F5 AIゲートウェイ

F5 アプリケーションデリバリー&セキュリティ プラットフォームで一元管理を行い、分散およびマルチLLM環境全体でAIの利用を監視・保護・最適化しながら、コスト管理とポリシーの強制を実現します。

AIモデルのルーティングとデータの安全性

AI Gateway は、ポータブルなマイクロサービス ベースのアーキテクチャを採用し、あらゆる Kubernetes 環境に AI アプリケーションをシームレスに展開できます。

F5 アプリケーション デリバリーおよびセキュリティ プラットフォーム(ADSP)を活用し、F5 AI GatewayでAIアプリケーションを安心して導入・管理してください。 AIワークフローに比類のないセキュリティ、スケーラビリティ、そして制御を実現します。 F5がプロンプトと応答をリアルタイムで検査・保護し、データ漏洩を防ぎつつ成果を最大化します。 高度な可観測性、ガバナンス、そしてカスタマイズ可能な制御機能により、御社のAI運用を安全でコンプライアンスに適合し、かつコスト効率よく大規模展開できるよう支援します。

  • パブリック クラウド
    Azure、AWS、Google Cloud Platform などの主要なクラウド プロバイダが管理するスケーラブルな環境で、SLM および LLM アプリケーションのワークロードを安全に監視・保護し、ハイパースケーラー全体で柔軟かつ容易に導入できる体制を整えています。
  • オンプレミス
    物理インフラストラクチャやデータセンターに直接ホストされたSLMおよびLLMアプリケーションのワークロードを最適化し、組織のポリシーに沿った最大限の制御とコンプライアンスを実現します。
  • プライベート クラウド
    プライベート クラウド環境やコロケーション施設でのSLMやLLMワークロードの可視性と保護を強化し、高度なセキュリティと運用の安定性を確保する専用リソースと最適化された構成を提供します。

AIモデルのルーティングとデータセキュリティ

AIセキュリティ時代のために設計しました

リクエスト ルーティングと可観測性

F5 AI Gatewayは、コンテキストに基づくモデルルーティングを活用してルーティングと可観測性を強化し、レスポンスを最適化しながら開発を効率化します。 OpenTelemetryと統合することでトランザクション全体の可視化を実現し、ログはSIEMやSOARツールへエクスポートしてコンプライアンスを確保します。 ルーティングを簡素化し、有益なインサイトを提供することで、AIアプリケーションの改善、運用効率、拡張性をさらに加速させます。

 

安全な入出力

安全な入出力を実現する

F5 AIゲートウェイは、プロンプトインジェクション攻撃や機密データの漏えいをリアルタイムで防ぎ、安全なAIのやりとりを実現します。 強力な認証、認可、ロールベースアクセス制御(RBAC)により、コンプライアンスとガバナンスを確実に維持できます。 安全なmTLS通信がAIトラフィックを守り、動的なガードレール・プロセッサの更新で新たな脅威に対応。セキュリティと信頼性、耐障害性を高めます。

拡張可能な導入と運用

F5 AI Gateway は、あらゆるインフラストラクチャで迅速に展開できるため、スケーラブルな導入と運用を効率化します。 組み込みのトラフィック管理と強固なセキュリティ管理で、変化するビジネスニーズに対応した安全なスケーラビリティを実現します。 柔軟な Kubernetes 統合、高度な自動化ツール、主要な AI モデルへの対応によってパフォーマンスを最適化し、開発のスピードを高めつつ、信頼性とコンプライアンスを保ちながら増大する AI 需要に応えます。

データ漏洩の検知と防止

データ漏洩の検知と防止

F5 AI Gatewayは、プロンプトと応答をリアルタイムで検査し、PIIやPHIのような機密データのリスクを特定して軽減することで、高いデータ漏洩検知と防止機能を提供します。ポリシーを適用してコンテンツのログ記録、編集、またはブロックを行い、OWASPガイドラインの準拠を確実に守ります。 SIEMとSOARとのシームレスな統合により、迅速なインシデント対応と監査ワークフローを実現し、悪意あるまたは意図しないデータ漏洩からAIモデルを効果的に守ります。

AI導入を支える重要な基盤

AIゲートウェイ図

AI Gateway は、F5 ADSP に統合された AI 配信およびセキュリティソリューションの中核として、LLM のセキュリティと可視性を提供します。

LLM セキュリティは、フロントエンドのアプリケーション、モデル推論、下流サービス間のやり取りを監視・保護し、LLM ワークフロー全体の可視性、安全なルーティング、運用の安定性を確実にします。

AIソリューションを探る

コア機能

受信プロンプトと送信応答を自動的に識別・対応してデータガバナンスを確保し、AIアプリケーションに伴うリスクを監視・検出・軽減します。

AI LLM と SLM モデルへのすべての送受信トラフィックを検査し、リスクを的確に軽減します。

顧客のPIIや企業の機密データを特定し、データ流出から守ります。

認証、承認、RBAC、資格情報管理を徹底し、コンプライアンスに対応する監査ログのエクスポートも行います。   

OpenAI、Anthropic、Ollama、およびアップストリーム HTTP サービスへトラフィックをスムーズに接続し、ルート設定します。

Python SDK を活用して、組織のニーズに合わせたトラフィック検査ポリシーを作成しましょう。

メトリクスとトレースの可視化のために、OpenTelemetry データをSIEM/SOARシステムへ自動でエクスポートします。

送信元やコンテンツ、状況に応じて、リクエストを高コストまたは低コストのモデルへルーティングします。

コストやユースケースに応じて AI プロンプトを最適なモデルへルーティングし、効率とスケーラビリティを最大化します。

プラットフォームのサポートと統合

AIゲートウェイはパブリッククラウドプラットフォーム、先進のAIモデル、可観測性ツールと連携し、拡張可能なガバナンスとセキュリティ、そして統一された可視性を提供します。

パブリッククラウド対応

主要なパブリッククラウドプラットフォームにAIゲートウェイを導入し、AIアプリケーションへのスケーラブルなアクセスを可能にします。

AIモデル対応

AIゲートウェイは主要なAIモデルプラットフォームや大規模言語モデルと連携し、安全なアプリケーション連携を実現するとともに、SLMおよびLLMサービスをスムーズにサポートします。

オブザーバビリティ連携

AI Gateway は OpenTelemetry を活用し、可視性とコンプライアンスを強化します。そして主要な SIEM や SOAR ツールと簡単に統合でき、効率的なインシデント管理を実現します。

リソース