F5 と Intel によるインテリジェント アプリ向け AI モデルの導入、保護、最適化

新世代のインテリジェント アプリでは、データ入力に基づく AI 自動化 (悪天候を監視する保険アプリなど) が使用されるほか、機械学習を使用してユーザー エクスペリエンスを適応および改善することもあります。 ガートナーは、2026 年までに新しいアプリケーションの 30% が AI を使用してパーソナライズされた適応型ユーザー インターフェイスを実現すると予測しています (現在は 5% 未満)。² 

しかし、多くの組織には、必要な AI モデルを構築または使用するスキルが不足しています。 世界経済フォーラムの調査によると、経営幹部は、AI と連携して効果的に働くためには、従業員全体の最大 40% がスキルを再習得する必要があると見積もっています。³これに応じて、開発者が最小限のコードで AI モデルを活用できるようにする新しいソリューションが登場しています。

AI モデルには多大な計算能力も必要となるため、制限が生じる可能性があります。 AI モデルを入力ソースの近くに配置することで推論のレイテンシは短縮されますが、エッジロケーションでは許容できる AI パフォーマンスに必要なリソースが不足していることがよくあります。

開発者の使いやすさとリソースの最適化に対応するため、Intel は、AI 推論を高速化すると同時に、フットプリントを小さくし、「一度書けばどこにでも展開できる」アプローチを実現するオープンソース ツールキット、OpenVINO を開発しました。 これにより、プログラマーは比較的少ないコード行数でスケーラブルかつ効率的な AI ソリューションを開発できるようになります。 OpenVINO は、AI モデルを変換および最適化して、データ センター、クラウド、エッジで実行することもできます。

OpenVINO は、AI 推論などの実際のシナリオで AI をより利用しやすくしますが、アプリケーションと同様にセキュリティと配信機能が必要です。 OpenVINO の展開は、数百または数千のコンテナーベースのモデル サーバーで構成される場合があります。 推論結果をユーザーやアプリケーションに確実に提供するには、サーバーの健全性を監視し、トラフィックを管理する方法が必要です。 F5 NGINX Plus はOpenVINO モデル サーバーを保護できます。

OpenVINO で NGINX のオープンソース バージョンを使用することもできますが、NGINX Plus を使用すると、高可用性、アクティブなヘルス チェック、受賞歴のあるサポートなどの貴重な機能が追加されます。 NGINX Plus は負荷分散と SSL ターミネーションも提供しているため、アプリとユーザーは OpenVINO モデル サーバーに確実かつ安全に接続できます。

可用性を向上させるために、NGINX Plus をアクティブ/パッシブ ペアとして導入できます。 これにより、プライマリを使用してトラフィックをアクティブに処理し、バックアップが状態を監視して問題が発生した場合に引き継ぐ、高可用性ソリューションが作成されます。 コンテンツ キャッシュと SSL 終了により、OpenVINO モデル サーバーの負荷が軽減され、パフォーマンスが向上します。

NGINX Plus のアクティブ ヘルス チェックは、モデル サーバーを監視して、トラフィックが利用可能なサーバーにのみ送信されるようにします。 mTLS 証明書を使用して受信暗号化トラフィックを保護および検証し、分析とダッシュボードを使用してサーバーの問題を予測またはトラブルシューティングします。 NGINX Plus は軽量で、インストール、展開、デバッグに対するトップレベルのサポートを備えているため、AI を活用したアプリケーションのニーズに簡単に導入できます。