Sentient.io が F5 分散クラウド サービスで AI を民主化

シンガポールを拠点とする AI およびデータ プラットフォーム プロバイダーである Sentient.io は、あらゆる規模の企業が AI にアクセスできるようにしています。 F5 分散クラウド サービスは、Sentient.io の分散運用を合理化し、運用コストを削減しながらエッジでのリアルタイム AI 処理を強化しました。

ビジネスチャレンジ

Sentient.io の AI イノベーターとしての歩みは、目覚ましい成功を収めてきました。 Sentient.io は、変革的な AI ソリューションでさまざまな業界を支援するというビジョンを追求し、効果的な意思決定を促進するリアルタイムの洞察を提供することを目指しています。 同社の AI ソリューションは業界に革命をもたらし、企業が AI の変革力を解き放つ力を高めています。同社の Sentient Marketplace は革新的な AI サービスのハブであり、企業が既存のワークフローに AI を簡単に統合できるようにします。 Sentient Marketplace により、ASEAN 諸国および日本の顧客は AI の力を活用できるようになります。

しかし、急速な成長と顧客ベースの拡大により、マルチクラウド環境の複雑さや従来のクラウドネイティブ処理の限界など、いくつかの複雑な課題が生じました。 個々のクラウド プロバイダー ソリューションでは、複数のプロバイダーにまたがって運用する場合に固有の課題が生じます。 それぞれが独自の Kubernetes ディストリビューション (GKE または AKS) を提供しており、それぞれのクラウド環境でこれらのプラットフォームを活用する必要がある組織にとっては困難な場合があります。

さらに課題を複雑にしていたのは、顧客サイトでの AI モデルの展開プロセスが煩雑だったことです。 モデルをダウンロードし、エッジ サイトごとにオンプレミスの Kubernetes 環境をセットアップし、手動で更新を処理するという手動のアプローチは、時間がかかるだけでなく、エラーが発生しやすく、遅延やモデルの展開の一貫性のなさを招きます。 さらに、中央の Sentient Marketplace から顧客サイトに新しいモデルを同期することは非常に手作業の多いプロセスであり、顧客サイト全体で運用上の欠陥が増加していました。

Sentient.io の AI アプリケーションが顧客の間で人気を博すにつれ、オンプレミス、パブリック クラウド、プライベート クラウドといった分散環境全体でこれらのサービスを運用および展開することの課題が認識されました。 その結果、運用の複雑さが増し、ワークフロー オーケストレーションとセキュリティ ポリシーに一貫性がなくなり、製品の価値実現までのサイクルが長くなりました。 さらに、AI アプリケーションを安全に導入および配信するために、あらゆるクラウドで機能するソリューションを見つけることができませんでした。 

ソリューション

Sentient.io は、より合理化され効率的なアプローチの必要性を認識し、F5 分散クラウド サービスを使用して F5 と提携し、さまざまな業種の顧客にターンキーのエンタープライズ グレードの AI「サービスとしての」ソリューションを提供して、ビジネスで AI の力を発揮できるようにしました。

F5 Distributed Cloud App Stack は、エッジでのリアルタイム データ処理を可能にするためにプラットフォーム上で有効化された重要なサービスです。 分散クラウド アプリ スタックを使用すると、ローカライズされた推論データをアプリケーションの近くに配信できるため、推論データの取得におけるインターネット ベースまたはモバイル リンクへの依存が軽減されます。 

Distributed Cloud App Stack によりアプリケーション環境が統合され、複数の Kubernetes ディストリビューションを管理する必要がなくなり、主要な AI サービスの展開と管理の方法が合理化されました。 この簡素化により、多くの運用上の改善が実現し、Sentient.io は効率性を高めながら、あらゆるクラウド プロバイダーに AI モデルを簡単に展開できるようになりました。 

「F5 Distributed Cloud App Stackのおかげで、AIインフラストラクチャを顧客に提供する方法が変わりました」とSentient.ioのCEO、Christopher Yeo氏は述べています。 「エッジでデータを処理することで、リアルタイムの洞察が得られ、データの量や場所に関係なく、お客様は情報に基づいた意思決定を即座に行うことができます。 この変化により当社のビジネスは大変革を遂げ、当社は AI イノベーションの最前線に立つことになりました。」 

今後、Sentient.io は、LLM ソリューションのセキュリティを確保するために F5 分散クラウド サービスも検討する予定です。 「F5 との経験により、F5 分散クラウド Web アプリケーションおよび API 保護 (WAAP) を検討して LLM サービスを総合的に保護し、サービス拒否や機密情報の漏洩などの LLM の脅威を軽減する自信が生まれました」と Yeo 氏は述べています。

Sentient.io は、F5 を使用した革新的な AI/ML ソリューションを求める企業の価値実現までの時間を短縮できます。 

結果

統合 PaaS プラットフォーム

F5 分散クラウド サービスにより、複数のクラウド環境を管理する必要がなくなり、運用が簡素化され、効率が向上しました。 これにより、Sentient.ioは、俊敏性と拡張性を高めながら、複数のクラウドプロバイダーにAIモデルを展開できるようになりました。

エッジでのリアルタイムの洞察

このソリューションにより、Sentient の業務が合理化され、レイテンシが削減され、エッジでのリアルタイム AI 処理が可能になりました。 エッジで推論を実行すると、地理的な場所によるネットワークと帯域幅の制約がなくなり、推論がリアルタイムでアプリケーションに即座に配信されます。 このモデル展開の移行により、Sentient.io は、より迅速に価値を実現しながら、高性能な AI アプリケーションを顧客に提供できるようになりました。

Distributed Cloud App Stack には GPU 機能が組み込まれているため、Sentient がすべての推論サイトに追加の GPU リソースを展開する必要性が軽減されます。

コスト削減とセキュリティ強化

分散クラウド プラットフォーム上で運用を合理化することで、リソースの割り当てを最適化し、全体的な運用コストを削減することができました。 プラットフォーム上のアプリケーションと API セキュリティのネイティブ統合とサポートにより、すべての推論アプリが保護されました。

このコラボレーションにより、大幅なコスト削減も実現しました。 複数のクラウド プラットフォームを管理するには、専任のチームが必要となり、多大なリソース コストが発生しました。 F5 分散クラウド サービスにより、Sentient は運用を簡素化し、リソースを最適化してアプリケーション管理を簡素化することでコストを削減し、戦略的な取り組みのためにリソースを解放しました。

Yeo 氏は次のように語っています。「F5 分散クラウド サービスの特徴は、AI の強力なツールであるだけでなく、データ セキュリティの秘密兵器でもあるということです。 すべては信頼の問題です。 Sentient.io は F5 と連携して革新を進めるだけでなく、データのプライバシーと整合性が確実に確保されるようにしています。」

すべての顧客ストーリーを見る

 

利点
  • AIサービスを調整するための一貫したワークフロー
  • 数千のエッジサイトの運用を簡素化
  • 推論目的のトレーニングデータの安全な配信
  • AI導入の市場投入までの時間を短縮

課題
  • 複数のクラウドにわたる複雑さの増大
  • AIデータを配信するための一貫性のないワークフロー
  • 分散型AIインフラのセキュリティ確保

製品