エンタープライズAI配信とセキュリティ

フロントエンド アプリケーションと推論サービス API 間のやり取りの概要を説明します。AI モデルへのリクエストの送信と応答の受信を中心に説明します。 これにより、より複雑なやり取りの基盤が構築されます。

大規模言語モデル (LLM) オーケストレーションおよび検索拡張サービスを追加することで、基本的な推論を強化します。 ベクター データベースとコンテンツ リポジトリから追加のコンテキストを取得し、それを使用してコンテキストが強化された応答を生成する方法について詳しく説明します。

検索拡張生成 (RAG) による推論に必要なデータ取り込みプロセスに焦点を当てます。 これには、データの正規化、埋め込み、ベクター データベースへの入力、RAG 呼び出し用のコンテンツの準備が含まれます。

モデルとの相互作用を通じて既存のモデルのパフォーマンスを向上させることを目的としています。 モデルを最初から再構築せずに調整し、ワークフローを微調整するために Inference および Inference with RAG からのデータ収集を重視します。

以前のチェックポイントを使用する場合もありますが、新しいモデルをゼロから構築します (再トレーニング)。 データの収集、前処理、モデルの選択、トレーニング方法の選択、トレーニング、検証/テストをカバーします。 この反復的なプロセスの目的は、特定のタスクに合わせて調整された堅牢なモデルを作成することです。

この機能には、エージェント AI と呼ばれる AI と外部サービスおよび API とのシームレスな統合が含まれており、ユーザーの要求やモデル推論に基づいて動的な対話、データ取得、アクション実行が可能になります。 AI は外部ツール、データベース、MCP (モデル制御プロトコル) を活用することで機能を拡張し、エージェントの動作を示し、必要に応じて自律的に意思決定を行ったり、プロアクティブなアクションを実行したりします。 これにより、幅広い外部リソースとサービスを活用して、インテリジェントでコンテキストに応じた応答とソリューションを提供するシステムの能力が強化されます。

AI アプリケーション コンポーネントの開発、保守、構成、テスト、および展開のワークフローを網羅します。 これには、フロントエンド アプリケーション、LLM オーケストレーション、ソース コントロール管理、CI/CD パイプラインが含まれます。