AIファクトリー向けAPI保護: AIセキュリティへの第一歩

以前の AI ファクトリー シリーズでは、 AI ファクトリーを、大容量で高性能なトレーニングと推論の要件を満たす大規模なストレージ、ネットワーク、コンピューティングへの投資と定義しました。 従来の製造工場と同様に、AI 工場は事前トレーニング済みの AI モデルを活用してロー データをインテリジェンスに変換します。 AI アプリは、API を介して緊密に接続され、高度に分散された、最新のアプリです。

まず、AI アプリは最新のアプリであり、配信、セキュリティ、運用に関して同じよくある課題を抱えており、AI モデルによって配信とセキュリティを必要とする API の数が大幅に増加するという前提から始めます。 

ということで、ミッションは完了です! 大丈夫だよ、ね？ 私たちは最新のアプリを安全に配信する方法を知っています。 当社はapplicationセキュリティのベスト プラクティスを確立しており、API を保護するための複雑さを理解しています。 当社には、分散環境全体にわたって包括的な保護と一貫したセキュリティを提供するソリューションがあります。

そんなに急がなくても！ GPT をそのままにして、詳細を簡単に説明します。

AI アプリは、最新のアプリ (どちらも基本的に API ベースのシステム) と同じリスクと課題を抱えていますが、トレーニング、微調整、推論、検索拡張生成 (RAG)、AI ファクトリーへの挿入ポイントなど、特定の影響があります。

つまり、AI アプリは、最新のアプリと同様に、高度に分散された性質を持ち、ツールが無秩序に拡散し、ハイブリッドおよびマルチクラウド アーキテクチャ全体にわたって一貫した可視性、統一されたセキュリティ ポリシーの適用、脅威の普遍的な修復を維持するための取り組みが複雑になります。 防御側は、リスクと複雑さのこの「火の玉」と格闘するだけでなく、人間のリクエストのランダムな性質や、予測不可能な AI 応答につながる可能性のある AI が調達したコンテンツの非常に変動しやすい性質、さらにはデータの正規化、トークン化、埋め込み、ベクター データベースへの入力に関する考慮事項にも対処する必要があります。

データを AI ファクトリーに統合すると、全体的かつ接続されたエンタープライズ エコシステムが構築されます。また、これらすべての可動部分の統合とインターフェイスには、堅牢な API セキュリティ体制が必要です。

AIapplication機能やデータ交換へのゲートウェイとなる API をセキュリティ リスクから保護することが重要です。 同じ脆弱性の悪用、ビジネス ロジック攻撃、ボットによる悪用、サービス拒否 (DoS) のリスクが適用されますが、AI ファクトリー内の新規および変更された挿入ポイント、およびトレーニング、微調整、推論、RAG 中の自然言語処理 (NLP) インターフェイス、プラグイン、データ コネクタ、ダウンストリーム サービスによる LLM へのリスクについても追加の考慮事項があります。 さらに、DoS などの既知の攻撃には追加の考慮事項があり、ボリューム型 DDoS や L7applicationDoS の緩和策では、モデルDoS のリスクを完全に相殺することはできません。 AI アプリには説明可能性のパラドックスもあり、幻覚、偏見、偽情報を相殺するための追跡可能性の重要性を強調しています。

そして、攻撃者は手をこまねいているわけではありません。 生成 AI は攻撃を民主化し、サイバー犯罪者や国家による攻撃の高度化を促進します。 LLM エージェントは、Web アプリや API を自律的にハッキングできるようになりました。たとえば、脆弱性を事前に知る必要がなく、ブラインド データベース スキーマ抽出や SQL インジェクションなどの複雑なタスクを実行できます。

新しい AI リスクが大きな話題を呼んでいる一方で、AI ファクトリーにおける API セキュリティの重要性は強調しすぎることはありません。 緊急です。 AI アプリの API サーフェスの増加は驚異的です。 すべての CISO は、AI ガバナンス プログラムの一部として API セキュリティを組み込む必要があります。これは、あらゆるCISO サバイバル ガイドの核となるマントラが「見えないものは保護できない」である必要があるためです。 AI アプリの背後にあるインターフェースのインベントリがない場合、脅威モデルが不完全になり、セキュリティ体制にギャップが生じます。

AIapplicationsは動的、可変的、かつ予測不可能です。 AI アプリを安全に導入するには、有効性、堅牢なポリシーの作成、自動化された操作をより重視する必要があります。 検査技術はセキュリティにおいて重要な、進化し続ける役割を果たします。

特に、AI アプリとエコシステム内の API セキュリティについては、組織は、すでに広く導入されているインバウンド セキュリティ制御に加えて、アウトバウンド API 呼び出しと関連するユース ケースのセキュリティを設計することで、サードパーティ API の安全でない使用の可能性の増加を相殺する必要があります。 たとえば RAG ワークフローからのサービス間トラフィックや東西トラフィックの増加を考えると、ボット管理ソリューションは「人間」または「マシン」の識別だけに頼ることはできません。 また、LLMapplicationsのサプライ チェーンは脆弱であり、トレーニング データ、モデル、デプロイメント プラットフォーム (多くの場合、サード パーティから提供され、改ざんやポイズニング攻撃によって操作される可能性があります) の整合性に影響を与える可能性があるため、データ センター、クラウド全体、エッジ、コードからテスト、運用まで、あらゆる場所でセキュリティ制御を実装する必要があります。  

AI ゲートウェイ テクノロジーは、セキュリティ チームとリスク チームが LLM への迅速なインジェクションや機密情報の漏洩などのリスクを軽減する上で重要な役割を果たしますが、AI セキュリティへの取り組みの第一歩は、AI アプリのライフサイクル全体にわたってセキュリティを組み込むことで、AI アプリと AI エコシステムを接続する API を保護することから始まります。