IT 自動化セキュリティのための AI の使用

紛争時に井戸に毒を入れるという歴史は確立されている。 井戸へのアクセスを遮断したり、病気を広めるための力の増幅手段として使用したりと、町の井戸は常に重大な攻撃経路となってきました。

現代では、インフラストラクチャ、アプリケーション、デジタル サービスに変化をもたらす自動化を開始するスクリプトまたは API エンドポイントを井戸にたとえることができます。 ほとんどの組織（近日公開予定の「State of Application Strategy 2023」レポートによると 78%）は、まさにそれを実現するために、IT 全体にわたって豊富な自動化セットを採用しています。 Facebook、Twitter、Amazon などが運営する複雑なハイパースケール システムに変更を加えるために自動化が普及していることを考えると、これは驚くべきことではありません。

それは、昔の共有井戸のように、1 つのスクリプトが数分のうちに何千ものシステムに影響を与える可能性があるからです。 以前は、同じ数のシステムに影響を与える手動の変更には、数日、あるいは数週間もかかっていたかもしれません。 自動化は力の倍増であり、あらゆる種類の業務を人間では到底達成できない方法で拡張することを可能にします。 これは、プロセス、プラクティス、およびビジネスを拡大するための基礎となります。 実際、 「デジタル ビジネスのためのエンタープライズ アーキテクチャ」で述べたように、自動化なしでは組織はデジタル ビジネスになることはできないと主張することもできます。 これは、データを有効に活用し、SRE 運用を導入し、最新のアプリ配信を通じて適応する能力をデジタル サービスに組み込むために組織が構築する必要がある 6 つの主要な機能の 1 つです。

しかし、自動化の重要な点は、それが自動であるということです。 いったん始まると、そのようなシステム全体に広がる連鎖的な変化を阻止するのは困難です。 結局のところ、変化のスピードは自動化を推進する要因の 1 つであり、いったん変化が始まると、それを止めるのは困難 (不可能ではないにしても) です。

自動化によって意図しない変更が広がり、最終的にはインターネットの広範囲に影響を及ぼしたという話を聞いたことがなければ、オフグリッド生活を送っているに違いありません。 スクリプトにプッシュされた不正なパラメータは、Enter ボタンが押されたり、API エンドポイントが呼び出されたりすると、取り消すことがほぼ不可能になります。 処刑されると、井戸に毒が入れられる。

IT 自動化のセキュリティに関して私が警鐘を鳴らしたのは今回が初めてではありません。 これは、見過ごされ、十分に調査されていない攻撃ベクトルであり、最終的には悪用されることになります。 そして、たとえ「最終的に」が数十年先のことであったとしても、人為的ミスによるより差し迫った脅威は依然として存在し続けます。 Uptime Institute の最新の調査によると、「過去 3 年間で約 40% の組織が人為的ミスによる大規模な停止を経験しています。」

ここで AI、より正確には ML が登場します。