職場で生成 AI ツールを使用するには、より高いセキュリティが必要です
生成 AI は、誰も目を離すことができない、非常に光り輝く物体のようなものです。
世界中のほぼすべての企業が、ビジネスを変革する生成 AI ツールの可能性に夢中になっています。それには十分な理由があります。
生成 AI は、自然言語の要求に応じてテキストや画像などのコンテンツを作成する機械学習の一種であり、ゲームを変えるテクノロジーです。 生産性の向上からパーソナライゼーションの改善まで、生成 AI ツールはさまざまなメリットをもたらします。
たとえば、ガートナーによる最近の調査では、2,500人を超える経営幹部が、顧客体験と顧客維持（38%）を生成AIへの投資の主な目的として挙げています。 これに続いて、収益増加（26%）、コスト最適化（17%）、事業継続性（7%）などの分野が続きます。
さらに、 IBMが3,000人のCEOを対象に実施した別の調査では、回答者の69%が組織全体に生成AIがもたらす幅広いメリットを認識しています。 しかし、CEO 以外の上級管理職のうち、自社が責任を持って生成 AI を導入する準備ができていると答えたのはわずか 30% でした。
率直に言って: それは憂慮すべきことだ。 上級幹部の 3 分の 1 未満が、組織が責任を持って生成 AI を導入する準備ができていると回答しています。
生成 AI ツールを使用することで得られる可能性があるすべてのプラスの利益に夢中になるのは簡単です。 しかし、忘れてはいけないのは、 生成 AI ツールを使用すると、大きなリスクと課題が生じる可能性があります。
生成 AI の進化のスピードが速いため、従業員が生成 AI ツールをどのように活用しているか、また生成 AI インターフェースに取り込まれるデータに常に注意を払っていないと、組織はすぐに窮地に陥る可能性があります。
生成 AI によって、ポジティブで有益な体験が突然、コストのかかるセキュリティ上の頭痛の種に変わる可能性がある多くの方法のうち、いくつかを次に示します。
- 企業の機密データの漏洩。
Samsung のスタッフが誤って Open AI のチャットボットChatGPTにコードをアップロードしたという話を聞いたり読んだりしたことがあるかもしれません。 これにより、独自のデータが漏洩しただけでなく、サムスンにとって世界規模の重大なPR上の悪夢が生み出されました。 そして、おそらく、このようなことが起こった、あるいは起こる可能性がある組織はサムスンだけではないだろう。 次はあなたの会社かもしれません。
- 誤った情報や偏見を広める。
ChatGPT のような生成 AI ツールは、大規模言語モデル (LLM) を活用しています。 また、LLM は、誤った情報や不正確な情報も含め、記事、ウェブサイト、その他あらゆるものから得たデータセットに基づいてトレーニングを受けます。 生成 AI ツールは間違った情報を生成したり、偏見を広めたりしないと思い込んで、それをキャンペーンに使用したり、仮定を構築したりするのは簡単です。 しかし、いつの間にか真実とそうでないものの間の境界線が曖昧になり、あなたの評判も曖昧になります。 さらに、生成 AI チャットボットによって生成される偏見や不正確な情報は、 AI 幻覚によってもたらされる問題にはまったく近づきません。
- 個人を特定できる情報 (PII) の不適切な取り扱い。
PII は、生成 AI ツールとのやり取り中に収集される可能性があります。 厳格なデータプライバシー対策を維持するのは、これらのツールの背後にある企業の責任です。 そうしないと、アカウント乗っ取りと戦うことになるかもしれません。 あるいは、悪意のある人物が顧客の個人情報を入手した場合、深刻な法的トラブルに巻き込まれ、顧客との関係が悪化する可能性もあります。
幸いなことに、多くの組織が安全な慣行を維持するための措置を講じています。 いくつかの企業では、生成 AI の良い面と悪い面に関するトレーニングを提供しています。あるいは、スタッフが責任を持って調査や実験を行うことを奨励しています。 従業員の承認と必要なガイダンスのための生成 AI ポリシーを設計した企業もあります。
これらの対策には確かにメリットがありますが、生成 AI ツールの人気、複雑さ、急速な進化により、さらなるセキュリティが求められています。 さらに、そこには必ず人為的ミスが存在します。
きっとあなたも一度は聞いたことがあるでしょう。 あるいは何回も: 目に見えないものはあなたを傷つけることがあります。 職場での生成 AI ツールの使用に関しては、これはまさに真実です。 認識が不足していると、会社が不利な立場に陥る可能性があります。
職場で生成 AI を使用することによる脅威から保護するために、企業はゼロ トラストアプローチを採用する必要があります。 ゼロ トラストの重要な信条は、「決して信頼しない」ということであることを忘れないでください。 必ず確認してください。」 そして、今日優先すべきゼロトラスト セキュリティの重要な戦略の 1 つは、生成 AI ツールへのアクセスを検出することです。
従業員が職場で生成 AI ツールをどのように活用しているかをより詳細に把握し、きめ細かな制御を行えるようにすることで、セキュリティ チームは潜在的なリスクを特定して管理できるようになります。 これは組織にとって次のことに役立ちます:
- データ、PII、コード、知的財産 (IP) などを保護します。
- 会社のガイドラインをサポートするポリシーを有効にして適用します。
- 生成 AI ツールの意図的または偶発的な悪用に対するセキュリティを維持します。
生成 AI 環境が急速に展開し続ける中、企業は生成 AI ツールの検出機能を提供するゼロトラスト セキュリティ フレームワークを導入することで安心できます。
F5 が職場で生成 AI ツールを使用する際の潜在的なリスクを軽減するためにどのように役立つかについて詳しくは、 F5 BIG-IP SSL Orchestrator DevCentral の記事をご覧ください。