Agentic AI에 대한 보안 컨텍스트가 중요합니다.

보안 컨텍스트는 주어진 데이터 집합으로 누가 무엇을 할 수 있는지 정의합니다. 기업 시스템 전반에서 데이터를 생성, 변경 또는 삭제할 수 있는 권한은 특정 역할에 할당된 비즈니스 요구 사항에 따라 정의됩니다. 인간이 특정 역할을 수행하는 사업에서 소프트웨어를 사용할 때, 해당 소프트웨어는 작동하기 위해 보안 컨텍스트가 있어야 합니다. 그리고 해당 보안 컨텍스트는 계정을 사용하여 구현됩니다. 소프트웨어는 일반적으로 사용자 계정이나 서비스 계정으로 실행됩니다. 서비스 계정은 소프트웨어가 특정 사용자의 보안 컨텍스트와 무관하게 회사 데이터를 조작할 수 있는 권한을 부여하기 위해 생성됩니다. 

사용자의 역할에 따라 다양한 기업 리소스에 대한 최소 권한의 액세스 권한을 할당하는 것은 간단하지만, 여전히 제약이 있기는 하지만 서비스는 가장 높은 권한의 액세스 권한을 허용하도록 구성되어 프로세스 전체에서 필요한 모든 작업을 수행할 수 있습니다. 예를 들어, 사용자는 자신에게 할당된 고객 계정에 해당하는 시스템의 레코드 집합에 대해서만 쓰기 액세스 권한을 갖고 다른 모든 고객 계정에 대해서는 읽기 전용 액세스 권한을 가질 수 있습니다. 반면, 서비스 계정에는 모든 계정에 대한 쓰기 액세스 권한이 필요합니다. 

에이전트형 AI를 사용하면 사용자 활동과 기업의 비즈니스 프로세스 활동이 섞입니다. 기업의 비즈니스 프로세스는 결과를 요약해서 전달하도록 설계되었습니다(즉, 모든 고객, 모든 직원, 모든 인스턴스에 대해). 서비스 계정을 운영하려면 일반적으로 대부분의 개별 사용자보다 더 높은 권한이 필요하지만 기업 프로세스를 시작하고 모니터링하고 감독할 책임이 있는 것은 개별 사용자나 사용자 팀입니다. 

예를 들어, 어떤 조직에서는 신규 직원의 업무 적응을 지원하기 위해 에이전트형 AI 조수를 고용합니다. 각 신입 직원은 특정한 역할을 맡고, 그 역할에 따라 특정 수준에서 회사 시스템에 액세스해야 하는 비즈니스 요구 사항이 있습니다. 에이전트형 AI 비서는 인사 담당자가 온보딩을 수행하는 맥락에서 실행됩니다. 그렇다면 AI 에이전트가 한 명 이상의 HR 팀원의 권한을 초과하는 권한이 있는 새로운 사용자 계정을 프로비저닝해야 하는 경우 어떻게 될까요? 

에이전트의 권한이 에이전트를 사용하는 사람의 개별적인 권한이 아닌 실행해야 하는 프로세스에 따라 설정될 경우, 사용자가 제어하는 소프트웨어가 허가되지 않은 데이터에 대한 액세스를 제공하므로 보안 위반이 발생할 수 있습니다. 반면, 권한이 없어 작업이 차단된 경우 사용자는 작업을 완료할 수 없습니다. 

이런 시나리오는 프로세스를 분기화하여 해결할 수 있습니다. 하위 작업은 필요한 수준의 권한을 부여할 수 있는 권한이 있는 사람에게 할당되며, 승인되면 프로세스가 다음 단계로 진행될 수 있습니다. 보안 컨텍스트에 따라 동작을 세분화하는 이러한 기술은 에이전트 솔루션에도 적용되어야 합니다.