생성 AI가 애플리케이션 성능에 미치는 영향
소비자의 참을성 부족에 대한 연구는 넘쳐난다. 앱의 성능이 좋지 않으면 앱을 버리고, 삭제하고, 소셜 미디어에 큰 소리로 불평합니다. 그리고 많은 사람에게 'poorly'는 "2초 이상 반응하지 않음"을 의미합니다.
생성적 AI가 등장했습니다. 경험과 벤치마크를 기반으로 하면 일반적으로 반응하는 데 몇 초보다 훨씬 더 오랜 시간이 걸립니다. 하지만 친구나 가족과 하는 텍스트 대화와 마찬가지로 챗봇이 '생각'하는 동안 애니메이션 "..."이 신중하게 표시되어 답변이 있을 것임을 알려줍니다.
어떤 이유에서인지, 이 애니메이션은 거의 디지털적인 파블로프 반응을 일으켜 우리가 기다릴 의향을 갖게 만듭니다. 아마도 그 이유는 의인화 심리학에 있을 것입니다. 의인화 심리학은 인간과 유사한 성격을 지닌 비인간을 더 호의적으로 바라보게 만드는 경향이 있습니다. 따라서 우리는 AI를 최소한 인간과 비슷하다고 생각하기 때문에 인간에게 주는 것과 같은 은혜를 AI에게도 줍니다.
오늘날의 AI 사용자 경험을 기다리려는 의지의 이유가 무엇이든, 그 은혜가 얼마나 오래 지속될지에 대한 의문이 제기됩니다. 점점 더 많은 애플리케이션이 통합되고 증강되고 AI 기능 으로 채워지면서 허용 가능한 성능에 대한 질문에 답하는 것이 점점 더 중요해지고 있습니다.
AI 사용자 경험에 허용되는 지연 시간은 얼마일까요? 지연 시간이 어디에서 발생하는지는 중요한가요? 아니면 생성 AI가 관련되어 있다는 것을 알고 있을 때만 허용되는가요?
이는 애플리케이션 보안 의 금기 사항 중 하나가 프로세스에 지연 시간을 도입하는 것이라는 사실을 알고 있기 때문에 살펴보는 것이 중요한 영역입니다. 알려진 위협(SQLi, 악성 코드, 즉석 주입)에 대해 콘텐츠를 검사하고 평가하는 데 지연 시간이 필요하다는 현실에도 불구하고 애플리케이션 보안 서비스 사용자는 성능 저하를 유발하는 모든 솔루션을 바로 종료합니다.
2022년 애플리케이션 전략 설문 조사에서 이 주제에 대한 질문에 대한 답변을 제시해 드리겠습니다. 여기서는 IT 및 비즈니스 리더 모두의 약 60%가 성과가 1~50% 향상된다면 보안 제어를 해제할 의향이 있다고 답했습니다.
분명 성능은 중요하며 지연 시간은 매우 나쁜 것으로 간주됩니다. 그렇다면 AI 사용자 경험에 허용 가능한 지연 시간은 얼마인가?라는 의문이 생깁니다. "응답은 X초 이내여야 합니다"라는 기존 측정 기준이 여전히 적용됩니까? 아니면 AI가 모든 앱에 대해 그 한계를 더욱 넓혀가고 있는 걸까, 아니면 명백히 AI인 앱에만 국한되어 있는 걸까.
그리고 만약 우리의 인내심이 단지 초기 반응일 뿐이고, 부분적으로는 생성 AI의 참신함 때문이라면, 그 참신함이 사라지면 우리는 무엇을 할까요?
현재의 추세대로 추론이 더 빨라진다면 어쩌면 이 질문은 더 이상 의미가 없을지도 모릅니다. 하지만 그렇지 않다면 추론의 느린 속도를 보완하기 위해 AI를 제공하고, 보호하고, 지원하는 구성 요소와 서비스가 훨씬 더 빨라야 할까요?
업계가 얼마나 빠르게 움직이는지 보여줍니다. 우리가 가진 질문은 더 많은 질문을 낳고, 답이 나오기 전에 새로운 질문이 생겨납니다. 대답이 없는 질문들이 쌓여 있는 것은 마치 누군가가 핵심 스위치를 뽑았고 모든 IT 부서가 하루 종일 업무를 중단한 기업의 문제 처리 요청서와 같습니다.
우리는 앱 제공 과 보안이 AI로 인해 변화할 것이라는 것을 알고 있습니다. 고객 및 기업 운영을 증강하기 위해 AI를 사용하고자 하는 사람들의 요구 사항과 이를 위한 솔루션을 구축하는 사람들의 요구 사항 모두에서 말입니다. AI 게이트웨이, 데이터 보안, DDoS 와 같은 기존 공격에 대한 방어 등 명백한 해결책은 쉽게 답할 수 있으며, 우리는 이미 그 문제에 착수했습니다. 하지만 장기적인 영향을 이해하는 것은 훨씬 더 어려운 작업이며, 특히 성과에 관한 경우 더욱 그렇습니다.
또 다른 현실은 하드웨어만으로는 물리적 제약에 부딪히기 전까지는 한계가 있고, 그런 다음 나머지 업계에서 모든 비즈니스에 필수적인 구성 요소의 성능을 개선하는 방법을 파악해야 한다는 것입니다.