블로그 | CTO 사무실

제약된 컴퓨팅: 에지에서의 하드웨어 최적화 사례

로리 맥비티 썸네일
로리 맥비티
2021년 9월 20일 게시


영화 아폴로 13에서는 장비 작동에 전력이 얼마나 중요한지 보여주는 장면이 나온다. 우주선을 작동시키고 이후 재시작하는 데 필요한 전력은 (스포일러 경고) 우주인을 지구로 귀환시키는 일의 궁극적인 성공에 핵심적입니다.

힘은 모든 것이다
영화 아폴로 13에서 진 크란츠 역을 맡은 에드 해리스는 권력이 모든 것이라는 걸 보여줍니다.

폭풍이나 기타 외부 이벤트로 인해 정전이 될 때까지 우리 중 많은 사람이 무시하는 현실은 우리가 실행하는 모든 애플리케이션이 전력을 소모한다는 것입니다. 오늘날 우리는 조명을 작동하고, 문을 잠그고, 자동차를 운행하기 위해 애플리케이션에 의존하고 있으며, 이는 전력이 전기 소비량과 CPU 사이클의 형태로 계산된다는 것을 의미합니다.

요즘 브라우저가 얼마나 느린지 농담을 하거나, 탭을 30개 이상 열어 놓았기 때문일 수도 있다고 엉뚱하게 인정하기도 하지만, 사실 컴퓨팅 능력에는 무한한 것이 없습니다. 엣지와 같은 제약이 있는 환경에서는 우리가 일상적으로 업무, 삶, 놀이에 의존하는 자동화, 데이터 처리, 통신을 실행할 수 있는 컴퓨팅 능력이 더욱 부족합니다 .

우리는 가능한 것의 엔지니어링 경계를 넓혔지만 무어의 법칙이 끝난다는 외침은 1제곱인치에 집어넣을 수 있는 트랜지스터의 수에는 한계가 있다는 사실을 계속해서 일깨워줍니다. 휴대폰에 장착할 수 있는 구성 요소의 수에는 한계가 있으며, 셀 타워에 설치된 서버 랙에서 기대할 수 있는 컴퓨팅 성능에도 한계가 있습니다.

따라서 모든 장치, 엔드포인트 및 제한된 컴퓨팅 노드로 구성된 에지는 크기와 공간을 보완적으로 늘리지 않고도 사용 가능한 컴퓨팅 성능을 늘릴 수 있는 방법이 필요합니다. 이러한 필요성이 인프라 르네상스의 배경이 됩니다. 인프라 르네상스는 대부분 사람들의 관심을 끌지 못하는 운동으로, 제한된 환경의 전반적인 용량을 효과적으로 늘리기 위해 특화된(최적화된) 컴퓨팅 성능을 활용하는 데 중점을 둡니다.

하드웨어 최적화 컴퓨팅의 진화

하드웨어 최적화 컴퓨팅을 위한 진화적 경로는 오래전 암호화를 목표로 하는 전문화된 가속 "카드"로 시작되어 결국 GPU(그래픽 처리 장치)를 탄생시켰고 현재는 DPU(데이터 처리 장치)를 탄생시켰습니다.

각각의 진화는 실리콘에 문자 그대로 하드코딩된 특정 처리 작업을 추출하여, 데이터를 더 빠르고 효율적으로 처리할 수 있는 기하급수적으로 더 큰 용량을 생산했습니다. 이는 2000년대 중반에 개발된 암호화 가속 카드의 기반이 되었으며, 암호화 및 복호화(암호화) 처리 성능을 획기적으로 개선하여 SSL Everywhere 도입을 촉진했습니다. 유사한 발전이 인접 시장에서도 저장 처리 속도 개선에 중점을 두고 이루어졌습니다. TOE(TCP 오프로드 엔진)는 "하드웨어 카드에 TCP/IP 프로토콜을 구현한 네트워킹 장치"입니다 . TOE 인터페이스는 또한 Data ONTAP에 1GbE 또는 10GbE 인프라에 대한 인터페이스를 제공합니다. 10-GbE PCIe TOE 카드는 Data ONTAP에서 NFS, CIFS 및 iSCSI TCP 애플리케이션을 완벽하게 지원합니다.”     

기본적으로 제약이 있는 환경에서 용량을 개선해야 할 때마다(경제적이든 물리적이든) 하드웨어 구성 요소를 최적화하는 것이 도입되는 것을 보았습니다.

현재 NVIDIA 덕분에 가장 각광받고 있는 DPU는 AI와 ML 관련 애플리케이션에 대한 관심 증가로 인해 컴퓨팅에 대한 물리적 제약을 극복하려는 우리의 노력을 그대로 보여줍니다.

에지에서의 DPU의 역할

에지와 같은 환경에는 하드웨어 최적화된 컴퓨팅에서 비롯되는 강력한 성능이 필요합니다. 제조 분야에서 IIoT(산업용 사물 인터넷)가 극히 낮은 지연 시간(20ms 미만)으로 데이터를 실시간으로 처리해야 하는 경우이든, 건강 데이터 처리 속도가 생사를 가를 수 있는 의료 분야에서든 하드웨어 최적화된 컴퓨팅은 필수입니다.

즉, 조직이 엣지를 최대한 활용할 수 있도록 지원하는 모든 애플리케이션 중심 플랫폼에는 하드웨어 최적화된 컴퓨팅을 핵심 기능으로 포함해야 합니다.

DPU는 최적화된 컴퓨팅 성능의 민주화를 나타냅니다. 적절한 소프트웨어 스택과 적절한 플랫폼을 결합하면 에지는 현재 대규모 하이퍼스케일 공급업체가 누리고 있는 것과 동일한 효율성과 이점을 기업에 제공할 수 있을 것입니다.

그렇기 때문에 우리는 NVIDIA와 같은 파트너와 계속해서 협력 하고 있습니다. 소프트웨어가 엣지를 포함한 모든 것을 집어삼키고 있지만, 여전히 모든 것을 구동하는 것은 하드웨어입니다. 그리고 하드웨어 최적화를 활용하면 더 많은 공간이 필요하지 않고도 그 성능을 높일 수 있습니다.