11월 8일부터 11일까지 개최되는 GTC에 참여하여, 올 봄에 열렸던 GTC에서 얻은 지식을 한층 더 확장해보세요! 브레이크아웃 세션, 패널 토론, 데이터센터 인프라를 주제로 한 최신 기술 콘텐츠를 통해 많은 인사이트를 제공합니다. 준비된 세션 중에서도 가장 중요한 주요 세션 몇 개를 소개합니다.
CIO(최고정보책임자)가 DPU에 대해 알아야 할 5가지 사항
DPU(데이터 처리장치, Data Processing Units)는 최신 워크로드를 가속화하고 보호하는 중요한 기능을 제공합니다. 하지만 많은 CIO들이 이런 강력하고 새로운 구성요소를 자사의 데이터센터에 구현할 수 있는 시기와 방법, 이유를 두고 고민하고 있죠. 이 세션에서는 DPU가 해결할 수 있는 핵심적인 문제들을 자세히 살펴보고, DPU가 최근 분산되어 수행되는 워크로드의 복잡성을 줄여주는 방법과 함께 분산 워크로드의 유연성, 보안성, 성과, 확장성을 향상시키는 방법을 알려드립니다. 또한 DPU의 주요 기능을 다루는 동시에, 원격 업무, 가상화, 컨테이너화, 디지털 트랜스포메이션, 소프트웨어 정의 데이터센터로 인한 리스크와 복잡성을 처리하는 방법을 CIO에게 공개할 예정입니다. 핵심적인 네트워크, 스토리지, 보안 인프라를 오프로딩, 가속화 및 격리시키는 DPU는 현재 CIO와 시스템 설계자가 당면한 5가지 핵심 문제들을 해결하며, 소프트웨어 정의된 최신 하드웨어 가속 데이터센터를 구축할 수 있습니다.
케빈 다이어링(Kevin Deierling), NVIDIA 마케팅 수석 부사장
DPU를 통해 전례없는 수준으로 데이터센터 혁신하기
클라우드 컴퓨팅과 인공지능(AI)이 현대 데이터센터 아키텍처에 근본적인 변화를 주도하고 있습니다. GPU 가속 솔루션이 데이터 사이언스와 AI를 혁신한 것과 마찬가지로 DPU도 이제 데이터센터 스택을 혁신하면서 애플리케이션의 차세대를 이끌 수 있습니다. 이 세션에서는 이러한 혁신 여정의 핵심 요소들을 소개하고 현재 DPU의 주요 실제 애플리케이션 몇 가지를 살펴봅니다.
예일 셴하브(Yael Shenhav), NVIDIA 이더넷 NIC 및 DPU 비즈니스 담당 부사장
코어에서 엣지까지 효율적인 AI 확장을 위한 범용 아키텍처
현대 데이터센터에는 코어와 엣지 배치를 위해 AI를 효율적으로 지원하는 새로운 범용 아키텍처가 필요한데요. 기존 데이터센터에는 데이터베이스, 제품 설계, 클라우드 인프라, AI, 고성능컴퓨팅(HPC), 빅데이터 등 다양한 애플리케이션 워크로드를 지원하기 위한 여러 서버와 네트워크, 스토리지 구성에 있어서 사일로가 많이 있죠. 중요도가 날로 커지고 있는 AI 영역에서 사일로는 다양한 AI와 머신 러닝 작업도 관리하는 것처럼 보입니다. 하지만 사일로화된 접근 방식은 원래 설계된 각각의 워크로드에 대해서는 효율적인 성과를 내는 반면, 워크로드가 변경되면 바로 유연성과 운영 효율성이 저하되고 맙니다. 이번 세션에서는 교육, 추론, 대화형 및 추천 시스템을 비롯해 다양한 유형의 AI를 즉시 처리해 줄 수 있는, 재구성과 확장이 가능하고 유연하면서도 효율적인 범용 AI 데이터센터 아키텍처를 설계하는 방법에 대해 논의할 예정입니다. 이 세션을 통해 적절한 서버 설계, 가속기 칩, AI 모델, 네트워킹 제품 구축을 통해 코어 데이터센터, 클라우드나 엣지 등 AI 워크로드를 어디서나 효율적으로 처리할 수 있는 데이터센터를 만드는 방법에 대해 알아보세요.
마이클 카간( Michael Kagan), NVIDIA 최고 기술 책임자(CTO)
크리스 램(Chris Lamb), NVIDIA GPU 컴퓨팅 소프트웨어 플랫폼 부문 부사장
오늘날의 NVIDIA DOCA 데이터센터 프로그래밍
데이터센터 구축업체와 혁신업체는 데이터의 기밀성을 보호하면서도, 확장성과 성능에 대해 계속 증가하고 있는 요구를 충족해야 한다는 과제를 안고 있습니다. 이러한 과제를 해결하기 위해 NVIDIA DOCA 프레임워크는 NVIDIA BlueField DPU를 프로그래밍하기 위한 포괄적인 SDK(소프트웨어 개발 키트)와 가속 데이터센터 서비스의 런타임 패키지를 제공합니다. 이 세션에서는 개발자와 IT 운영을 위해 제공되는 DOCA 기능과 서비스를 설명합니다.
애리얼 키트(Ariel Kit), NVIDIA 제품 DPU부문 디렉터
피트 룸비스(Pete Lumbis), NVIDIA DPU 및 DOCA 기술 마케팅 부문 디렉터
엔터프라이즈 차세대 방화벽을 위한 DPU 기반 가속화 – 팔로알토 네트웍스
데이터 폭증에 대응하기 위한 방편으로 데이터센터는 25G에서 100G까지 초고속 네트워크를 구축하고 있습니다. 네트워크 속도가 점차 빨라지면서 차세대 방화벽(NGFW) 등과 같은 보안 기능은 높은 트래픽 부하에 맞춰나가야 하는데요. 소프트웨어 정의 NGFW은 최신 데이터센터 구축에 유연성과 민첩성을 제공해줍니다. 하지만 성능, 효율성, 경제성을 위해 데이터센터를 확장하는 것은 어려운 과제로 남아 있습니다. 그 어느때보다 소프트웨어 정의된 하드웨어 가속 NGFW이 절실히 필요해졌습니다. NVIDIA는 팔로알토 네트웍스(Palo Alto Networks)와 함께 기업 및 클라우드 규모에 맞는 데이터센터를 위해 DPU 가속 NGFW 솔루션을 개발했습니다. 이 세션에서는 PAN VM-Series NGFW 솔루션을 소개하고, 그 활용성과 고객들의 평가판에 대해 논의할 계획입니다. 그리고 Bluefield-2 DPU의 풍부한 네트워크 오프로드 세트를 사용하여 성능을 최대 5배 향상하는 것은 물론 데이터센터와 엔터프라이즈 구축의 보안 요구사항을 해결해주는 PAN NGFW의 라이브 데모를 시연할 예정입니다.
무케시 굽타(Mukesh Gupta), 팔로알토 네트웍스 제품 관리 부사장
존 맥도월(John McDowall), 팔로알토 네트웍스 수석 엔지니어
애쉬 발갓(Ash Bhalgat), NVIDIA 클라우드, 통신 및 사이버 보안 시장 개발 수석 디렉터
AI와 실시간 원격 측정으로 분산 클라우드 엣지에서 사이버 보안 재정의하기
최신 애플리케이션은 고도로 분산된 방식으로 구축됩니다. 또한 서비스나 마이크로서비스에 스케일아웃(scale-out)용 멀티 인스턴스가 있으며, 모든 데이터를 관찰할 수 있는 단일 포인트(point)를 제공하지 않죠. 분산된 애플리케이션은 엄청나게 많기 때문에 전체적인 뷰를 제공하거나 위협을 탐지하기란 어렵습니다. 이를 해결하려면 소스와 위치에 제한을 받지 않으면서 고도로 확장성이 뛰어난 원격 측정 수집과 분석 전략이 필요한데요. NVIDIA Morpheus AI 프레임워크는 워크플로우를 간소화하고 보안 위협을 탐지하고 완화할 수 있는 강력한 도구를 갖춘 사전 훈련된 AI 모델을 제공합니다. 애플리케이션 서비스 글로벌 기업 F5는 NVIDIA BlueField-2 DPU와 인증된 NVIDIA EGX 서버를 사용하면서, 클라우드와 엣지 전체에 분산된 애플리케이션을 위한 실시간 원격 측정과 AI 기반 분석을 통해 사이버보안을 가속할 수 있게 됐습니다. 이 세션에서는 F5가 자사의 Shape 앱 보안 제품 포트폴리오와 분산 클라우드를 통해 AI 기반 원격측정 데이터를 전처리(preprocessing)하여 애플리케이션의 보안과 배포를 최적화하는 방법을 공개합니다.
레누카 나드카르니(Renuka Nadkarni), F5 보안 부문 부사장 겸 최고기술경영자(CTO)
켄 아로라(Ken Arora), F5 시스템 설계자 겸 개발자
애쉬 발갓(Ash Bhalgat), NVIDIA 클라우드 시니어, 통신 및 사이버보안 마켓 개발 수석 디렉터
네트워크 속도에 맞춰 방화벽 보안을 제공하는 체크포인트와 NVIDIA
기업은 수백 테라바이트의 데이터를 몇 분 안에 안전하게 전송해야 할 필요가 있습니다. 또한 고빈도(high-frequency)의 금융 거래의 경우는 낮은 지연시간을 제공해야 하며, 온라인 상거래처럼 급성장하는 비즈니스를 지원하려면 온디맨드 방식으로 보안을 확장할 수 있는 네트워크 보안이 필요하죠. 이 세션을 통해 글로벌 보안 솔루션 제공업체 체크 포인트(Check Point)가 NVIDIA와 협력해 네트워크 속도에 맞춰 방화벽 보안을 제공하고, 최대 3Tbsp의 처리량으로 업계에서 가장 빠른 사이버 보안 솔루션을 구축한 과정을 살펴보세요. 몇 시간이 소요되었던 400TB파일 전송이 이제 단 몇 분만에 안전하게 끝낼 수 있습니다. 이제 금융기관은 지연시간을 마이크로초 단위로 수백만 건의 초단타매매(high-frequency trade)를 안전하게 처리할 수 있습니다. 이 세션에서 10배 향상된 방화벽 보안 성능의 이점을 포함해, 업계 전반 걸친 실제 고객들의 이용 사례를 검토해보세요.
제라 도프만(Gera Dorfman), 체크 포인트 소프트웨어 기술 부문 부사장
InfiniBand HPC 클라우드 모범 사례: 마이크로소프트 애저에서 성능 격리 구현하기
고성능 컴퓨팅(HPC)과 인공지능(AI)은 주요 데이터 처리 엔진으로 발전하며 상업적 용도로 광범위하게 사용되고 있습니다. HPC 클라우드가 호스팅하는 사용자와 애플리케이션은 점점 더 늘고 있기 때문에 네트워크 리소스를 신중하게 관리하고 워크로드 간에 성능 격리를 제공할 필요가 생겼는데요. 마이크로소프트 애저(Microsoft Azure) HPC 클라우드는 NVIDIA InfiniBand In-Network Computing 가속 엔진과 고급 혼잡 제어(congestion control) 메커니즘을 활용해 베어메탈 HPC와 AI 성능을 가능하게 하는 동시에, 네트워크 핫스팟(hot spot)을 제거하고 고효율적인 네트워크 성능을 유지합니다. 이 세션에서는 네트워크 활동을 최적화하고 동일한 네트워크에서 다양한 애플리케이션과 사용자를 지원하는 모범 사례를 살펴봅니다.
길라드 샤이너(Gilad Shainer), NVIDIA 네트워킹 부문 수석 부사장
지틴 호세(Jithin Jose), 마이크로소프트의 수석 소프트웨어 엔지니어
위에서 소개한 세션들은 이번 GTC에서 개최하는 세션 중 일부에 불과합니다. GTC 사이트를 방문해 무료로 등록하고, GTC 세션 카탈로그에서 전체 아젠다를 살펴보세요. NVIDIA 창립자 겸 CEO인 젠슨 황(Jensen Huang)의 영감과 통찰력이 넘치는 키노트도 놓치지 마세요!