최근 SIGGRAPH 2023 이벤트에서 NVIDIA는 NVIDIA OVX 서버 내 L40S 통합과 함께 혁신적인 NVIDIAL40S GPU를 공개함으로써 중요한 진전을 이루었습니다. 사용 가능한 데이터를 기반으로 이러한 제품은 AI 모델 교육 및 추론, 3D 디자인 및 시각화, 비디오 처리, 산업 디지털화를 포함한 다양한 애플리케이션에 맞게 세심하게 맞춤화되었습니다. 목표는 분명합니다. 기업, 조직 및 데이터 센터의 AI, 그래픽 및 비디오 처리 용량을 강화하여 급증하는 컴퓨팅 요구 사항을 효과적으로 해결하는 것입니다.
L40S GPU 및 OVX 서버의 핵심은 생성 AI 모델의 훈련 및 추론 단계를 향상시켜 이러한 모델의 효율성을 증폭시킬 수 있는 잠재력을 보여주는 역할입니다.
공개적으로 공개된 정보에 따르면 L40 시리즈의 후속 제품인 새로운 L40S GPU 가속 카드가 NVIDIA에서 나온 것입니다. Ada Lovelace 아키텍처를 기반으로 제작된 이 GPU는 4세대 Tensor Core와 FP8 변환 엔진을 통합하여 최대 1.45PFlop의 계산 속도를 자랑합니다. L40S GPU는 그 탁월함을 더욱 더해 18,176개의 CUDA 코어 어셈블리를 자랑하며, NVIDIA A100 GPU에 비해 단정도 부동 소수점(FP32) 성능(91.6 TFlops)이 거의 5배나 향상되었습니다. A100 및 H100 GPU와 달리 L40S는 NVLink 지원을 포기하고 대신 GDDR6 ECC 메모리를 선택하여 엣지 컴퓨팅 시나리오에 보다 적합한 솔루션으로 자리매김했습니다.
Shanghai Securities의 분석가 Liu Jingzhao는 자신의 통찰력을 다음과 같이 공유했습니다.
- PCIe Gen 4 인터페이스의 제약으로 인해 L40S는 GPU 네트워크 컴퓨팅에서의 적용이 상대적으로 제한적일 수 있으며 잠재적으로 진행 중인 800G 광학 모듈에 대한 수요에 미미한 영향을 미칠 수 있습니다.
- A100과 비교하여 L40S는 향상된 비용 효율성과 함께 특정 생성 AI 모델 컨텍스트 내에서 계산 효율성 이점을 보여줍니다.
- L40S는 GDDR6과 같은 성숙한 기술을 활용하여 업스트림 공급의 안정성을 보장합니다.
- L40S의 강조된 이점은 다운스트림 클라우드 제공업체 사이에서 인수 추세를 확대하여 중속 및 고속 광학 모듈, 특히 200G 및 400G 표현에 대한 새로운 성장 가능성을 탄생시킬 수 있습니다.
NVIDIA의 L40S GPU 출시는 AI 컴퓨팅 기능을 증폭시켜 다운스트림 클라우드 제공업체 간의 조달 활동을 더욱 촉진할 수 있는 준비가 되어 있습니다. 이러한 모멘텀은 중~고속 광모듈 시장 내 수요 증가의 길을 열어줄 수 있을 것으로 보인다.