NVIDIA의 전략적 움직임: AI 성능 향상을 위한 코파일럿+ 통합
메타ai뉴스 논설위원 이현우 교수
엔비디아(NVIDIA)가 RTX AI 노트북의 기능을 향상시키기 위해 코파일럿+ 기능을 도입할 예정이다. 이 기능은 무료 업데이트를 통해 제공될 예정이지만, 정확한 출시 시기는 아직 확정되지 않았다.
또한, 내년에는 엔비디아가 인텔 및 AMD 칩을 배제하고 자사의 GPU와 ARM 프로세서를 탑재한 윈도우 AI PC를 출시할 가능성이 있다.
NVIDIA RTX AI 노트북의 코파일럿+ 기능 차별성
엔비디아의 코파일럿+ PC는 AI 연산을 퀄컴의 스냅드래곤 X 엘리트 칩의 신경망처리장치(NPU) 대신 GPU에서 수행한다는 점에서 차별화된다. 현재 NPU는 최대 40테라옵스(TOPS)의 성능을 제공하는 반면, 엔비디아의 RTX GPU는 AI 가속을 위해 1000TOPS 이상의 성능을 처리할 수 있어 성능에서 큰 차이가 있다.
NPU는 더 작은 모델과 노트북에서 높은 전력 효율성을 위해 설계된 반면, GPU는 배터리 수명이 중요하지 않은 PC 데스크톱에서 더 큰 모델을 높은 성능으로 처리하는 데 적합하다. 따라서 배터리 수명이 중요한 코파일럿+ 노트북에 GPU를 탑재하기 위해서는 전력 효율을 높이는 것이 관건이다.
AI 노트북 시장에서의 경쟁
엔비디아는 노트북에서 AI 기반 작업을 수행하기 위해 경쟁하고 있다. MS가 AI 모델을 NPU로 온디바이스 AI로 처리하는 방향으로 나아가고 있는 반면, 엔비디아는 PC에서 GPU의 역할을 유용하게 만드는 데 집중하고 있다. 따라서 엔비디아는 ‘RTX AI 노트북’이라는 브랜딩을 강하게 밀고 있으며, GPU가 NPU보다 더 무거운 AI 작업을 처리할 수 있음을 강조하고 있다.
또한 엔비디아는 6월에 RTX AI 툴킷을 출시할 예정이며, 여기에는 맞춤형 모델 구축, 최적화 및 배포를 위한 도구와 SDK가 포함된다. 이 도구들은 메타의 ‘라마’ 모델과 같은 것을 가져와서 훨씬 적은 메모리 요구사항으로 더 높은 성능을 발휘하도록 최적화할 수 있다.
Microsoft와의 협력
이 외에도 엔비디아는 MS와 협력하여, RTX GPU에서 온디바이스로 실행되는 윈도우 코파일럿 런타임용 소형언어모델(sLM)을 구축한다고 밝혔다. 이는 앞으로의 AI 기술 발전에 큰 기여를 할 것으로 기대된다.
엔비디아의 RTX GPU와 NPU의 주요 성능 차이는 다음과 같습니다:
- 처리 성능: RTX GPU는 AI 가속을 위해 1000테라옵스(TOPS) 이상의 성능을 처리할 수 있으며, 이는 매우 높은 연산 능력을 요구하는 AI 작업에 적합합니다. 반면, NPU는 최대 40테라옵스의 성능을 제공하여 비교적 낮은 연산 능력을 가지고 있습니다.
- 설계 목적: NPU는 전력 효율성과 배터리 수명이 중요한 모바일 기기와 노트북에서 사용되도록 설계되었습니다. 반면, RTX GPU는 고성능 데스크톱 PC에서의 사용을 염두에 두고 설계되어 배터리 수명보다는 처리 능력에 중점을 둡니다.
- 적용 분야: NPU는 가벼운 AI 작업을 효율적으로 처리할 수 있도록 설계된 반면, RTX GPU는 복잡하고 무거운 AI 모델을 처리하는 데 더 적합합니다. 이는 고성능 AI 애플리케이션에서 중요한 역할을 합니다.
엔비디아는 AI 노트북 시장에서 MS와 경쟁하기 위해 다음과 같은 전략을 선택했습니다:
- 고성능 GPU 활용: 엔비디아는 GPU가 NPU보다 더 무거운 AI 작업을 처리할 수 있다는 점을 강조하고 있습니다. 이를 통해 고성능 AI 노트북 시장에서 경쟁 우위를 확보하려고 합니다.
- RTX AI 노트북 브랜드 강화: 엔비디아는 ‘RTX AI 노트북’이라는 브랜딩을 강하게 밀고 있으며, 이를 통해 고성능 AI 노트북 시장에서 자사의 제품을 차별화하고 있습니다.
- AI 툴킷 출시: 엔비디아는 맞춤형 모델 구축, 최적화 및 배포를 위한 도구와 SDK가 포함된 RTX AI 툴킷을 출시하여 개발자들이 효율적으로 AI 애플리케이션을 개발할 수 있도록 지원하고 있습니다.
- 협력 강화: 엔비디아는 MS와 협력하여 RTX GPU에서 온디바이스로 실행되는 윈도우 코파일럿 런타임용 소형언어모델(sLM)을 구축하는 등 AI 생태계 전반에서의 협력을 강화하고 있습니다.
RTX AI 툴킷의 주요 기능과 기대 효과는 다음과 같습니다:
- 맞춤형 모델 구축: 툴킷은 개발자들이 자신만의 맞춤형 AI 모델을 구축할 수 있도록 다양한 도구를 제공합니다.
- 모델 최적화: 툴킷은 AI 모델을 최적화하여 메모리 요구사항을 줄이고 성능을 향상시킬 수 있습니다. 예를 들어, 메타의 ‘라마’ 모델을 가져와 훨씬 적은 메모리로 더 높은 성능을 발휘하도록 최적화할 수 있습니다.
- 모델 배포 지원: 툴킷은 개발자들이 AI 모델을 배포하고 관리할 수 있도록 다양한 SDK를 포함하고 있습니다.
- 성능 향상: 툴킷을 사용하면 고성능 AI 애플리케이션을 효율적으로 개발할 수 있으며, 이는 사용자 경험을 향상시키고, 더 높은 수준의 AI 기능을 구현하는 데 기여할 수 있습니다.
#세계메타버스AI연맹 이사장
이현우 교수