|
엔비디아는 자사의 암페어 아키텍처에서 멀티 인스턴스 GPU를 지원해 기업들이 보다 신속하게 인공지능 모델을 개발 및 배포하도록 돕는다고 밝혔다.
MIG는 엔비디아 A100 GPU를 최대 7개의 독립된 GPU 인스턴스로 분할한다. 인스턴스들은 각각 고유한 메모리, 캐시, 스트리밍 멀티프로세서를 사용해 동시에 실행된다.
이를 통해 모든 작업에 대해 보장된 서비스 품질로 적합한 크기의 GPU를 제공해 이전 GPU 대비 최대 7배 향상된 활용도를 구현한다.
MIG 모드의 A100은 최대 7개의 다양한 크기의 AI 또는 고성능컴퓨터 워크로드를 혼합해 실행할 수 있다.
이 기능은 일반적으로 최신 GPU가 제공하는 성능을 모두 필요로 하지 않는 AI 추론 작업에 유용하다.
예컨대 사용자는 20GB의 메모리를 갖춘 2개의 MIG 인스터스 혹은 10GB의 3개 인스턴스, 5GB의 7개 인스턴스를 생성할 수 있어 각각의 워크로드에 맞는 최적의 조합을 만들 수 있다.
|
![[e피플] 나이가 대수? 공조냉동기계기능사 필기시험 100점 맞은 NCS교육생](/news/thumbnail/201904/89169_2253_3941_v150.jpg)
