GPU under-utilization1 MPS란? GPU를 HPC 연산 등에 활용하게 되면서, 높은 성능 향상을 체감하는 동시에 한정된 자원을 좀 더 효율적으로 사용하는 연구도 진행되고 있다. 이러한 resource under-utilization 연구는 elastic kernel, persistent thread, kernel fusion 과 같이 소프트웨어적인 해결책이 먼저 연구되었지만, 이제는 NVIDIA의 지원 아래 하드웨어적 특성을 고려한 해결방안 들이 제시되고 활용되고 있다. 스트림(stream), 하이퍼 큐(Hyper-Q)를 거쳐서 제시된 MPS의 개념 대하여 간단하게 살펴보려고 한다. MPS( Multi-Process Service)는 이름에서도 알 수 있듯이 다수의 프로세스가 동시에 단일 GPU에서 실행되도록 해주는 런타임 서비스이다. .. 2020. 1. 29. 이전 1 다음