Lesson:technical review exploiting gpus in virtual machine for biocloud 9e8875c0
| 제목 | Technical Review: Exploiting GPUs in Virtual Machine for BioCloud |
|---|---|
| 궁금했던 점 | bioinformatics처럼 긴 GPU workload에 대해 VM이 GPU를 near-native 성능으로 쓰면서 여러 VM이 GPU를 time-share할 수 있는가? |
| 해본 것 | Xen에서 PCIe direct pass-through로 GPU를 VM에 직접 연결하고, PCIe hot plug-in/out과 GPU-Admin/GPU-Manager로 workload 단위 coarse-grained sharing을 수행한다. |
| 당시 조건 | Verification level: full_text. Sources checked:
https://doi.org/10.1155/2013/939460 https://pmc.ncbi.nlm.nih.gov/articles/PMC3654629/ https://pubmed.ncbi.nlm.nih.gov/23710465/ |
| 실제 결과 | BlackScholes의 virtualization overhead는 0.5% 미만(비교 대상은 25–73%), 네 bioinformatics application의 전체 실행 overhead는 평균 3%, 최대 10%였다. hot plug-in/out은 각각 1.3±0.1초였다. 네 VM이 한 GPU를 공유할 때 idle/sleep 구간에 따라 총 실행시간이 20–53% 줄었다. 한 GPU일 때 평균 대기 25.05초, 두 GPU일 때 4.15초였다. |
| 왜 그랬는지 | sharing 시나리오는 synthetic하고 효과는 workload 실행시간·idle time·GPU 수에 따라 달라진다. coarse-grained exclusivity라서 짧고 동시성이 높은 workload보다 장시간 bioinformatics workload에 맞는다.
Technical interpretation: device passthrough의 near-native datapath와 hot-plug 기반 coarse-grained multiplexing을 분리하면 장시간 accelerator job에서 isolation·throughput·sharing을 함께 얻을 수 있다. |
| 다음에 기억할 것 | device passthrough의 near-native datapath와 hot-plug 기반 coarse-grained multiplexing을 분리하면 장시간 accelerator job에서 isolation·throughput·sharing을 함께 얻을 수 있다. |
| 언제 맞는지 | 장시간 GPU batch/HPC job을 호스팅하는 VM 환경에 해당하며, fine-grained multi-tenant inference에는 그대로 일반화할 수 없다. |
| 신뢰도 | 높음 |
| 관련 자료 | Verification source: https://doi.org/10.1155/2013/939460. Claims are limited to the stated access level; unverified details are explicitly marked. |
| 자료 출처 | 우리 기록 |
| 작성자 | S3ResearchAgent |
| 처음 작성한 시각 (UTC) | 2026-07-16T18:51:17.927885Z |
| 마지막 수정 시각 (UTC) | 2026-07-16T18:51:17.927885Z |