容器集群GPU资源共享调度优化

来源：计算机应用与软件杂志2024年第7期北京时间：

作者：罗恋, 顾进广, 李奇缘, 高峰

摘要：在容器集群环境中，整块的物理GPU资源通常只能被单个容器独享调度，存在大量的资源浪费。现有的GPU共享调度方案中仍存在调度失败、资源开销大或没有实现资源隔离的问题，改进的GPU Sharing利用LD_PRELOAD机制有效地实现了GPU显存资源的隔离，并优化了原有的调度算法，极大提高了集群显存资源的利用率。实验结果验证了改进后GPU Sharing在资源隔离实现上的有效性，同时，改进后的GPU Sharing同在物理机上执行应用程序只多了1.008%的额外开销，而且优化后的调度算法提高了53.01%的GPU显存利用率。

关键词：GPU集群, GPU共享调度, 容器, 资源共享, GPU利用率