多进程共享的GPU调度方法、系统及电子设备

本发明提供一种多进程共享的GPU调度方法、系统及电子设备，所述多进程共享的GPU调度方法包括：从同时运行多个相同用户程序的进程池中捕获所述用户程序的某一个内核，并将该内核确定为待调度的内核；获取待调度的内核，根据所述内核的特征确定所述内核的资源分配百分比；根据确定的内核的资源分配百分比向GPU发射所述内核。实现一种基于Volta MPS多进程共享GPU调度策略，利用资源互补策略提升GPU整体吞吐率，通过线下的profile结果决定任务的计算资源分配方式，设计并实现了一种进程池机制，在Volta MPS的基础上可以对进程的GPU计算资源进行动态分配，实现最大化GPU系统的整体吞吐量。
上海交通大学
陈全 | 晁佳欢 | 过敏意