服务器K8s集群GPU拓扑感知调度！k8s对服务器最低要求→

本文目录一览：

• 1、K8S集群下的GPU调度
• 2、...大学生创新大赛亚军:虚拟机房-电网式算力调度网络

K8S集群下的GPU调度

在人工智能领域，GPU资源对于各种机器学习、训练任务至关重要。本文将详细介绍如何在Kubernetes（K8S）集群环境下，实现POD访问并利用Node上的GPU资源。首先，Kubernetes本身支持设备插件（Device Plugin）功能，这使得Pod能够访问如GPU等特殊硬件资源。借助这一特性，K8S用户能更灵活地利用集群中的GPU资源。

微服务架构：AI微服务可与其他服务共享GPU，提升资源复用率。异构训练：自动匹配不同品牌GPU，优化多卡训练效率。实施建议评估业务场景：优先在推理、微服务等轻量级任务中部署HAMi，训练任务可逐步迁移。分阶段落地：试点阶段：选择1-2个K8s集群部署HAMi，验证虚拟化与调度效果。

阿里云gpushare-scheduler-extender：通过修改k8s调度器，实现GPU显存和计算资源的细粒度分配（如按MB划分显存），支持多Pod共享单卡且互不干扰。NVIDIA MIG（Multi-Instance GPU）：若硬件支持（如A100/A30显卡），可将单卡划分为多个独立实例，每个实例拥有专属显存和计算核心，但需内核驱动和CUDA版本支持。

在Kubernetes中，通过设备插件框架实现GPU资源的管理。NVIDIA提供了k8s-device-plugin用于Kubernetes环境下的GPU资源管理。为了支持时间分片，插件配置文件被扩展以支持多个资源副本，允许在同一GPU上调度多个工作负载。GPU Feature Discovery （GFD） 是一个用于自动发现集群中NVIDIA GPU硬件特性的工具。

...大学生创新大赛亚军:虚拟机房-电网式算力调度网络

1、024中国国际大学生创新大赛亚军项目“虚拟机房-电网式算力调度网络”由共绩科技团队开发，其核心目标是通过构建算力与电力融合的柔性调度网络，提供低价、灵活、安全且绿色的算力服务，实现技术普惠。

2、亚军项目：虚拟机房-电网式算力调度网络 团队与学校：清华大学研究生团队。

3、运维核心团队由2名兼职教师组成，招聘2名助管研究生协助工作，网络部和客服部老师也参与少量日常管理，形成高效运营机制。重点实验室专项算力或院系师生自建的小规模算力主要由实验室团队负责运维，校级平台提供技术支持，并欢迎纳入统一管理。

4、用于存储训练数据集、模型文件及业务数据。（二） 智算调度平台 全局资源调度模块：实现算力、存储、网络资源的动态分配与负载均衡； 任务管理模块：接收并调度用户提交的AI训练、推理任务。