服务器K8s集群GPU时间切片

本文目录一览：

• 1、Canonical为K8s提供LTS“无发行版”容器化应用程序
• 2、GPU的分时复用如何实现-time-scaling

Canonical为K8s提供LTS“无发行版”容器化应用程序

1、Canonical为K8s提供的LTS“无发行版”容器化应用程序是一种仅包含运行所需核心组件的轻量化容器方案，旨在通过12年安全维护、减少攻击面及提升性能，为Kubernetes环境提供高效、安全的开源应用部署方式。

2、总结：Canonical的12年Kubernetes LTS版本通过超长支持周期、灵活升级选项和全场景覆盖，为企业提供了兼顾稳定性与创新性的容器编排解决方案，尤其适合需要长期运行关键应用或满足严格合规要求的组织。

GPU的分时复用如何实现-time-scaling

GPU的分时复用实现方式主要包括三种：时间分片、多实例GPU（MIG）和多进程服务（MPS）。其中，时间分片是一种在Kubernetes中超额订阅GPU的新方法，该方法允许通过设备插件框架将GPU作为可调度资源进行宣传，尽管此框架通常仅允许整数资源的宣传，不支持超额订阅。

GPU的分时复用是一种提高GPU资源利用率的策略，允许在单个GPU上运行多个工作负载，通过时间切片机制实现。通过合理配置，可以超额订阅GPU资源，从而提升资源的使用效率。在Kubernetes中，通过设备插件框架实现GPU资源的管理。NVIDIA提供了k8s-device-plugin用于Kubernetes环境下的GPU资源管理。

选择“GPU”作为硬件加速器。重新运行代码前，执行！nvidia-smi确认GPU已分配。其他注意事项 驱动与CUDA版本匹配：通过nvcc --version查看CUDA版本，确保与PyTorch要求一致。减少内存占用：若GPU内存较小，尝试在fit函数中添加num_gpus=0.5（部分GPU分时复用）或降低模型复杂度。