Run docker container with GPU in Docker swarm

本文探讨了在Docker Swarm环境中启用GPU支持的创新方法与潜在挑战。作者通过对比传统docker-compose配置与Swarm模式的限制揭示了一个关键矛盾：Swarm不支持在资源预留中直接声明GPU设备这一设计缺陷迫使开发者寻找替代方案。文章核心贡献在于提出了一种基于嵌套容器的解决方案通过创建可附着的overlay网络将GPU容器与Swarm管理的容器解耦实现跨节点的GPU资源共享。这种方法巧妙利用了docker-in-docker架构在宿主机上启动独立GPU容器的同时确保其他服务可通过自定义网络与其通信。这种架构突破了传统资源分配的桎梏但同时引发新的思考：当容器嵌套层级增加时性能损耗是否可被接受？这种间接访问方式是否会影响系统的可观测性？更重要的是这种工作模式是否暗示了云原生硬件资源调度的新范式？文章通过成功运行Ollama模型的案例证明了方案的可行性但留下的疑问更值得深思：当我们在追求资源隔离与共享的平衡时是否正在重新定义容器化的边界？--Qwen3