Anduin Xue
Anduin Xue

Anduin's Tech Blog

Docker Swarm


Run docker container with GPU in Docker swarm

这篇文章讨论了如何在Docker Swarm中成功运行支持GPU的容器,尽管直接使用GPU设备配置在Swarm模式下被禁止。文章分享了一个巧妙的方法,通过创建一个可连接的分布式网络,并利用特定的Compose文件来实现GPU资源的分配和管理。作者详细解释了如何通过自定义函数创建所需的网络,并展示了完整的Compose配置示例,包括服务、网络和卷的设置。最终,作者成功运行了Ollama模型,并确认GPU被正确支持。文章还提供了实际测试结果的截图,验证了解决方案的有效性。你是否也在尝试在Docker Swarm中使用GPU?或者你对如何优化这种配置感兴趣?这篇文章可能会为你提供一些启发和解决方案。--DeepSeek

Docker Swarm GPU Resource Management Ollama DeepSeek Model Docker Networking Resource Allocation

基于 Docker Swarm Mode 建设你家里的数据中心!

本文主要介绍了如何利用Docker Swarm进行容器编排,并结合Swarmpit工具实现高效管理。文章首先阐述了Docker Swarm的核心概念,包括服务、任务、节点、镜像和卷等,接着通过一个具体的moongladepure应用部署示例,展示了如何编写YAML文件并使用`docker stack deploy`命令进行业务快速部署。作者建议采用Caddy作为反向代理,以实现自动化HTTPS支持,并推荐了更佳的端口暴露方式。此外,文章还详细指导了基于GlusterFS的共享存储建设步骤,包括节点间的磁盘挂载、卷创建及权限配置等操作。最后,提供了一个确保节点重启后自动上线的服务脚本。--DeepSeek

bash Linux Server Docker Container Docker Swarm Cluster Swarmpit

  • 1