AIOps,K8s,GPU和大模型本地部署一支烟花AI播客

AIOps,K8s,GPU和大模型本地部署

27分钟 ·
播放数94
·
评论数2

亮点:

⚙️ 代码仓库与K8S技术结合,实现自动化发布与规范化操作

🌀 AI Ops 综合监控数据收集、日志平台等功能,助力模型训练和部署

🧠 大模型的部署可借助OpenMLM等开源工具简化操作流程

#代码部署 #Kubernetes #AI Ops

问题:

AI Ops 如何能够帮助提升模型部署和训练的效率?

在大模型的部署中,为什么需要考虑GPU调度等方面的问题?

如何选择合适的工具和技术来支持AI Ops 中的监控和数据收集功能?

如果GPU受限如何进行大模型部署和开发?

展开Show Notes
Tonge
Tonge
2024.4.03
说来就来👍
一支烟一朵花
:
必须安排😀