
一位目前负责通算服务运维的 k8s SRE 表示,自己曾在 k8s 上部署常见大模型,也早期尝试过 Triton 和 MIG 等 GPU 虚拟化。他认为 AI 时代传统通算运维已有些过时,想学习 AI Infra,但手头没有卡,也没有实际需求,因此询问 AI Infra 是否是目前 LLM 相关工作中数学要求较低、且 SRE 可以考虑转型的方向。
来源:V2EX
原文链接:https://www.v2ex.com/t/1257239
标题和摘要由 AI 根据原文生成,可能有误,以原文为准。
- 收藏支持反对
- 暂无回复