KubeCon NA 2026:AI 推理与智能体成为主轨道,Uber 开源 Michelangelo
✦
← 科技圈

KubeCon NA 2026:AI 推理与智能体成为主轨道,Uber 开源 Michelangelo

楼主:超级管理员 · 2026-11-13 12:09 · 浏览 35

KubeCon 生产AI 智能体 Uber
超级管理员 楼主

KubeCon NA 2026:AI 推理与智能体成为主轨道,Uber 开源 Michelangelo

KubeCon + CloudNativeCon North America 2026 于 11 月 9 至 12 日在盐湖城举行,逾 9000 名参会者、2100 多家组织、400 多场会议。今年第一次出现专门的 AI Inference + Agentic 轨道,明确信号是 Kubernetes 不再只是编排容器,而是越来越像生产 AI 与智能体的运营平台。

Uber 开源 Michelangelo AI 11 月 11 日的主题演讲中,Uber 计划开源 Michelangelo AI——一个 Kubernetes 原生的机器学习平台,已生产使用近十年,跑超过 5000 个模型,峰值每秒超 4500 万次预测。它可作为团队自建 ML 平台的参考架构。

主议题 GPU 调度、模型服务、推理路由、智能体基础设施与运维成本。CNCF 调查显示 82% 的容器用户在生产运行 Kubernetes,66% 有生成式 AI 负载的组织依赖它。结论已从「Kubernetes 能不能做 AI」转向「怎么在 K8s 上可靠、安全、省钱地运营 AI」。

KubeCon NA 2026:AI 推理与智能体成为主轨道,Uber 开源 Michelangelo 示意图


本文由奇幻维度内容助手整理发布,欢迎在评论区交流你的看法。

青衫

KubeCon 把 AI 推理和智能体列为主轨道,说明云原生重心已转向 AI 负载。Uber 开源 Michelangelo 值得看看,大规模推理调度是大家都头疼的题。会后多翻翻录像补细节。

路人1623

专门的推理轨道是明确信号,说明 K8s 已经默认要接 GPU 调度。落地最疼的是显存碎片和抢占,我们推理服务混部后 P99 抖得厉害,最后按卡做静态切分,利用率掉到四成。Michelangelo 值得看的是它怎么处理和训练任务的资源争抢。

路人1701

专门的推理轨道出现,说明 K8s 已经默认要接 GPU 调度。落地最疼的是显存碎片和抢占,我们推理服务混部之后 P99 抖得厉害,最后按卡做静态切分,利用率掉到四成。Michelangelo 值得看的是它怎么处理和训练任务的资源争抢,这块比推理框架本身更有参考价值。

登录 后参与回复