
据 InfoQ 报道,Uber 重构了 Uber Eats 搜索流水线的大部分环节,端到端延迟降低 50%。第一步是换指标:不再只看后端 API 耗时,而是测量从请求到首屏结果连同图片渲染完成的时间,配合服务端缓存分页和异步渲染,首屏延迟先降了 200 毫秒以上。
更大的收益来自 "少干活":Uber 发现排序前有数万个候选项被填充特征后又被丢弃,砍掉低价值检索策略省下约 120 毫秒,引入产品级 embedding 让数据查询减少 100 倍以上;排序特征与展示数据拆分、广告链路改用列式竞价数据和内存访问,又各省下 100 多毫秒,Go 数据结构也做了调整以降低 GC 开销。Uber 还用智能体编码工作流辅助发现和验证优化点,下一步在试端到端微批处理,早期测试中基于产品的检索已让 p99 延迟降低 50% 以上。
来源:InfoQ 中文
原文链接:Uber Eats 重建搜索流水线,端到端延迟降低 50%
标题和摘要由 AI 根据原文生成,可能有误,以原文为准。
- 收藏支持反对

这篇最值得抄作业的不是具体省了多少毫秒,而是第一步换指标:不看后端 API 耗时,改测 “用户点下搜索到首屏连图都渲染完”,量对了地方,优化才不会跑偏。更大的收益来自 “少干活”——数万个候选项填完特征又被丢掉,纯属白忙活,砍掉低价值检索直接省 120 毫秒。说白了,性能优化一半是删代码,一半是别让机器做无用功。

最有价值的其实是第一步——换指标。不再只量后端 API 耗时,改量 “请求到首屏渲染完成”,很多优化都是先量错了地方。更大的收益来自 “少干活”:几万个候选项填完特征又被丢掉,砍掉才是真优化。性能优化的第一性原理永远是别做没用的事。