news 2026/5/26 16:31:59

Azure AI Search 性能优化实战:从 40 秒到 8 秒的优化之旅

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
Azure AI Search 性能优化实战:从 40 秒到 8 秒的优化之旅

背景

我们的知识库问答系统使用 Azure Container Apps + Azure AI Search + Azure OpenAI 构建,架构如下:

用户请求 → Container App → AI Search (向量搜索) → OpenAI (生成回答)

系统上线后,性能表现不佳:

  • P50 响应时间:18 秒
  • P99 响应时间:41 秒
  • 最慢请求:40.9 秒

用户体验极差,需要紧急优化。

问题分析过程

第一次分析:应用层串行执行(部分正确)

查看应用日志,发现单个请求内部执行流程:

00:00:00.000 - 请求开始 00:00:02.000 - get_search_results took 7.053s 00:00:07.000 - get_search_results took 10.068s (5秒后才开始) 00:00:26.000 - get_search_results took 23.689s (19秒后才开始) 00:00:32.000 - get_search_results took 27.646s (6秒后才开始) 00:00:34.000 - combine_content took 40.618s

初步结论:应用层串行执行多次 AI

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/5/26 2:33:21

碱性电解槽单元槽内流体均匀性设计探秘

碱性电解槽单元槽内流体均匀性设计,目前行业内单元槽主要分为圆形和方形结构单元槽,极板包括平板型,乳突型,棱型凹凸结构,分析单元槽内气液比,速度,压力,湍动能,涡分布&a…

作者头像 李华
网站建设 2026/5/23 4:34:01

II CZOI Round 7P14081 「CZOI-R7」炸弹游戏

题目描述花火要和你在晖长石号上玩一个游戏!规则是这样的:晖长石号可以被视为一个 个点组成的图,初始的时候没有任何边。你可以在这 个点之间连 条无向边,不允许有重边和自环。花火会在这 个点中选出 个点放炸弹。为了不让你在拆炸…

作者头像 李华
网站建设 2026/5/22 16:26:35

【打靶日记】VulNyx 之 Listen

主机发现 ┌──(root㉿xhh)-[~/Desktop/xhh/VluNyx/listen] └─# arp-scan -I eth1 -l192.168.56.151 08:00:27:1b:16:5c PCS Systemtechnik GmbH主机地址为 端口扫描 ┌──(root㉿xhh)-[~/Desktop/xhh/VluNyx/listen] └─# nmap -p- 192.168.56.151 …

作者头像 李华
网站建设 2026/5/21 11:23:45

无人驾驶车辆轨迹跟踪与模型预测控制第二版配套程序整理分享

无人驾驶车辆轨迹跟踪与模型预测控制第二版书中配套程序整理,包括MATLAB simulink模型与Carsim par文件。 一共从第二章到第八章。 已经完全适配Carsim2019与MATLAB2018a以上版本,最好为MATLAB2021a。 包括相关的电子资料。 非常适合学习模型预测控制&am…

作者头像 李华