gpt4 book ai didi

Azure ML Web 服务 - 响应时间慢

转载 作者:行者123 更新时间:2023-12-03 02:39:07 25 4
gpt4 key购买 nike

我在 Azure 机器学习工作室中开发了一个机器学习模型(随机森林分类模型),并将其作为 Web 服务部署到 Azure 容器实例 (ACI)。

然后,我在 Azure ML 工作室中运行的笔记本(具有 4 核、8 GB RAM 后端 Azure 计算)中测试 Web 服务的性能。在 Jupyter Notebook 中使用 %%timeit 魔法命令,我得到的平均速度约为 1.2 秒/循环(针对 1000 个数据点运行推理)。

但是,当我在 Azure 之外的本地计算机中测试相同的 Web 服务时,性能下降到大约 5 秒/循环(慢了 4 倍以上)

我对网络服务部署相当陌生,所以我真的不知道如何解决这个问题(并且在谷歌搜索上也找不到任何有用的信息)。请告诉我是否需要任何特定的配置或环境详细信息来回答此问题(我主要只是按照 Azure 文档进行部署,例如教程 here )

最佳答案

显然问题在于 Web 服务的部署位置。当我将 Web 服务部署到我所在国家/地区的某个位置时,响应时间比托管在其他国家/地区时要快得多。

关于Azure ML Web 服务 - 响应时间慢,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/61977905/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com