azure-machine-learning-service - 蔚蓝机器学习 : Include additional files during model deployment

Question

在我的 AML 管道中，我构建了一个模型并将其部署到 AciWebservice。我现在需要包含一些将由 score.py 使用的额外数据。此数据采用 json 格式 (~1mb)，特定于构建的模型。为了实现这一点，我正在考虑将这个文件粘贴到 blob 存储中并在部署期间更新 score.py 中的一些“placholder”变量，但它看起来很老套。

这是我正在考虑但不确定实用性的一些选项

选项 1:是否可以在模型部署过程中包含此文件，使其成为 docker 镜像的一部分？

选项 2:我正在考虑的另一种可能性是，是否可以将这个 json 数据部分包含在模型工件中？

选项 3:如何将其注册为数据集并将其提取到乐谱文件中？

在模型部署场景中，推荐的部署依赖文件的方式是什么？

Answer 1

有几种方法可以做到这一点:

1. 将附加文件放在与模型文件相同的文件夹中，然后 register整个文件夹作为模型。在这种方法中，文件与模型一起存储。

2. 将文件放在本地文件夹中，并将该文件夹指定为 InferenceConfig 中的 source_directory | .在这种方法中，每次部署新端点时都会重新上传文件。

3. 在 InferenceConfig 中使用自定义基础镜像将文件烘焙到 Docker 镜像本身。