python - 如何在 Python 中本地部署 Amazon-SageMaker

Question

我在 Amazon-SageMaker 中训练了我的模型并将其下载到我的本地计算机。不幸的是，我不知道如何在本地运行模型。

模型位于包含以下文件的目录中:

image-classification-0001.params
image-classification-0002.params
image-classification-0003.params
image-classification-0004.params
image-classification-0005.params
image-classification-symbol.json
model-shapes.json

有人知道如何使用 Python 在本地运行它，或者能够向我指出可以提供帮助的资源吗？我试图避免使用 Amazon API 调用模型。

编辑:我使用的模型是使用与此非常相似的代码创建的 example .

感谢任何帮助，我会将赏金奖励给最有帮助的人，即使他们没有完全解决问题。

Answer 1

这不是一个完整的答案，因为我没有 SageMaker 设置(而且我不知道 MXNet)，因此我无法实际测试这种方法(是的，正如已经提到的，我不想将此称为完整的答案)而是解决此问题的可能指针/方法)。

假设 -

您提到您的模型与您提供的笔记本链接非常相​​似。如果你仔细阅读笔记本上的文字，你会发现在某些时候有这样的内容 -

“在此演示中，我们使用 Caltech-256 数据集，其中包含 256 个对象的 30608 张图像。对于训练和验证数据，我们遵循此 MXNet 示例中的分割方案。”

看到那里提到的 MXNet 了吗？让我们假设您没有进行太多更改，因此您的模型也是使用 MXNet 构建的。

方法 -

假设我刚才提到的，如果你去搜索 AWS SageMaker Python SDK 的文档您将看到有关模块序列化的部分。这又是从另一个假设开始的 -

“如果你的训练函数返回一个模块对象，它将由默认的模块序列化系统序列化，除非你指定了自定义保存函数。”

假设您的情况确实如此，在同一文档中进一步阅读告诉我们“model-shapes.json”是模型的 JSON 序列化表示，“model-symbol.json”是模块的序列化通过在模块的“symbol”属性上调用“save”函数创建的符号，最后“module.params”是模块参数的序列化(我不确定它是文本还是二进制格式)形式。

有了这些知识，我们就可以查看 MXNet 的文档。瞧!我们看到here我们如何使用 MXNet 保存和加载模型。因此，由于您已经拥有这些保存的文件，您只需将它们加载到 MXNet 的本地安装中，然后运行它们来预测未知数。

希望这能帮助您找到解决问题的方向。

奖金 -

我不确定这是否也可以做同样的工作，(@Seth Rothschild 在评论中也提到了)但它应该，你可以看到 AWS SageMaker Python SDK也有一种方法可以从保存的模型中加载模型。