gpt4 book ai didi

python - 在 AzureML 中部署模型时如何将参数传递给评分文件

转载 作者:行者123 更新时间:2023-12-03 22:40:36 26 4
gpt4 key购买 nike

我正在使用 Python SDK 将经过训练的模型部署到 Azure 机器学习上的 ACI 端点。
我已经创建了我的 score.py 文件,但我希望通过传递的参数调用该文件(就像使用训练文件一样),我可以使用 argparse 来解释该文件。 .
但是,我似乎没有找到如何传递参数
这是我必须创建 InferenceConfig 环境的代码,这显然不起作用。我应该重新使用额外的 Docker 文件步骤吗?

from azureml.core.conda_dependencies import CondaDependencies
from azureml.core.environment import Environment
from azureml.core.model import InferenceConfig

env = Environment('my_hosted_environment')
env.python.conda_dependencies = CondaDependencies.create(
conda_packages=['scikit-learn'],
pip_packages=['azureml-defaults'])
scoring_script = 'score.py --model_name ' + model_name
inference_config = InferenceConfig(entry_script=scoring_script, environment=env)

添加 score.py 以供引用,以了解我希望如何使用该脚本中的参数:

#removed imports
import argparse

def init():
global model

parser = argparse.ArgumentParser(description="Load sklearn model")
parser.add_argument('--model_name', dest="model_name", required=True)
args, _ = parser.parse_known_args()

model_path = Model.get_model_path(model_name=args.model_name)
model = joblib.load(model_path)

def run(raw_data):
try:
data = json.loads(raw_data)['data']
data = np.array(data)
result = model.predict(data)
return result.tolist()

except Exception as e:
result = str(e)
return result

有兴趣听听您的想法

最佳答案

这个问题已经一年了。提供解决方案来帮助那些可能仍在寻找答案的人。我对类似问题的回答是 here .您可以将 native python 数据类型变量传递到推理配置中,并在评分脚本中将它们作为环境变量访问。

关于python - 在 AzureML 中部署模型时如何将参数传递给评分文件,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/60637170/

26 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com