aws-cloudformation - 如何通过cloudformation在sagemaker中创建无服务器端点？

Question

下面的 cloudformation 模板创建了 sagemaker 模型和端点配置。我的目标是在 sagemaker 中测试无服务器推理，但是当我根据 aws 文档将 ServerlessConfig 属性添加到端点配置资源时，出现错误 - “属性验证失败:[在{/} [ServerlessConfig] 中遇到不支持的属性]。有什么想法吗？

SageMakerModel:
    Type: AWS::SageMaker::Model
    Properties: 
      Containers: 
        -
          Image: !Ref ImageURI
          ModelDataUrl: !Ref ModelData
          Environment: {"SAGEMAKER_PROGRAM": "inference.py", "SAGEMAKER_SUBMIT_DIRECTORY": !Ref ModelData}
      ExecutionRoleArn: !Ref RoleArn


SageMakerEndpointConfig:
    Type: "AWS::SageMaker::EndpointConfig"
    Properties:
      ServerlessConfig: 
        -
          MaxConcurrency: 5

Answer 1

嘿，请使用这篇文章和代码作为引用:https://medium.com/towards-data-science/deploying-sagemaker-endpoints-with-cloudformation-b43f7d495640 .

在端点配置资源中，确保调整无服务器选项:MaxConcurrency 和 MemorySize，而不是针对实时端点详细说明的实例计数和类型设置。