sagemaker inference toolkit:使用:brain:Amazon SageMaker在:spouting_whale:Docker容器中服

SageMaker推理工具包 使用Amazon SageMaker在Docker容器中提供机器学习模型。 :books: 背景 是一项针对数据科学和机器学习(ML)工作流程的完全托管服务。 您可以使用Amazon SageMaker简化构建,训练和部署ML模型的过程。 拥有训练有素的模型后,您可以将其在运行您的推理代码的中。 容器提供有效隔离的环境,无论容器部署在何处,都可确保一致的运行时间。 容器化您的模型和代码可以快速,可靠地部署模型。 SageMaker Inference Toolkit实现了模型服务堆栈,可以轻松地添加到任何Docker容器中,从而可以将其 。 该库的服务堆栈