1. 首页
  2. 编程语言
  3. Python
  4. Python gRPC客户端与TensorFlow Serving交互实例.rar

Python gRPC客户端与TensorFlow Serving交互实例.rar

上传者: 2023-11-24 19:55:20上传 RAR文件 660B 热度 61次

为了与TensorFlow Serving服务进行交互,Python应用需要实现相应的gRPC客户端。在TensorFlow Serving官方文档中,提供了一个生成mnist Python客户端的示例。然而,由于该示例依赖bazel编译,生成的Python脚本无法直接运行。你可以使用以下完整例子运行客户端:

./predict_client.py --host 127.0.0.1 --port 9000 --model_name linear --model_version 1

不同模型的输入格式各异,只需直接修改Python脚本中构建TensorProto的代码即可。建议使用这个项目编译生成的文件和代码示例。实现Python gRPC客户端的原理在于编译TensorFlow serving和TensorFlow的proto文件。由于官方项目使用bazel编译,需要修改proto文件中的依赖路径。编译生成的Python文件可以直接导入,然后按照TensorFlow文档生成TensorProto对象,并参考gRPC文档调用gRPC服务端。

用户评论