首页
学习
活动
专区
圈层
工具
发布
社区首页 >专栏 >基础服务系列-安装TensorFlow Serving

基础服务系列-安装TensorFlow Serving

作者头像
用户2146693
发布2020-02-11 16:51:56
发布2020-02-11 16:51:56
9710
举报
文章被收录于专栏:架构师进阶架构师进阶

TensorFlow Serving is a flexible, high-performance serving system for machine learning models, designed for production environments.

下载镜像

docker pull tensorflow/serving

网络原因,可能会导致timeout,多尝试几次。

clone代码

git clone https://github.com/tensorflow/serving

启动镜像

代码语言:javascript
复制
docker run -t --rm -p 8501:8501 \
    -v "/root/tf-serving/serving/tensorflow_serving/servables/tensorflow/testdata/saved_model_half_plus_two_cpu:/models/half_plus_two" \
    -e MODEL_NAME=half_plus_two \
    tensorflow/serving &_model_half_plus_two_cpu:/models/half_plus_two" \
    -e MODEL_NAME=half_plus_two \
    tensorflow/serving &

启动后。。。

测试

代码语言:javascript
复制
curl -d '{"instances": [1.0, 2.0, 5.0]}' \
    -X POST http://localhost:8501/v1/models/half_plus_two:predict

测试成功。。。

遇到的问题

代码语言:javascript
复制
No versions of servable half_plus_two found under base path /models/half_plus_two

解决方案

创建目录:/models/half_plus_two

参考

Serve a Tensorflow model in 60 seconds

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 下载镜像
  • clone代码
  • 启动镜像
  • 测试
  • 遇到的问题
    • 解决方案
  • 参考
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档