Windows下安装Docker并使用TF Serving的pb模型
2021/7/1 7:25:31
本文主要是介绍Windows下安装Docker并使用TF Serving的pb模型,对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!
安装
- 下载并安装docker桌面:链接
- 默认勾选即可,安装完成后会强制要求重启
- 重启后可能会报一些错误,不用管直接全关掉,然后右击托盘区的小鲸鱼图标,选择
Switch to Windows Containers
- 此时docker即可正常启动了
- 在Settings里的Docker Engine里,将experimental项置为
true
,否则会报错:no matching manifest for windows/amd64
使用
构建pb模型
以NER的BiLSTM-CRF模型为例:
import tensorflow as tf builder = tf.saved_model.builder.SavedModelBuilder('./pb/') inputs = { 'inputX': tf.saved_model.utils.build_tensor_info(model.inputX), # placeholder 'inputY': tf.saved_model.utils.build_tensor_info(model.inputY), # placeholder 'inputZ': tf.saved_model.utils.build_tensor_info(model.seq_lens) # placeholder } outputs = { 'prediction': tf.saved_model.utils.build_tensor_info(model.viterbi_sequence) } signature = tf.saved_model.signature_def_utils.build_signature_def( inputs, outputs, 'serving_default' ) builder.add_meta_graph_and_variables( sess, [tf.saved_model.tag_constants.SERVING], signature_def_map={'serving_default': signature} ) builder.save()
运行CMD:
docker run tensorflow/serving
docker run -p 8501:8501 --mount type=bind,source=pb文件路径,target=/models/目标模型 -e MODEL_NAME=模型名 -t tensorflow/serving &
预测
curl -X POST http://localhost:8501/v1/models/目标模型:predict -d '{"instances": [{"inputX":[21,20,60], "inputY": [0,0,0],"inputZ":30}]}'
这篇关于Windows下安装Docker并使用TF Serving的pb模型的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!
- 2024-11-19Docker-Compose容器集群化项目实战:新手入门指南
- 2024-11-19Docker镜像仓库项目实战:新手入门教程
- 2024-11-19Docker容器化部署项目实战:新手入门教程
- 2024-11-19Docker-Compose容器集群化资料入门教程
- 2024-11-19Docker镜像仓库资料详解:新手入门教程
- 2024-11-19Docker容器化部署资料:新手入门指南
- 2024-11-19Docker-Compose容器集群化教程:从入门到实践
- 2024-11-19Docker镜像仓库教程:新手入门指南
- 2024-11-19Docker容器化部署教程:初学者指南
- 2024-11-18Docker-Compose容器集群化入门教程