Windows下安装Docker并使用TF Serving的pb模型
2021/7/1 7:25:31
本文主要是介绍Windows下安装Docker并使用TF Serving的pb模型,对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!
安装
- 下载并安装docker桌面:链接
- 默认勾选即可,安装完成后会强制要求重启
- 重启后可能会报一些错误,不用管直接全关掉,然后右击托盘区的小鲸鱼图标,选择
Switch to Windows Containers
- 此时docker即可正常启动了
- 在Settings里的Docker Engine里,将experimental项置为
true
,否则会报错:no matching manifest for windows/amd64
使用
构建pb模型
以NER的BiLSTM-CRF模型为例:
import tensorflow as tf builder = tf.saved_model.builder.SavedModelBuilder('./pb/') inputs = { 'inputX': tf.saved_model.utils.build_tensor_info(model.inputX), # placeholder 'inputY': tf.saved_model.utils.build_tensor_info(model.inputY), # placeholder 'inputZ': tf.saved_model.utils.build_tensor_info(model.seq_lens) # placeholder } outputs = { 'prediction': tf.saved_model.utils.build_tensor_info(model.viterbi_sequence) } signature = tf.saved_model.signature_def_utils.build_signature_def( inputs, outputs, 'serving_default' ) builder.add_meta_graph_and_variables( sess, [tf.saved_model.tag_constants.SERVING], signature_def_map={'serving_default': signature} ) builder.save()
运行CMD:
docker run tensorflow/serving
docker run -p 8501:8501 --mount type=bind,source=pb文件路径,target=/models/目标模型 -e MODEL_NAME=模型名 -t tensorflow/serving &
预测
curl -X POST http://localhost:8501/v1/models/目标模型:predict -d '{"instances": [{"inputX":[21,20,60], "inputY": [0,0,0],"inputZ":30}]}'
这篇关于Windows下安装Docker并使用TF Serving的pb模型的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!
- 2024-11-14Docker端口:你真的公开了哪些东西?
- 2024-11-14用DOCKER在家里的实验室里搞些酷炫的玩意儿
- 2024-11-05掌握Docker:高效安全的十大最佳实践
- 2024-11-05在 Docker Compose 中怎么设置端口映射-icode9专业技术文章分享
- 2024-11-05在 Docker Compose 中怎么设置环境变量-icode9专业技术文章分享
- 2024-11-04Docker环境部署项目实战:新手入门教程
- 2024-11-04Docker环境部署资料:新手入门教程
- 2024-11-01Docker环境部署教程:新手入门指南
- 2024-11-01超越Docker:苹果芯片上的模拟、编排和虚拟化方案讲解
- 2024-11-01Docker环境部署:新手入门教程