TensorFlow模型
SKIL1.0.3使用TensorFlow C++ API (版本1.4)的自定义JVM绑定,不施加限制。未来版本的SKIL将使用nd4j中的samediff功能来执行导入的模型。
从TensorFlow导入
参见导入模型页面。
TensorFlow Word2Vec 支持
如果使用了lookup_embedding函数
,那么skil应该能够将模型导入到模型服务器中。
部署的先决条件
为了部署TensorFlow模型,图及其相关权重必须存储在单个pb文件中。使用tensorflow.python.tools下提供的freeze_graph.pyscript可以“冻结”TensorFlow模型。
freeze_graph
可以在命令行上运行,也可以在python脚本中运行。它需要一个图形定义和一组检查点,并将它们冻结在一个文件中,然后在skil中单击几下就可以部署这些文件。
~/tensorflow/bazel-bin/tensorflow/python/tools/freeze_graph \
--input_graph=graph_definition.pbtxt \
--output_graph=file_for_frozen_model.pb \
--input_checkpoint=saved_ckpt \
--output_nodes_names=output_node_name
image.gif
网友评论