前言

本文中出现的TF皆为TensorFlow的简称。

先说两句题外话吧，TensorFlow 前两天热热闹闹的发布了正式版r1.0，可感觉自己才刚刚上手 r0.12，这个时代发展的太快，脚步是一刻也不能停啊~

但是不得不吐槽 TensorFlow的向下兼容做的实在不太友好，每次更新完版本，以前的代码就跑不动，各种提示您使用的函数已经不存在。。。

代码积攒的越来越多，全部针对新版本翻改一遍，工程真是浩大。但是喜新厌旧，手贱如我，每次都忍不住点了更新。不过这次忍的还算不错，到目前还没更新，继续忍住

在之前的文章中，我介绍了如何实现 TensorFlow官网的Mobile教程： 
【将Tensorflow移植到安卓手机，实现物体识别、行人检测和图像风格迁移】。 
但在那个教程中，TensorFlow提供了完整的、已经构建好的Android项目，我们需要做的总结下来只有3步：1、搭建环境；2、编译；3、安装到手机

这当然还不够，我们的最终目的当然是要为我所用，所以怎样才能移植自己训练好的TF模型到安卓手机呢？换句话说，怎样将训练好的模型放入Android项目中并进行成功编译？又或者怎样创建自己的Android Tensorflow项目？

PS： 
之前没有安卓开发的经验，纯粹是为了实现将TF模型移植到手机才开始上手，目前属于入门级小白，如有错误之处，欢迎批评指正！

---

手机调用TF模型的过程简介：

1、 保存训练完毕的TF模型 
2、 在Android项目中导入TF模型、导入Android平台调用TF模型需要的jar包和so文件 (它们负责TF模型的解析和运算) 
3、定义变量、存储数据，通过jar包提供的接口进行模型的调用

---

环境

TensorFlow版本： r0.12 
python 版本：2.7 
Python IDE: Spyder 
Android IDE : Android Studio

---

移植过程

我们以mnist数据集上自己训练的一个图像识别模型为例，进行讲解

一、 在使用python代码编写的TF模型定义中为模型的输入层和输出层Tensor Variable分别指定名字（通过形参 ‘name’）

X = tf.placeholder(tf.float32, shape = […], name=‘input’)  //网络的输入
Y = tf.nn.softmax(tf.matmul(f, out_weights) + out_biases, name=’output’)  //网络的输出

• 1
• 2

名字可以随便起，以方便好记为主，后面还会反复用到。我起的是input和output。

---

二、 将使用TensorFlow训练好的模型保存为.pb文件

在模型训练结束后的代码位置，添加下述两句代码，可将模型保存为.pb文件

output_graph_def = tf.graph_until.convert_variables_to_constants(session, session.graph_def, output_node_names=[‘output’])
//形参output_node_names用于指定输出的节点名称

• 1
• 2

贴一个说明文档，帮助大家进一步了解这个函数

with tf.gfile.FastGFile(model\mnist.pb, mode = ’wb’) as f:
    f.write(output_graph_def.SerializeToString())

• 1
• 2

第一个参数用于指定输出的文件存放路径、文件名及格式。我把它放在与代码同级目录的model文件下，取名为mnist.pb

第二个参数 mode用于指定文件操作的模式，’wb’中w代表写文件，b代表将数据以二进制方式写入文件。

如果不指明‘b’，则默认会以文本txt方式写入文件。现在TF还不支持对文本格式.pb文件的解析，在调用时会出现报错。

注： 
1)、不能使用 tf.train.write_graph()保存模型，因为它只是保存了模型的结构，并不保存训练完毕的参数值 
2)、不能使用 tf.train.saver()保存模型，因为它只是保存了网络中的参数值，并不保存模型的结构。 
很显然，我们需要的是既保存模型的结构，又保存模型中每个参数的值。以上两者皆不符合。

---

三、生成在Android平台上调用tensorflow 模型需要的jar包和so文件 
1） 从github下载TensorFlow的项目源码

2） 安装Bazel 
Bazel的安装过程，我在另一篇文章中有介绍，欢迎参阅 
Ubuntu14.04 源代码安装 TensorFlow r0.12 详细教程

3） 参考如下图的官方教程，生成Android上调用TF模型需要的so文件和jar包 

---

四、安装Android Studio，创建Android 项目

Android Studio安装完毕后，还需要搭建环境。搭建过程可参考我的另一篇文章：

Ubuntu 使用 Android Studio 编译 TensorFlow android demo

---

五、添加资源到项目

1） 将（二）步生成的.pb文件放入项目中 
打开 Project view ，app/src/main/assets。 
若不存在assets目录，右键main->new->folder->Assets Folder

2） 添加（三）步生成的jar包 
打开Project view，将jar包拷贝到app->libs下 
选中jar文件，右键 add as library

3） 添加（三）生成的so文件 
打开 Project view，将.so文件拷贝到 app/src/main/jniLibs下（jniLibs文件夹若没有则新建）

如果我讲的不太明白的话，可自行谷歌搜索“如何在 Android studio中添加引用 jar文件和so文件”

---

六、创建接口，实现调用

1） 导入jar包和so文件 
在需要调用模型的.java文件中，导入jar包：

import org.tensorflow.contrib.android.TensorFlowInferenceInterface

• 1

在该java类定义的首行，导入so文件:

{
    System.loadLibrary(“tensorflow_inference”)
}

• 1
• 2
• 3

2）定义变量及对象

private static final String MODEL_FILE = “file:///android_asset/mnist.pb”   //模型存放路径
private static final String INPUT_NODE = “input”;       //模型中输入变量的名称
private static final String INPUT_NODE = “output”;  //模型中输出变量的名称
private static final int NUM_CLASSES = 10;  //样本集的类别数量，mnist数据集对应10

private static final int HEIGHT = 24;       //输入图片的像素高
private static final int WIDTH = 24;        //输入图片的像素宽
private static final int CHANNEL = 3;    //输入图片的通道数：RGB

private floats inputs = new float[HEIGHT*WIDTH*CHANNEL];    //用于存储的模型输入数据
private floats outputs = new float[NUM_CLASSES];    //用于存储模型的输出数据

• 1
• 2
• 3
• 4
• 5
• 6
• 7
• 8
• 9
• 10
• 11

2）Tensorflow 接口初始化

private TensorFlowInferenceInterface inferenceInterface = new TensorFlowInferenceInterface();   //接口定义
inferenceInterface.initializeTensorFlow(getAssets(), MODEL_FILE);  //接口初始化

• 1
• 2

在完成上述两步之后，就可以反复调用模型。 
在每次调用前，先将待输入的数据按顺序存放进 inputs 变量中，然后执行下述三个语句。

3）TF模型的调用

inferenceInterface.fillNodeFloat(INPUT_NODE, new int[]{1, HEIGHT, WIDTH, CHANNEL}, inputs);  //送入输入数据
inferenceInterface.runInference(new String[]{OUTPUT_NODE});     //进行模型的推理
inferenceInterface.readNodeFloat(OUTPUT_NODE, outputs); //获取输出数据

• 1
• 2
• 3

---

然后接下来的主要工作就是安卓项目的编译以及将编译完的apk文件安装到手机，这部分内容与一般的安卓项目并无区别。这些内容在我的另一篇文章中也有所提及：

Ubuntu 使用 Android Studio 编译 TensorFlow android demo

---

为了便于大家理解，我写的代码比较面向过程。当然放在java环境下，还是要多多从面向对象的角度出发，合理的封装，提高代码的复用性。

转自：https://blog.csdn.net/masa_fish/article/details/56049710?winzoom=1