Skip to content

快速上手指南

Jump to bottom
BUG1989 edited this page May 6, 2021 · 1 revision

简体文档

在线文档

Tengine Lite快速上手指南

Tengine Lite是一个优秀的轻量级端侧/嵌入式环境深度神经网络推理引擎。兼容多种操作系统和深度学习算法，以AI推理框架为基础的AIoT开发套件。本文档将在x86 Linux平台，以分类模型（TensorFlow MobileNetv1模型）为例，带你快速上手Tengine Lite。

Linux 本地编译（支持arm32,arm64,x86）

下载代码

$ git clone https://github.com/OAID/Tengine/ Tengine-Lite

安装所需工具和依赖库

在开始编译Tengine-Lite之前，你需要确认你已经安装了cmake，g++，如果没有，你可以通过如下指令安装：

$ sudo apt install cmake g++

模型仓库

  • 我们提供了常见开源模型的tmfile文件，您可以在这里Tengine Model zoo（Password : hhgc）

  • 也可使用convert_model_to_tm将mobilenet.pb模型转换成Tengine模型，使用方法参考模型转换工具

当拿到Tengine模型文件如mobilenet.tmfile之后，就可以用Tengine Lite在各种平台上愉快的进行应用开发了。

常用API介绍

Tengine Lite核心API如下：

  • init_tengine

初始化Tengine Lite，该函数在程序中只要调用一次即可。

  • create_graph

创建Tengine Lite计算图。

  • prerun_graph

预运行，准备计算图推理所需资源。

  • run_graph

启动Tengine Lite计算图推理。

  • postrun_graph

停止运行graph，并释放graph占据的资源。

  • destroy_graph

销毁graph。

postrun_graph和destroy_graph在执行完模型推理后调用，一般是连续调用。

使用Tengine Lite C/C++ API开发mobilenet图片分类代码

Tengine提供了C、C++API供用户使用，这里我们使用Tengine C++ API展示如何运行MobileNetv1网络模型实现图片分类功能，让你快速上手Tengine C++ API。代码中我们将使用详细的代码注释，方便你熟悉Tengine核心API的功能，更快地开发出自己的代码。这里，我们使用在这个撸猫时代行业从业者大爱的tiger cat图片作为测试图片。

测试代码

测试代码举例：./example/tm_classificaton.c

编译

参考根目录下build.sh，以本地编译（x86）为例，输入命令如下：

mkdir -p build
pushd build
cmake ..
make -j4 && make install
popd

编译完成后，在build/install/lib目录下如果有libtengine-lite.so文件，说明编译成功。

ls /build/install/lib
libtengine-lite.so

分类demo（tm_classification）此时存在./build/install/bin目录下。

运行结果

在刚下载的文件夹Tengine_models/classification/mobilenet/目录下找到mobilenet.tmfile、synset_words.txt。

下载测试图片（cat.jpg）和模型文件（mobilenet.tmfile）放在Tengine-Lite根目录下，

运行如下命令即可：

export LD_LIBRARY_PATH=./build/install/lib
./build/install/example/tm_classification -l  models/synset_words.txt  -m mobilenet.tmfile -i cat.jpg  -g 224,224 -s 0.017,0.017,0.017 -w 104.007,116.669,122.679

结果如下：

tengine-lite library version: 1.4-dev

model file : mobilenet.tmfile
image file : cat.jpg
img_h, img_w, scale[3], mean[3] : 224 224 , 0.017 0.017 0.017, 104.0 116.7 122.7
Repeat 1 times, thread 1, avg time 30.53 ms, max_time 30.53 ms, min_time 30.53 ms
--------------------------------------
8.574144, 282
7.880117, 277
7.812573, 278
7.286458, 263
6.357486, 281
--------------------------------------

结合synset_words.txt文件，我们已经成功地分类出测试图片是虎猫了。 到这里最基本的上手指北已经完成，剩下的小伙伴们可以自行探索，我们也会不定期更新各种教程范例给大家~

...\(^0^)/

Clone this wiki locally