速度快、模型小,加成OpenCV,自带人脸分析!端侧推理新选择Tengine-Lite

性能抖动会对嵌入式平台和手机平台的系统性能设计、用户使用体验带来较大影响。考虑到这一点,Tengine-Lite在单核、双核、多核的性能稳定性方面,相较Tengine有明显提升。

Tengine-Lite,用智慧“流畅运行”

目前,Tengine-Lite是市面上唯一可在各种嵌入式操作系统上运行的AI计算框架。不但可以在FreeRTOS\RTT\Lite-OS等极简的实时操作系统或裸机Bare-matel上运行,还可以在MCU、RISC-V等低功耗、资源极为有限的IoT芯片主控上运行。

架构重构后兼容性方面,也是用户比较关心的。现有以下四点说明:

1、 NNIR模型格式保留现有tmfile格式,兼容当前应用,用户现有tmfile模型可以无缝切换到新的Tengine-Lite上运行;

2、 编译方式统一,采用CMake进行编译管理,并将新增一些编译配置选项(新功能和新特性);

3、 依旧提供.so动态库和.a静态库形式,若想不修改代码可以通过rename库文件的方式进行代码复用;

4、 保留绝大多数常用API不变,会增减部分API。原则是删减对用户无效或极少使用的API,新增API主要是功能性的,更改的API是提升用户反馈的易用性;当然也会提供API修改对比文档。

Tengine开源3年来,表现可圈可点。相信此次“后浪”Tengine-Lite开源,定会在保持原有优势项的基础上,不断精进,继续为海量AIoT应用和设备提供高性能AI推理的技术支持,赋能万物,万物智能!

另外再介绍两个工作:

1、 OPEN AI LAB AIoT智能开发平台Tengine与OpenCV合作共同加速边缘智能

下图展示了Arm CPU上提速情况,可以看出速度最快可以翻倍!使用Arm平台开发产品的工程师,可以降低产品的硬件成本了!

OpenCV4.3.0 Change Logs

https://github.com/opencv/opencv/wiki/ChangeLog#version430

Tengine开源版本

https://github.com/OAID/Tengine

2、 TengineKit开源人脸分析应用

TengineKit为开发者提供了以下功能:

  • 人脸检测

  • 人脸关键点检测

  • 人脸属性识别:性别,年龄,是否戴眼镜,是否微笑,颜值

TengineKit在不同CPU下的耗时

demo:

视频展示: