洞见 AI 硬件，部署“桨”坛 | 昇腾310多方案部署，Paddle Lite在Atlas 200 DK部署实战…

随着AI应用领域的持续拓展以及应用场景的不断细化，衍生出了非常多且复杂的AI芯片及硬件产品线，同一任务同一场景下的硬件选择也变得更为丰富。但对于深度学习开发者而言，众多的硬件产品形态无疑也引入了更多的兼容性问题和不确定性因素，增加了算法研发和落地部署阶段的开发难度。

面对这样多元化的芯片和硬件市场，飞桨在支持多硬件的统一平台这一路线的探索上也一直走在行业前列。如今基于飞桨训练和推理部署框架，已完成多款芯片的适配，并在相应硬件上完成了多场景多模型下的验证工作。

从本期开始，飞桨将联合社区开发者推出洞见AI硬件 | 部署”桨”坛系列专栏，分享多款厂商硬件部署教程，帮助开发者们实现模型训练与推理的一体化开发和多硬件设备间的无缝切换。

接下来，请大家一起开启洞见 AI硬件 | 部署”桨”坛系列的第一期，本期将介绍飞桨针对昇腾310及相关硬件的部署方案。

昇腾310是一款采用华为自研的达芬奇架构的，面向边缘场景的高能效高集成度AI处理器。基于典型配置，八位整数精度（INT8）下的性能达到22TOPS，16位浮点数（FP16）下的性能达到11 TFLOPS，而其功耗仅为8W。

昇腾310在华为多款硬件设备中均有集成：

• Atlas 200 AI / Atlas 200 DK：可以在端侧实现图像识别、图像分类等，广泛用于智能摄像机、机器人、无人机等端侧AI场景。

• Atlas 300I 推理卡（型号：3000/3010）：单卡算力88 TOPS INT8，支持80路高清视频实时分析，适用于智慧城市、智慧交通、智慧金融等场景。

• Atlas 500智能小站（型号：3000）：面向边缘应用的产品，满足在安防、交通、社区、园区、商场、超市等复杂环境区域的应用需求。

基于Paddle Lite在

Atlas 200 DK部署飞桨模型

华为板卡官方教程：

https://support.huaweicloud.com/environment-deployment-Atlas200DK202/atlased_04_0001.html

在环境搭建过程中可能会遇到的问题：

（1）ssh无法连接开发板的问题：

将制作好的SD卡插入华为 Atlas 200 DK开发板，开机后可能存在ping 192.168.1.2能ping通，但ssh HwHiAiUser@192.168.1.2连接不上。原因可能是IP地址冲突。

解决办法：可尝试断掉主机的网络、断掉开发板网络（即拔掉网线），再次尝试即可ssh登陆。

（2）开发板环境部署空间问题：

在root下部署环境可能存在root下内存空间不够的情况。烧制作好的SD卡，华为教程默认root和home不在一个分区，root分区空间较小；本教程作者尝试过使用32G SD卡，在root下安装环境到最后提示空不足的情况。

解决办法：在HwHiAiUser用户下部署环境即可。

使用官方Demo模型进行验证

按照第一步准备好开发板环境后，便可以运行Paddle Lite模型了。参考以下操作，运行官方Demo，感受Paddle Lite模型在Atlas 200 DK上运行效果。

1. 下载示例程序PaddleLite-generic-demo.tar.gz并解压。（解压后的文件夹及代码清单参考下方链接，其中Demo的测试图像如下图所示，这是一个图像分类任务的示例图片，本教程所有示例均使用下图测试。）

1. 模型转换。执行如下命令生成优化后的MobileNetV2.nb模型文件。

1. 利用scp将模型拷贝到Atlas 200 DK开发板的如下位置（即第二步下载的官方Paddle Lite模型对应路径）：PaddleLite-generic-demo/ image_classification_demo/assets/models

2. 在开发板上编译示例程序。

1. 执行如下命令即可利用转换的MobileNetV2模型来推理。

至此，从飞桨模型到在华为Atlas 200 DK开发板上运行已全部跑通。开发者也可以根据自己的应用需求，训练模型进行部署。

本篇介绍了基于Paddle Lite在Atlas 200 DK部署飞桨模型的方案，在本期的次条和三条将继续介绍《通过Paddle2ONNX在Atlas 200 DK上部署模型》、《基于EasyDL的全流程模型开发和Atlas 200 DK部署的部署方案》，感兴趣的朋友欢迎继续阅读~

为了向大家提供更易用、更好用的AI推理部署工具，我们诚邀您参与调研，分享您使用推理部署工具时的需求和期待！

问卷地址（点击阅读原文即可跳转）：

https://iwenjuan.baidu.com/ode=323o1l

如有相关AI硬件部署的技术问题，欢迎加入飞桨硬件部署交流群提问交流：609865659(QQ群）

长按下方二维码立即

Star

更多信息：

1. 飞桨官方QQ群：793866180

2. 飞桨官网网址：

   www.paddlepaddle.org.cn/

3. 飞桨开源框架项目地址：

   GitHub:

   github.com/PaddlePaddle/Paddle 
   Gitee:

   gitee.com/paddlepaddle/Paddle

4. 欢迎在飞桨论坛讨论交流~~

   http://discuss.paddlepaddle.org.cn

文章知识点与官方知识档案匹配，可进一步学习相关知识Python入门技能树首页概览210539 人正在系统学习中

来源：飞桨PaddlePaddle