AI技术发展已进入高速时代,企业纷纷探索利用人工智能技术为其行业赋能;因此,我们需要一款能够将高性能AI技术集成到设备的AI模组,从而提供智能化的解决方案,更高效地加速各种基于深度学习的算法框架搭建以实现行业快速智能化升级。
寒武纪联合英码科技发布的 AIM16T AI模组 就是一款为加速提升智能化而推出的产品,采用寒武纪MLU220 AI处理器,具有高算力、强性能、低功耗以及兼容性好等特点,支持caffe/tensorflow/pytorch/mxnet多种主流算法框架,轻松部署推理环境,可对计算资源做直接定制,非常适合于高要求的算法应用,如姿态识别、热区分析、行人重识别等算法框架,以满足多样化AI定制要求;另外,针对企业的算法平台切换、场景算法定制等需求,英码AI软件服务提供一对一的技术咨询、Demo程序、开发文档以及相关技术支持,以最大程度降低切换与开发的难度及成本,使企业在更短时间内实现应用升级,加快智能产品上市。
AIM16T 平台架构
AIM16T常规模型性能
AIM16T性能测试
1、USB3.0测试
写测试:dd if=/dev/zero of=/cambricon/app/test1 bs=1M count=1000 conv=fsync
读测试:dd if=/cambricon/app/test1 of=/dev/null bs=1M
2、TF卡读写测试
写测试:ddif=/dev/zero of=/cambricon/app/test1 bs=1M count=1000 conv=fsync
读测试:ddif=/cambricon/app/test1 of=/dev/null bs=1M
3、TCP网络吞吐测试
组网环境:
PC(S)
网口0吞吐测试:
网口1吞吐测试:
4、EMMC读写测试
写测试:
dd if=/dev/zero of=/cambricon/test1 bs=1M count=100conv=fsync
读测试:
dd if=/cambricon/test1 of=/dev/null bs=1M
AIM16T参数对比
AIM16T算力&功耗对比
AIM16T 人脸检测演示
接下来,我们将通过DEMO演示视频,向大家展示英码软件开发团队,如何利用AIM16T 开发4路人脸检测的算法应用,并列出相关数据供大家进一步了解AIM16T性能。若想要了解更多的产品信息,欢迎点击此处联系我们!
此次人脸检测DEMO,由4路IPC视频流输入,经过视频流处理,然后进入芯片的NPU运行YOLO人脸检测算法,最后4路同时通过HDMI输出显示,模型的检测流程如下:
模型在AIM16T AI模组上处理过程流畅,充分展示其优秀的AI性能。