2016年,智能手机开启了新元年高精度的面部识别,这一技术的应用在当时引起了不小轰动,但是现在已经完全成为主流。以至于虽然引用了非常复杂的人工智能技术,但是很多消费者认为这是智能手机的一个最基础的功能,只有50%的消费者知道人工智能对人脸识别技术有多么重要。
在终端设备上使用人工智能技术只是科技发展的一小步,但这项技术有更为广阔的应用空间,例如办公室门禁的自动识别、家庭安全系统提示有非法入侵者、商店中的自动支付系统、公交管理系统在高峰时段的应用,这些都离不开人工智能技术支持。
边缘和终端
最近,大多数先进的人工智能处理都是在云上运行的。近年来,我们看到人工智能处理从云端扩展到边缘和终端。
我们说的边缘和端点是什么意思?在无线信号到达终端设备之前,边缘设备位于网络或云边缘,终端设备是指那些位于通信链路最后端的设备,比如家用恒温器或智能音箱。
随着人工智能的用途不断扩大,边缘和终端上的人工智能技术正在将工作负载从云转移到更小的设备上。微软的数字革命将带来新的处理拓扑结构和一波更智能、改变生活的新设备浪潮,同时也会减少与数十亿连接到云端的设备通信所需的网络带宽。
终端设备上人工智能的引用将具有巨大的潜力,可以在医学、教育、安全以及影响我们日常生活方方面面的一系列其他应用领域创造新的、更深层次的利益。
试想一个自动驾驶系统,它可以通过识别物体来检测和避免碰撞,或者在紧急情况下接管驾驶员的工作;一个便携式扫描仪,可以在没有现成的医疗基础设施的地区为当地人看玻
在这些场景中,每一秒都很重要,只有在终端设备更快、更智能、更安全、更可靠的情况下,才有可能实现。这些基于人工智能的应用程序有时听起来很超前,但却比许多消费者意识到的更接近现实。
人工智能为人们带来的好处只有在微型设备中才可以体现,因为如此人工智能技术才能实现低功耗和高性能计算。
人工智能无处不在
要在更多未来场景中实现人工智能技术的应用,就必须增加设备数量,还要增强ML性能,只要系统中具备这两项必备条件,才能保持或提高效率。
例如,为了实现创新,让人工智能技术在更多终端设备上得到应用,ARM的Arm Cortex-M55处理器可以令ML性能得到480倍的飞跃,为数十亿台终端人工智能设备带来了新突破。这些处理器可以提供更高的ML性能,并帮助在终端设备中运行高性能应用程序,而无需持续连接到云。
微处理器是专为在受区域约束的嵌入式设备中加速ML推理而设计的,它为极低区域和低功耗的神经网络提供了加速。这对于像智能手表这样功率受限的小型设备来说至关重要,可以让它们运行要求更高、更复杂、更高级的应用程序。
优化体验,开启AI创新
要让终端人工智能创新成为现实,软件和工具需要帮助开发者迅速从灵感转向原型和生产。对流线型工具的需求更加迫切,因为对新的ML设计的需求被工具和生态系统中使用的不简单所抑制。与许多现代技术一样,生态系统协作对于开发者更容易部署端点AI至关重要。
今年10月,Arm和微软宣布了一项新的努力,以加速在数十亿件物联网设备上部署人工智能。这次合作将集中在优化和加速整个AI工作负载开发生命周期,从在Azure云上培训和调优ML模型,到在任何基于ARM的终端设备上优化、部署和运行这些模型。
将开发人员的体验放在首位将使创新者能够为我们提供更好的解决方案和更好的未来。
安全不能是事后诸葛亮
由于开发人员已经具备了创建创新的、基于视觉的人工智能应用程序所需的工具,因此将隐私和安全放在首位非常重要。例如,面部识别家庭安全系统收集的数据必须得到保护,这应该从芯片级别开始。Arm的处理器IP和微处理器可以确保这些敏感数据保存在端点系统中,而不必发送到云上。
安全是大家共同的责任,关键是业界要共同努力,确保所有这些新数据都是由受信任的设备生成的。美国国家标准与技术研究所(National Institute of Standards and Technology)等政府指导方针正在推荐新举措和PSA认证等独立计划。
这种计算向边缘和端点的转变,将使全新的人工智能能力成为可能,创造出大量智能、增强生活能力的应用程序,终端人工智能未来的可能性是无限的。