Edge AI是芯片技术的最大趋势之一。这些芯片可在边缘（即没有云连接的设备）上运行AI处理。苹果最近收购了一家专门从事边缘计算AI的公司，Google的Coral计划旨在使Edge AI变得更容易，而芯片制造商ARM已经在这方面进行了多年的努力。边缘AI的优势很明显：在设备本身上而不是在远程服务器上运行AI处理，在处理这些请求时，极大地提高了隐私性和速度。
今天的人工智能（AI）处理大部分是在基于云的数据中心中完成的。大部分AI处理以深度学习模型训练为主导，这需要大量的计算能力。在过去的6年中，我们看到计算需求增长了300,000倍，其中图形处理单元（GPU）提供了大部分支持。从AI处理的角度来看，AI推理是在训练后执行的，并且计算强度相对较低，在很大程度上已被忽略。像训练一样，推理也主要在数据中心完成。
当今的AI边缘处理专注于将AI工作流的推理部分移至设备，从而将数据限制在设备上。AI应用程序迁移到边缘设备的原因有多种，具体取决于应用程序。在评估云与边缘处理时，必须考虑隐私，安全性，成本，延迟和带宽。诸如Google的Learn2Compress之类的模型压缩技术的影响，该技术可将大型AI模型压缩为小型硬件尺寸，这也促进了AI边缘处理的兴起。根据AI应用程序和设备类别的不同，有几种用于执行AI边缘处理的硬件选项。这些选项包括CPU，GPU，ASIC，FPGA和SoC加速器。
图像分析是典型的AI应用领域。网络上大量图像和预分类数据集的可用性可以识别各种对象类型。例如，如果在云端执行，基于视频流的实时识别不断变化的场景需要很高的数据带宽。
另外，边缘上的AI可以以各种形式对视觉场景进行本地分析，例如了解场景以进行上下文分析，同时进行多对象检测和识别以避开障碍物，进行人员识别以进行安全访问等。
更多场景用例包括：
家庭安全监测：启用深度学习的智能相机可以在本地处理捕获的图像以识别和跟踪多个对象和人员，直接在边缘节点上检测可疑活动。这些智能相机仅在触发事件时发送数据，从而最大限度地减少了与远程服务器的通信，还减少了远程处理和内存需求。典型的应用是用于住宅安全的入侵者监控和监测家里的老人。
自动驾驶汽车：智能汽车摄像头可以在本地识别车辆，交通标志，行人，道路和物体，仅将执行自动驾驶所需的信息发送到主控制器。类似的概念可以应用于机器人和无人机。
情绪表达分析：以改善购物、广告投放或驾驶行为，个人的情绪反应可以为他们接受服务的程度提供相关线索，例如对商店货架上展示的各种产品的喜欢/不喜欢等等。
市场分析师预测，到 2020 年，将售出 7.5 亿多块边缘AI芯片和计算机，到 2024 年将增长到 15 亿块。越来越多的行业开始认识到本地化 AI 的价值：运行 AI 本地推理可以显著节约带宽和云计算成本，并能将数据保存在本地，从而保护用户隐私。
互联网科技大厂都在聚焦边缘计算市场。比如Google就在去年发布了专攻边缘计算市场的Edge TPU 芯片。Edge TPU 是 Google 专为在边缘运行 TensorFlow Lite ML 模型而设计的 ASIC 芯片。Edge TPU 可用于越来越多的工业使用场景，如预测性维护、异常检测、机器视觉、机器人学、语音识别等等。 它可以应用于制造、本地部署、医疗保健、零售、智能空间、交通运输等各个领域。它体型小、能耗低，但性能出色，可以在边缘部署高精度 AI。Edge TPU 是对 CPU、GPU、FPGA 以及其他在边缘运行 AI 的 ASIC 解决方案的补充。
Google 于 2019 年3 月份推出了基于 Edge TPU 芯片的等一系列开发硬件，以及本地化 AI 平台--Coral。随着联网设备数量的爆发式增长，加上对隐私安全、低延迟时间的需求以及带宽限制等因素，云端训练的AI 模型需要在边缘运行的情况日趋普遍。
Google 发布的 Coral平台及基于Edge TPU 芯片的系列开发硬件，不仅仅是一种硬件解决方案，它将定制硬件、开源软件和最先进的 AI 算法结合在一起，为边缘提供优质、易部署的 AI 解决方案。
据悉，Google Coral Edge TPU 系列硬件设备已经投放市场，并和多家企业建立了合作代理关系，比如 Gravitylink（引力互联）等等。Gravitylink 与 Google 具有多年的合作关系，基于 Edge TPU 芯片，Gravitylink 不仅研发了旗下产品 AI 迷你电脑钛灵 AIX（ TiOrb AIX），更是推出了面向全球开发者的 AI模型市场--Model Play。
近期，Gravitylink 基于 Edge TPU 软硬件以及国内 AI 行业生态，打造出全球化 AI 算法及解决方案交易市场——「钛灵 AI 市场」，致力于帮助来自全球的优秀 AI 服务商与需求方建立更加高效的直连对接，加速 AI 技术在各领域的落地、应用。
网友评论