Edge TPU：Google 专门为在边缘进行推理而打造的 ASIC。
在边缘运行的 AI
如今，从消费者应用到企业应用，到处可见 AI 的身影。随着联网设备数量的爆发式增长，加上对隐私/机密、低延迟时间的需求以及带宽限制等因素，云端训练的 AI 模型需要在边缘运行的情况日趋普遍。Edge TPU 是 Google 专门为在边缘运行 AI 而打造的 ASIC，它体型小、能耗低，但性能出色，让您可以在边缘部署高精度 AI。
端到端 AI 基础架构
Edge TPU 是对 Cloud TPU 和 Google Cloud 服务的补充，提供端到端、云端到边缘、“硬件 + 软件”的基础架构，可协助客户部署基于 AI 的解决方案。
体型小、能耗低，但性能出色
由于性能出色、体型纤小、能耗极低，Edge TPU 可实现高品质 AI 在边缘的广泛部署。
AI 硬件、软件和算法的协同设计
Edge TPU 不仅仅是一种硬件解决方案，它将定制硬件、开源软件和最先进的 AI 算法结合在一起，为边缘提供优质、易部署的 AI 解决方案。
众多应用场景
Edge TPU 可用于越来越多的工业使用场景，如预测性维护、异常检测、机器视觉、机器人学、语音识别等等。 它可以应用于制造、本地部署、医疗保健、零售、智能空间、交通运输等各个领域。
开放式端到端基础架构，方便您部署 AI 解决方案
借助 Edge TPU，您可以使用来自 Coral 的各种原型设计和生产产品，在边缘部署各种优质的机器学习推断功能。
用于在边缘部署机器学习的 Coral 平台与 Google 的 Cloud TPU 和 Cloud IoT 相辅相成，共同提供一个端到端（云端到边缘、硬件 + 软件）基础架构，从而协助部署客户基于 AI 的解决方案。除了开源 TensorFlow Lite 编程环境以外，Coral 平台还提供一套完整的开发者工具包，这样您就可以针对 Edge TPU 编译自己的模型或者保留几个 Google AI，将 Google 在 AI 和硬件方面的专业知识融于一体。
Edge TPU 是对 CPU、GPU、FPGA 以及其他在边缘运行 AI 的 ASIC 解决方案的补充。
Edge TPU 特性
单个Edge TPU能够每秒执行4万亿次操作（万亿次操作）（TOPS），每个TOPS使用0.5瓦（每瓦2 TOPS）。如何将其转换为应用程序的性能取决于多种因素。每种神经网络模型都有不同的要求，如果使用USB Accelerator设备，则总性能还取决于主机CPU，USB速度和其他系统资源。
话虽如此，下面的表1比较了在Edge TPU上与几种流行模型执行一次推断所花费的时间。
这代表了与Edge TPU兼容的模型架构的一小部分选择（它们都使用ImageNet数据集（具有1,000个类）进行了训练）。如果要测试自己的模型，请阅读模型架构要求。
注意：这些数字仅测量执行模型所需的时间。它不包括处理输入数据的时间（例如按比例缩小图像以适合输入张量的时间），时间可能因系统和应用程序而异。这些测试也使用C ++基准测试执行，而我们的公共Python基准脚本可能会由于Python的相关损耗而变慢。
1 Desktop CPU: 64-bit Intel(R) Xeon(R) Gold 6154 CPU @ 3.00GHz
2 Embedded CPU: Quad-core Cortex-A53 @ 1.5GHz
3 Dev Board: Quad-core Cortex-A53 @ 1.5GHz + Edge TPU
基于边缘人工智能的解决方案
钛灵AIX是一款集计算机视觉与智能语音交互两大核心功能为一体的迷你人工智能计算机，搭载了专业AI边缘计算芯片与多种传感器。Model Play面向全球开发者的AI模型资源平台，内置多样化AI模型，兼容钛灵AIX，支持谷歌 Edge TPU边缘人工智能计算芯片，加速专业级开发。
此外，Model Play提供完整易用的迁移学习模型训练工具及丰富模型实例，可与钛灵AIX完美搭配结合，实现各类人工智能应用的快速开发。基于Google开源神经网络架构及算法，构建自主迁移学习功能，用户无需写代码，通过选择图片、定义模型和类别名称即可完成AI模型训练，实现人工智能的易学易开发。
网友评论