边缘计算 Edge Computing 和人工智能 AI 如何引领技术革命

[Alan_Yang]

在满足实时应用需求方面，边缘计算作为一种处理数据的新方式崭露头角，有望在我们使用和处理信息的方式上带来巨大变革。

边缘人工智能（Edge AI）是使用和部署人工智能技术的一种新途径。通过将计算和数据存储更靠近数据产生的地方，比如物联网设备、传感器和其他联网小工具，边缘人工智能注定要改变许多行业。

让我们先从了解人工智能和深度学习的基础知识开始，然后探讨“边缘”在边缘计算中的重要性，在本文中一起了解边缘机器学习（Edge ML），并了解行业领导者如何利用它来改变我们的生活和工作方式。

什么是人工智能(AI)？

人工智能（AI）是通过机器模拟人类智能过程，并对其进行编程以模仿人类的学习、分析和预测等能力。

人工智能流水线 （AI Pipeline）有三个阶段才能有效工作。

1. 数据管理： 在这个阶段，数据科学家整理大量数据，并在其中发现模式和见解。数据整理是将原始数据转换为随时可用的格式，目的是使其对分析更有价值。它有时也被称为数据清理、修复或转换。
2. 模型训练： 下一个阶段是训练数据集，该数据集用于训练模型执行特定任务。因此，当训练完成时，实际上就创建了人工智能。这个阶段需要大量的数据，并且完成需要相当多的时间，因为训练经验必须丰富，模型才能高效且有效。
3. 交互界面： 最后一个阶段是人工智能被部署以执行其解决设计要解决的问题的工作。它可以部署到服务器、个人电脑、云端或边缘设备。它处理从第二阶段收集的数据，以理解新的数据输入，并根据设定的参数输出结果。

机器学习

人工智能的一个子集 是机器学习（ML），它训练机器解决特定的人工智能问题。它是对允许计算机通过经验自动改进的算法的研究。它使用大型数据集、经过充分研究的统计方法和算法来训练模型，以从任何新的或传入的信息中预测结果。

深度学习

机器学习的进一步子集 是深度学习，它使用人工神经网络来解决人工智能问题。它由数据的许多连续变换组成，这些变换从顶部到底部一起变化，它使用具有许多隐藏层、大数据和高计算机资源的人工神经网络。与机器学习类似，它需要大型数据集才能有效。有了更多的数据，我们能够训练深度学习模型变得更强大，并且更少依赖假设。

深度学习通常用于处理更复杂的输入或非表格数据，如图像、文本、视频和语音。

什么是边缘人工智能(Edge AI)？

简单来说，边缘人工智能指的是以机器学习（ML）算法的形式在边缘设备上部署和推理的人工智能的使用。

机器学习是一个快速发展的领域，使计算机能够通过从数据中学习自主地提高其在任务上的性能，常常超过人类能力。

边缘人工智能是边缘计算和人工智能的结合，在联网边缘设备上直接运行机器学习任务。边缘人工智能可以执行无数任务，如物体检测、语音识别、指纹检测、欺诈检测、自动驾驶等。

什么是边缘计算(Edge Computing)？

边缘计算是指在数据产生的地方进行处理，在边缘设备中本地处理和存储数据。而不是回传到云端，边缘设备可以在本地，如用户的计算机、物联网设备或边缘服务器上收集和处理数据。

边缘计算旨在通过在更靠近源或端点设备处处理数据来降低延迟、优化带宽使用、提高可扩展性以及增强隐私和安全。它对于需要实时数据分析和快速响应时间的应用特别有益，如物联网设备、自动驾驶汽车和工业自动化。

边缘计算与云计算的比较：

从本质上讲，边缘计算和云计算都是为了做同样的事情——处理数据、运行算法等。然而，边缘计算和云计算的根本区别在于计算实际发生的位置。

边缘计算是一种分布式计算架构，它将计算和数据存储更靠近数据的来源。数据处理发生在网络的边缘，靠近生成数据的设备，而不是像数据中心这样的中心位置。

云计算是一种通过互联网提供信息技术服务的模型。用户现在可以访问和使用可重新配置的计算资源共享池，包括服务器、存储、数据库、操作系统和应用程序，而无需担心维护底层基础设施。

边缘计算和云计算的区别

参数	边缘计算	云计算
定义	边缘计算是一种将计算和数据存储更靠近数据来源的分布式计算架构。	云计算是一种通过互联网提供信息技术服务的模型。
处理位置	处理在网络边缘，靠近生成数据的设备。	数据分析和处理在中心位置，如数据中心。
带宽需求	需要低带宽，因为数据在靠近源的地方处理。	与边缘计算相比需要更高带宽，因为数据必须通过网络传输到中心位置进行处理。
成本	边缘计算更昂贵，因为在边缘可能需要专门的硬件和软件。	云计算较便宜，因为用户只需为他们实际使用的资源付费。
可扩展性	边缘计算的可扩展性可能更具挑战性，因为可能需要在边缘添加额外的计算资源。	更容易，因为用户可以根据需要快速轻松地扩展或缩小他们的计算资源。
应用案例	需要低延迟和实时决策的应用，如物联网设备、自动驾驶汽车和增强现实/虚拟现实系统。	没有严格延迟要求的应用，如网络应用、电子邮件和文件存储。
数据安全	数据安全可以得到改善，因为数据在靠近源的地方处理且不通过网络传输。	数据安全更具挑战性，因为数据通过网络传输到中心位置进行处理。

边缘人工智能：将云带到边缘以发展物联网

有了边缘人工智能，物联网设备变得更加智能和有能力。它们现在可以做出决策、预测结果、处理复杂数据和管理解决方案。例如，边缘物联网设备可以预测机械故障，从而实现预测性维护和成本节约。

带有边缘人工智能的安全摄像头可以识别人类、统计人流量，甚至识别面部。随着机器学习的进步，这些能力正越来越多地从云端转移到边缘，开辟了许多令人兴奋的可能性。

边缘人工智能的好处：

1. 降低延迟： 通过在边缘设备上本地处理数据，边缘人工智能最大限度地减少延迟，非常适合自动驾驶汽车、机器人技术和智能制造业等实时应用。
2. 增强隐私和安全： 在边缘处理的数据保持本地，降低了数据泄露的风险，确保敏感信息保持安全。
3. 实时决策： 边缘人工智能使设备能够根据最新数据立即做出决策，这对于预测性维护、医疗监测和安全监控等应用至关重要。
4. 可扩展性： 在边缘部署人工智能解决方案允许在众多设备和位置进行可扩展的操作，而无需大量的云基础设施。
5. 降低带宽使用： 边缘人工智能减少了通过网络发送大量数据的需求，节省了带宽并降低了成本。
6. 个性化用户体验： 通过在本地处理数据，边缘设备可以提供更个性化和情境感知的体验，实时适应个人偏好。

为什么边缘人工智能重要？

虽然边缘人工智能的实际好处是明确的，但它的内在影响可能更难以捉摸。

边缘人工智能改变我们的生活方式

边缘人工智能正在使人工智能成为我们日常生活的一部分。尽管人工智能和机器学习已经研究了多年，但我们现在在实际产品中看到了它们。例如，自动驾驶汽车就是边缘人工智能进步的产物。慢慢地但肯定地，边缘人工智能正在以多种方式改变我们与环境互动的方式。

边缘人工智能使人工智能大众化

人工智能不再是研究机构和富裕企业的专属。边缘人工智能，设计用于在经济实惠的设备上运行，使个人能够学习和开发人工智能。这也允许教育工作者将人工智能和机器学习切实地带入课堂，让学生亲身体验边缘设备。

边缘人工智能挑战我们的思维方式

人工智能和机器学习的潜力仅受人类创造力的限制。随着机器学习的进步，更多任务将被自动化，挑战我们对生产力和目的的想法。尽管未来不确定，但我乐观地认为边缘人工智能将导致更多有创意和充实的工作。你的想法呢？

边缘人工智能与边缘 GPU：NVIDIA Jetson 嵌入式系统

使用 Jetson Nano/NX 构建的 reComputer：真实世界的边缘人工智能

NVIDIA® Jetson™ 在节能且紧凑的外形尺寸中为边缘带来加速的人工智能性能。Jetson 系列模块都使用相同的 NVIDIA CUDA-X™软件，并支持像容器化和编排这样的云原生技术，以在边缘构建、部署和管理人工智能。

产品特点：

1. 边缘人工智能盒子可适配任何地方。
2. 嵌入式 Jetson Nano/NX 模块。
3. 预安装 Jetpack 以便轻松部署。
4. 与 Jetson 开发套件几乎相同的外形尺寸，具有丰富的输入/输出。
5. 可堆叠且可扩展。

带 TPU 的边缘 AI：Google Coral 系列

谷歌的 Coral 系列配备了他们的张量处理单元（TPU），这是专门为使用 TensorFlow Lite 的神经网络机器学习而专门设计的专用 ASIC。Coral 开发板是一个一体化、配备 TPU 的平台，允许您轻松制作 TFLite 应用原型，甚至可以通过其灵活的系统模块（SoM）设计扩展到生产！

产品特点：

1. 恩智浦 i.MX 8M SoC（四核 Cortex-A53，Cortex-M4F）CPU
2. 集成 GC7000 Lite 图形
3. 谷歌边缘 TPU 协处理器
4. 1GB LPDDR4，8GB eMMC
5. 一系列接口：HDMI、MicroSD、WiFi、千兆以太网等等！

或者，您可能对 Coral USB 加速器感兴趣，它允许您通过 USB 在现有的开发板上使用谷歌的边缘 TPU！对于需要更多功率的嵌入式应用，带有双边缘 TPU 的 Coral M.2 加速器可以通过高速 M.2 接口与任何系统一起使用，并拥有两个边缘 TPU 以实现一些强大的机器学习能力！

用于边缘 AI 的单板计算机

边缘 AI 发展迅速，没有人想错过。幸运的是，随着各种边缘设备的可用，开始使用边缘 AI 比以往任何时候都更容易。在这一部分，我想为那些想涉足边缘 AI 的人分享一些单板计算机推荐！

Intel Celeron驱动的 ODYSSEY X86 系列

当涉及到通用计算时，您很难找到比 ODYSSEY x86 系列更好的了。在强大的 x86 CPU 架构上运行，这款单板计算机有足够的能力满足任何边缘计算需求，甚至可以作为迷你 PC 来替代您的桌面。

适合初学者：Raspberry Pi 4B

如果您是初学者，或者您正在为您的孩子寻找一个适合初学者的选择，那么您选择树莓派 4B 肯定不会错。尽管受欢迎的树莓派不像我迄今为止分享的其他推荐那么强大，但对于任何试图学习边缘 AI 或通用计算的人来说，它仍然是一个非常有能力的单板计算机。

边缘 AI 在微控制器上是否可行？

现代处理器，能够每秒执行数万次操作（TOPS），对于机器学习并非至关重要。一些带有嵌入式机器学习加速器的微控制器现在正在边缘设备上启用机器学习。本文探讨了边缘 AI 如何将 AI 集成到更小、功率更低的计算机中，包括具有最小内存的微控制器。

微型机器学习（ TinyML ） ，一个新概念，通过在高度资源受限的环境中启用机器学习来应对这些挑战。

TinyML 的目标是允许在小型、资源受限的低功率设备上，特别是微控制器上执行推理，最终进行训练，而不是在更大的平台或云中。

这需要减小神经网络模型的大小以适应这些设备相对适度的处理、存储和带宽资源，同时又不会显著降低功能和准确性。

用于边缘 AI 的最佳微控制器

GROVE VISION AI MODULE V2 - M55

Grove - Vision AI V2 是一款由 Himax WiseEye2 HX6538 处理器驱动的高效基于微控制器的智能视觉模块，具有双核 Arm Cortex-M55 和集成的 Arm Ethos-U55 神经网络组件。它集成了 Arm Helium 技术 ，该技术针对向量数据处理进行了精细优化，在不影响功耗的情况下显著提升了数字信号处理和机器学习能力，非常适合电池供电应用。

Seeed Stuidio XIAO ESP32S3 传感器评估板和Seeed Stuidio XIAO nRF52840 传感器评估板：

Seeed Stuidio XIAO 系列是小型开发板，具有相似的硬件结构，尺寸实际上只有拇指大小。这里的代号“XIAO”代表它的一半特征“微小”，另一半将是“强大”。

Seeed Stuidio XIAO ESP32S3 评估板集成了一个 OV2640 摄像头传感器、数字麦克风和 SD 卡支持。结合嵌入式机器学习计算能力和摄影能力，这个开发板可以成为您开始智能语音和视觉 AI 的绝佳工具。

Seeed Stuidio XIAO nRF52840 评估板搭载蓝牙 5.0 无线能力，并且能够以低功耗运行。具有板载惯性测量单元（IMU）和脉冲密度调制（PDM），它可以成为您进行嵌入式机器学习项目的最佳工具。

Wio 终端：

Wio 终端是一个基于 ATSAMD51 的完整的 Arduino 开发平台，无线连接由瑞昱 RTL8720DN 提供动力。作为一个一体化的微控制器，它具有板载的 2.4"液晶显示屏、惯性测量单元、麦克风、蜂鸣器、microSD 卡插槽、光传感器和红外发射器。Wio 终端得到了 Edge Impulse 的官方支持，这意味着您可以轻松地使用它来收集数据、训练您的机器学习模型，最后部署一个优化的机器学习应用！

结论：

在当今这个数据驱动的世界里，传统云计算在实时需求方面面临困境。边缘计算和边缘 AI 通过将 AI 部署在更靠近需求的地方来改变数据处理方式，彻底改变了各个行业。这种转变提高了效率，减少了延迟，并使物联网设备能够做出自主决策。随着边缘 AI 的发展，它承诺了一个未来，在这个未来中，边缘的智能解决方案将推动创新、安全和可扩展性，将 AI 更深入地融入日常生活。拥抱边缘 AI 和计算的演变，以利用智能解决方案为我们相互连接的世界服务。

相关型号

原厂型号	Digikey 型号
110061362	1597-110061362-ND
110061361	1597-110061361-ND
102110297	1597-102110297-ND
113990660	1597-113990660-ND
102110260	1597-102110260-ND
114991790	1597-114991790-ND
102110449	1597-102110449-ND
102110539	1597-102110539-ND
102110767	1597-102110767-ND
102110301	1597-102110767-ND
113991115	1597-113991115-ND
102010469	1597-102010469-ND
102991299	1597-102991299-ND