虽然边缘人工智能 (AI) 在新闻头条上的曝光度不及数据中心人工智能，但它却是全球迈向更智能、响应更迅速的未来的关键技术。与基于云的 AI 不同，边缘 AI 模型的独特之处在于无需依赖云端连接即可实现实时决策。
边缘 AI 器件在其环境中感知、处理和响应数据的每一个环节，都发生在现实世界中，而非遥远的数据中心。例如，智能手表在本地分析生物识别数据并提供定制化提醒，工业电机中的故障监测器进行干预以防止系统故障，或现代汽车中的车道检测和盲点监测。
在本期时事通讯中，我们将探讨：
-
边缘 AI 的根源可以追溯到 1978 年 Speak & Spell 的开创性 DSP 技术，该技术已演变为如今的实时、器件端智能。
-
半导体集成和 AI 硬件加速的进步正使边缘 AI 变得更加普及，并与数据中心及物理 AI 的联系日益紧密。
01
边缘 AI 正处于转折点
关于边缘 AI 的讨论已从“这真的能实现吗？”转向“我们如何让这项技术变得随处可用且实用？”
这种从小众应用场景到日常应用的转变，是技术从新兴走向成熟的典型过程。这就是边缘 AI 目前所处的阶段。它正在从产品差异化优势转变为标准产品功能。
尽管在边缘 AI 发挥其全部潜力之前，成本、复杂性和开发者专业知识方面仍存在障碍，但目前已有切实可行的解决方案正在积极应对这些挑战。
助力边缘 AI 普及的主要进步包括：
-
半导体中更先进元件的更深度集成
-
更直观的开发软件的推出
-
支持边缘 AI 处理的模拟和功率器件的演进
这些进步有助于降低边缘 AI 设计所需的专业知识门槛和整体实施成本，使 AI 工作负载能够在资源受限的应用中运行。
在本期《创新者技术》中，我们将讨论边缘 AI 的处理端，这要追溯到一些意想不到的起源。
02
Speak & Spell
汽车中支持边缘 AI 的高级驾驶辅助系统与 20 世纪 70 年代的一款益智玩具之间有什么共同点？共同点远比您想象的要多。
1978 年，当 Speak & Spell 出现商品目录和玩具店时，它搭载了业内首款采用数字信号处理逻辑的芯片。这一技术突破利用交互式和变革性的技术，帮助一代又一代儿童学习拼写和发音。
作为率先为 Speak & Spell 开发 DSP 技术的工程师之一，Gene Frantz 最近与处理器部门副总裁兼总经理 Roland Sperlich 共同探讨了 Speak & Spell 的影响。
Speak & Spell 在“边缘 AI”这一术语出现之前就已具备其雏形。它能够在手持式电池供电器件上执行实时语音合成。其背后的技术基础是富有创新的软硬件协同设计。
正如 Gene 回忆的那样：
“我的工作是将集成电路 (IC) 架构师和语音研究人员聚在同一个房间里。慢慢地，他们想出了线性预测编码，这是一种复制人类声道结构的算法。”
使这款玩具得以实现的原则对于当今的技术依然至关重要。
这种设计理念持续为 TI 现代边缘 AI 处理器和微控制器 (MCU) 提供指引，为工业自动化、汽车安全、医疗监护和可再生能源等领域的应用提供动力——在这些领域，器件端智能、低延迟和高能效是不可或缺的要素。
03
边缘 AI 的现状：
硬件加速的演进
Speak & Spell 背后的理念——在手持器件上实时本地处理信息——与当今推动边缘 AI 的原则如出一辙。所改变的是这些技术的应用范围。
在边缘 AI 发展的大部分历程中，在小型低功耗器件上运行智能软件，意味着必须在速度、效率和成本之间做出艰难的权衡。这使得许多应用无法使用有意义的 AI 模型（即足以识别模式、检测异常或做出实时决策的复杂 AI 模型）。
这种情况正在改变。新的嵌入式处理器设计现已包含集成式 AI 硬件加速组件，无需芯片外的额外组件即可运行 AI 模型。例如，MSPM0G5187 微控制器中的 TinyEngine™ NPU 和 TDA54-Q1 片上系统中的 C7™ NPU 等集成神经处理单元 (NPU)，专门设计用于处理 AI 推理，而器件的其他计算核心则负责管理系统的其余部分。
在实践中，这意味着工厂车间的传感器现在无需将数据发送到云端进行推理，即可检测到设备故障的早期迹象。又或者，汽车可以完全依靠车载系统在几毫秒内识别行人并做出反应。
自 Speak & Spell 问世以来，硬件技术已取得长足进步。然而，本地、实时、以更少资源执行更多功能的原则始终未变。
04
边缘 AI 的未来方向
边缘 AI 的未来发展不仅在于其自身的处理能力和易用性，也在于该技术与其他 AI 领域（特别是数据中心 AI 和物理 AI）的联系。
尽管这些技术各不相同，但它们之间的相互依存关系日益增强，蕴藏着更大潜力。
例如，支持边缘 AI 的 MCU 可以通过对冷却系统进行实时电机控制，帮助优化数据中心的散热性能。随着工程师们积极评估基于数据中心的系统中的热管理方案，在维持性能的同时避免能耗成比例增长，这一点将至关重要。
边缘 AI 与物理 AI 的关系也在不断演进。像人形机器人这样的自主机器，依赖本地、低延迟的推理才能在非结构化环境中可靠地工作；这种需求目前正在直接推动边缘 AI 硬件和软件的加速开发。
这并非遥不可及的未来愿景，而是已在推进的现实。