
选型前置判断:①电池供电还是持续供电;②跑 TinyML 还是 SLM 小大模型;③是否需要 Linux;④无线协议(Wi‑Fi6/BLE/Thread/Matter/LoRa/NB‑IoT);⑤工业温度等级要求。
1)端侧 MCU 级|毫瓦级,RTOS,TinyML(语音唤醒、振动检测、简单分类)
不能跑 Linux,只跑 RTOS/FreeRTOS;适合电池供电传感器、智能家居终端;模型 INT8 量化,几十 M 参数以内。
表格
| 芯片型号 | 架构 | AI 能力 | 内存 / Flash | 无线 | 典型功耗 | 操作系统 | 典型场景 | 优缺点 |
|---|---|---|---|---|---|---|---|---|
| ESP32‑C6 | RISC‑V | SIMD 向量加速,轻量 TinyML | 512KB SRAM,4MB Flash | Wi‑Fi6 + BLE5.3 + Thread/Zigbee/Matter | 待机 < 10μA,活跃~80mA | FreeRTOS | 智能家居 Matter 终端、家电、传感器 | ✅PSA L2 安全认证、生态完善;❌算力有限,不能跑大模型Espressif ... |
| ESP32‑S31 | RISC‑V 双核 320MHz | SIMD 向量,本地音频 / 简单视觉 | 512KB SRAM,PSRAM 扩展 | Wi‑Fi6+BLE5.4+Thread + 以太网 | 休眠~15μA,活跃 120‑180mA | FreeRTOS | 小型 AI 网关、HMI 面板、本地语音、小型工业采集 | ✅多协议合一、千兆以太网;❌内存不大,不适合 LLMEspressif ... |
| 嘉楠 K210 | RISC‑V64 双核 | KPU 0.25TOPS INT8 | 8MB SRAM | 无(外接 BLE/Wi‑Fi 模组) | 0.2‑0.3W | FreeRTOS/MaixPy | 原型机器视觉、人脸检测、创客设备 | ✅原生硬件 KPU;❌无内置无线,量产稳定性一般 |
| nRF54L15 | ARM M33 | Axon NPU TinyML | 256KB RAM,1.5MB Flash | BLE5.4、802.15.4 | 休眠 < 1μA | Zephyr | 电池供电传感器、可穿戴、运动 / 语音唤醒 | ✅功耗极低;❌无 Wi‑Fi,算力很小 |
| GD32VW553 | RISC‑V | DSP 扩展,轻量信号处理 | 320KB SRAM,4MB Flash | Wi‑Fi6 + BLE5.2 | 休眠~20μA | RT‑Thread/FreeRTOS | 工业传感器、智能照明 | ✅国产高性价比、宽温;❌无独立 NPU,仅 DSP 加速GigaDevice |
2)强端 SoC|百毫瓦‑数瓦,支持 Linux,可跑 200M‑2B 轻量 SLM
可以运行 Linux/OpenHarmony;有完整 NPU;适合 AI 摄像头、轻量网关、本地语音交互。
表格
| 芯片型号 | 架构 | NPU 算力 INT8 | 内存上限 | 无线 | 典型功耗 | 操作系统 | 典型场景 | 优缺点 |
|---|---|---|---|---|---|---|---|---|
| RV1106 | A7+RISC‑V | 1.2TOPS | 2GB | 可外接 Wi‑Fi/4G | 0.8‑1.2W | Linux/OpenHarmony | IPC 摄像头、机器视觉、缺陷检测 | ✅视频编解码强;❌无内置 Wi‑Fi,需要外置模组 |
| RK3568 | 四核 A55 | 0.8‑1TOPS | 8GB | 可外接 Wi‑Fi6/5G | 1.5‑3W | Linux/OpenHarmony | 工业网关、小型边缘盒子 | ✅接口丰富,工业级;❌NPU 算力一般,跑 1B 模型吃力 |
| RK3576 | 八核 A76/A55 | 4TOPS | 16GB | 外接 | 2‑4W | Linux | 中端 AI 网关、多摄像头分析 | ✅性价比高;❌无内置无线,需要外设 |
3)边缘网关 / AI‑BOX|3‑15W,跑 1.8B‑7B SLM,可运行 IoT‑Agent
完整 Linux;支持本地 Agent、边缘数字孪生;工业项目主流硬件形态。
表格
| 芯片型号 | 架构 | NPU 算力 INT8 | 内存上限 | 典型功耗 | 操作系统 | 典型场景 | 优缺点 |
|---|---|---|---|---|---|---|---|
| RK3588 | A76×4+A55×4 | 6TOPS | 32GB | 6‑10W | Linux/OpenHarmony | 工业边缘盒、多路视频分析、本地 Qwen‑1.8B‑4B | ✅生态成熟,开发资料多;❌功耗偏高,散热要求高 |
| RK1828 | RISC‑V 多核 | 最高 20TOPS | 32GB | 8‑12W | Linux | 工业视觉、本地 3‑7B LLM、IoT‑Agent 节点 | ✅原生面向端侧大模型;❌生态相比 RK3588 新,第三方板卡少瑞芯微 |
| NVIDIA Jetson Orin NX | ARM+GPU | 20TOPS | 64GB | 10‑15W | Jetpack | 机器人、复杂多模态边缘计算 | ✅AI 软件生态最强;❌价格高,供应链受限 |
4)高端边缘智算|15W+,7B‑30B 模型,多路视频并发
表格
| 芯片型号 | 架构 | NPU 算力 | 内存上限 | 功耗 | 场景 |
|---|---|---|---|---|---|
| 进迭时空 K3 | RISC‑V RVA23 | 60TOPS | 64GB | 20W | 工业智算盒子、本地大模型推理网关 |
| MediaTek Genio Pro5100 | ARMv9.2 | 50+TOPS | 32GB | 18‑25W | 机器人、多流工业视觉、7B 模型本地运行MediaTek |
📌选型快速决策指引
- 电池供电传感器节点、简单 TinyML:优先 ESP32‑C6 /nRF54L;追求 AI 能力选 ESP32‑S31。
- 电池供电机器视觉原型:K210(原型验证,不适合大规模量产)。
- 持续供电,轻量 AI 摄像头、视觉质检:RV1106。
- 工业网关,少量 AI,协议转换为主:RK3568。
- 需要本地跑 1‑4B 小大模型、部署 IoT‑Agent:RK3588 / RK1828。
- 机器人、多模态复杂边缘任务:Jetson Orin NX。
⚠️工程落地注意点
- RISC‑V MCU:不同厂商扩展指令存在碎片化;尽量选用 RVA23 标准内核,提高软件可移植性。
- 工业场景:重点确认工作温度范围‑40~85℃,商业芯片不能直接上工业现场。
- 内存是瓶颈:跑 LLM 优先看可用内存,不是单纯 NPU 算力;INT4 量化可以显著降低内存需求。
- 无线集成:SoC 内置无线 BOM 成本更低;但复杂工业场景,外置独立射频模组稳定性更好。
高端边缘智算 AIoT 硬件适用场景
硬件定义:功耗 15W 以上,算力≥20TOPS INT8,可本地运行 7B~30B 参数 SLM 小大模型、多流视频分析、多传感器融合、IoT‑Agent 智能体、本地数字孪生;代表硬件:RK1828、进迭时空 K3、Jetson Orin NX、Genio Pro5100。
和普通边缘盒子(RK3588,6TOPS)核心区别:支持多模态大模型、高并发多路感知、复杂 Agent 推理、本地数字孪生仿真,不再只做单路图像识别 / TinyML。
一、工业领域(最大落地场景)
- 复杂工业数字孪生工厂边缘节点 本地维护产线完整数字孪生模型,对接上百路 IoT 传感器、视觉相机;在边缘侧完成仿真推演、故障预演、产线调度优化,不需要回传云端。
- 任务:设备预测性维护、工艺参数自优化、产线异常根因分析;运行工业 IoT‑Agent 自主调度设备。
- 典型:汽车总装车间、半导体工厂、大型化工装置现场。
- 多机位工业视觉质检集群 同时处理 8‑32 路工业相机图像,多模态检测(缺陷识别、OCR 读取、3D 视觉尺寸测量);支持大模型做开放集缺陷检测(未知缺陷识别,传统 CV 做不到)。
- 价值:不把图片传出厂区,保护生产数据;毫秒级并发处理。
- 大型设备集群预测性维护中枢 汇聚几十上百台电机、风机、压缩机振动、温度、声学传感数据;边缘侧运行联邦学习,多设备联合训练故障模型;本地大模型做故障根因推理,输出维修建议。
- 典型:风电场站、大型冶金、水厂机组。
二、智慧交通与低空经济
- 路侧边缘智算单元(智慧路口) 接入多路摄像头、毫米波雷达、激光雷达、车路协同 OBU;完成行人 / 非机动车 / 机动车识别、轨迹预测、交通事件推理;运行交通 Agent,实现信号自主调优;支持车联网 V2X 本地决策。
- 无人机 / 低空智联网地面边缘站 接收多架无人机回传视频、传感数据;多目标检测、空域冲突研判、任务自主规划;本地大模型解析航拍画面,实现安防巡检、电力杆塔巡检、油气管道巡检。
机载端算力有限,复杂推理下放地面高端边缘智算节点。
- 港口 / 码头智能边缘控制 集装箱码头,对接龙门吊、AGV、传感器集群;IoT‑Agent 完成多 AGV 协同调度,堆场仿真,集装箱状态分析;港口断网弱网下本地自治运行。
三、能源电力行业
- 大型新能源场站边缘智算网关 光伏 / 风电集中场站,接入海量逆变器、储能 BMS、环境传感器;
- 本地 SLM 大模型做故障诊断、功率智能预测;
- 联邦学习,多个场站之间协同训练,原始数据不出场站;
- 储能协同调度,故障快速就地保护。
- 变电站智能边缘平台 多路摄像头、红外测温、局放传感器;设备状态多模态综合研判,设备故障自然语言化告警报告生成;站内数字孪生。
四、城市治理与安防
- 大型园区 / 城市综合边缘中枢 几十路视频流 + 物联网感知(烟感、水浸、噪声、井盖、管网传感器)融合;大模型做事件理解:打架、烟火、翻越、人群聚集;自然语言事件研判,生成处置建议。
区别普通 AI 盒子:普通盒子只能做固定规则识别;高端智算可以理解复杂、未定义的异常事件。
- 大型地下管网综合监测节点 融合管道传感器、液位、气体、井下摄像头;数字孪生管网仿真,推演泄漏扩散路径,给出处置方案。
五、机器人与特种装备
- 多机器人集群调度边缘大脑 多台 AMR 工业机器人、巡检机器人,机器人本体只做感知运动,复杂任务规划、集群协同交给边缘智算;运行 Agent 分配任务、冲突规避。
- 特种行业本地离线智能平台 矿山、井下、野外矿区,公网信号差;本地部署 7B‑13B 大模型,实现设备语音交互、故障问答、巡检报告生成,全程不上云。
六、智慧医疗 IoT(院端边缘)
- 医院设备边缘网关,对接监护设备、影像设备;本地多模态数据分析,保护患者隐私;只输出分析结果,原始医疗数据不出院内。
七、消费 / 商用高端 AIoT
- 大型商业综合体本地 AI 中枢 商场客流分析、设备物联(空调、照明、电梯);Agent 自主做能耗优化、客流调度;本地大模型支撑离线智能客服。
不适合使用高端边缘智算的场景
避免过度选型,造成成本、功耗浪费
- 单路摄像头、简单物体识别(RK3568/RK3588 足够)
- 电池供电终端:该类硬件功耗高,必须持续供电;
- 简单传感器采集、TinyML 振动检测:普通 RISC‑V MCU 即可。
选型判断条件(什么时候必须上高端边缘智算)
满足任意 2 条,就有必要性:
- 需要同时处理≥8 路视频 / 激光雷达等高吞吐量感知数据;
- 需要本地运行≥7B 参数 SLM 小大模型;
- 需要部署IoT‑Agent 智能体做自主调度、复杂推理;
- 需要本地完整数字孪生仿真推演;
- 需要联邦学习多设备协同训练;
- 业务要求断网离线完整业务可用,不能依赖云端大模型。
👀 阅读量:67 次
