边缘模型

英文:Edge Model 分类:frontier

基本释义

专为边缘设备(手机、IoT、车载、嵌入式)优化、可在本地运行的模型:体积小、算力需求低、离线可用、隐私友好,是端侧 AI 的核心载体。

技术要点

优化:量化(INT8/4bit)、剪枝/蒸馏(体积压缩)、架构轻量化(MobileNet 类)、NPU 适配;能力取舍:轻任务(分类/语音/摘要)为主,复杂推理靠云端协同;框架:ONNX Runtime、TensorFlow Lite、llama.cpp;场景:离线优先。

应用场景

用于手机 AI(通话摘要/相册分类)、智能家居(语音控制)、车载(本地感知)、工业(现场检测)与隐私敏感场景;边缘模型是"AI 落地到最后一公里"的形态。

返回AI百科目录 · AI最前沿首页

相关词条:模型自进化 · 合成数据 · 长度外推 · 白盒蒸馏 · 剪枝