英文:Edge Model 分类:frontier
专为边缘设备(手机、IoT、车载、嵌入式)优化、可在本地运行的模型:体积小、算力需求低、离线可用、隐私友好,是端侧 AI 的核心载体。
优化:量化(INT8/4bit)、剪枝/蒸馏(体积压缩)、架构轻量化(MobileNet 类)、NPU 适配;能力取舍:轻任务(分类/语音/摘要)为主,复杂推理靠云端协同;框架:ONNX Runtime、TensorFlow Lite、llama.cpp;场景:离线优先。
用于手机 AI(通话摘要/相册分类)、智能家居(语音控制)、车载(本地感知)、工业(现场检测)与隐私敏感场景;边缘模型是"AI 落地到最后一公里"的形态。