科技百科 边缘AI到底怎么回事——2026年把大模型塞进手机和路由器 上个月我拿小米15跑了一下本地的Qwen2.5-1.5B模型,生成速度大概每秒12个token。问它"西安今天天气怎么样"回答不了——毕竟没联网,但写个周报摘要、翻译一段英文文档,完全够用。 这就是边... 科技百科 2026-08-22 106 #边缘AI #本地推理 #端侧模型
科技百科 2026年边缘AI推理:手机和路由器上跑大模型,到底行不行 去年写代码还得调API,今年手机上就能跑7B参数的模型了。这个变化比大多数人预想的快。 边缘AI推理说的是把AI模型部署到本地设备——手机、路由器、NAS、甚至智能摄像头——不用联网就能跑。2026... 科技百科 2026-08-18 99 #边缘AI #本地推理 #AI部署 #边缘计算 #量化模型