端侧AI
找到 9 篇关于此标签的文章
国产芯片+国产系统跑通端侧 AI — 一块开发板上的'国产替代'信号
一名开发者这周在瑞芯微 RK3588 + OpenHarmony 6.1 上跑通了 mobilenet_v1 端侧推理测试。技术含量不高，但「国产芯片 + 国产系统 + 端侧 AI」三件事第一次在同一块板子上完整跑通，值得拆解信号。
通义千问让 9B 模型挤进 16G 手机 — 中国大模型第一次在端侧抢到话语权
海外开源社区最近热议：16G 内存手机上能跑的最强模型是阿里通义 9B。这意味着端侧 AI（不联网、在设备本地运行）的临界点快到了 — 中国大模型第一次在"装进口袋"这件事上抢到话语权。
网易联手凌汐，把 AI 装上两轮电动车 — 硬件 AI 化的下一个战场
网易智企云信与上海凌汐联合发布两轮车 AI 语音方案"智语随行"，户外唤醒率 93%、车与车自动组网 1.5 公里，已对接新日、小牛、九号等头部整车厂。这是 AI 从手机屏幕外溢到消费硬件的样本，但要跑通，要看出厂成本和车厂买不买账。
地平线 J6 跑通 YOLOv5 完整部署 — 车规 AI 芯片的开发者拼图在补最后一环
国产车规 AI 芯片公司地平线的征程 J6 平台，在开发者社区出现了一份完整的 YOLOv5 视觉模型部署教程。这件事值得关心，是因为工具链成熟度——让普通算法工程师能自助完成——才是国产芯片真正上车的真正门槛。
Liquid AI 把 2GB 视觉模型塞进手机 — 本地 AI 终于能告诉'这是什么、它在哪'
Liquid AI 发布 LFM2.5-VL-3B，仅 2GB、3.1B 参数的视觉-语言模型，已在 iPhone 17 上本地跑通。更值得关注的是它在 ScreenSpot-v2 桌面测试从 6 分跃到 78.7 分——物体定位能力的大幅提升，意味着本地小模型开始真正'看懂'画面，而不只是描述。
Meta 开源 300 亿参数本地 Agent 模型 — 大厂把 AI 助手塞进你电脑的算盘打得更响了
Meta 推出 300 亿参数的 Muse Glimmer 模型，专为本地端运行 AI 智能体（Agent）设计，单显卡即可跑到每秒 2 万 token。这意味着 AI 助手不必再绕道云端，企业和个人的数据隐私、成本结构都可能因此重写。
Meta 把 AI 模型压缩到能塞进手机 — 但本地跑大模型真的划算吗
Meta 开源了两款可在手机端运行的小模型 Muse Glimmer 与 Muse Spark 1.2。我们关心的是：本地推理比调用云端 API 更便宜吗？什么时候该选哪种？
Liquid 推出 2.6B 小模型 — 本地跑 AI 的门槛正在被踩平
Liquid AI 这周放出 2.6B 参数的小模型，普通显卡就能跑出每秒 260 token 的速度。它的能力有限，但足以应付日常琐碎任务——这意味着本地 AI 的实用门槛又往下走了一步。
手机本地跑 AI 不再需要联网—— 一个开源安卓应用正在把这件事变得可操作
Pocket LLM v1.4.0 本周更新：安装包从捆绑模型压缩到约 200MB，用户可在 App 内自行下载所需模型、离线运行 AI 对话。这不是大公司发布会，而是开源社区悄悄推进「手机本地 AI」可用性的一个缩影——值得关注的信号是，离线 AI 的门槛正在从「极客专属」向普通用户移动。