边缘计算

找到 5 篇关于此标签的文章

Liquid AILFM2.5

2.6B 小模型跑上笔记本核显 — 本地 AI 不再是大公司特权

这周 Reddit 技术圈有则帖子值得关心：26 亿参数的小模型已经能在普通笔记本的集成显卡上跑起来。这意味着本地 AI 不再只是极客玩具，开始具备中小企业落地的硬件基础。

CloudflareSpectre

Cloudflare 自查发现边缘 Spectre 漏洞 — 泄漏慢但够窃取密钥

Cloudflare 自查发现边缘平台 Workers 的 Spectre 防御有漏洞，能在生产环境以 12 bit/s、99% 准确率窃取数据。已修补、三年无利用迹象，但 AI 推理大规模迁移到边缘后，安全账要重新算。

inclusionAILing-3.0-tiny

249 美元小盒子跑满 128K 大模型 — 边缘 AI 开始撬动云端成本

本周技术圈有人在 249 美元的 Jetson Orin Nano 上跑通了 inclusionAI 的 Ling-3.0-tiny：7.9B 参数、128K 上下文、33 token/秒。意味着企业自建 AI 的硬件成本，可能从「机柜级」下沉到「桌面级」。

Akamai 拿下 Gartner 首个边缘分发平台大奖 — AI 推理就近化才是真看点

Akamai 凭 85 条客户评价、4.7 分综合评分、91% 推荐率拿下 Gartner 首个边缘分发平台客户之选。值得关心的不是 Akamai，而是 Gartner 第一次给边缘分发平台单独立项，AI 推理就近化正在被官方认证为新战场。

LocalLLaMAHelium

分布式AI算力机架想放户外 — Reddit社区：跟催化转化器一样等着被偷

Reddit本地LLaMA社区一则帖子引发讨论：将AI计算设备放在用户住宅户外，面临严峻物理安全挑战。催化转化器频繁被盗的教训表明，户外高价值硬件是盗窃目标。这反映了分布式AI基础设施部署中被低估的物理层风险。