Jetson Orin

249 美元小盒子跑满 128K 大模型 — 边缘 AI 开始撬动云端成本

本周技术圈有人在 249 美元的 Jetson Orin Nano 上跑通了 inclusionAI 的 Ling-3.0-tiny：7.9B 参数、128K 上下文、33 token/秒。意味着企业自建 AI 的硬件成本，可能从「机柜级」下沉到「桌面级」。