pilgrim-farm
三块显卡攒出一座 AI 电台 — 本地大模型成了有钱人的玩具
Reddit 用户用两台 DGX Spark 加 5090、4070 Ti 三块高端显卡,同时跑三个本地大模型,搭出 24 小时 AI 电台。证明本地 AI 能扛连续生产负载,但也把硬件门槛摆到 6 万人民币。
找到 2 篇关于此标签的文章
Reddit 用户用两台 DGX Spark 加 5090、4070 Ti 三块高端显卡,同时跑三个本地大模型,搭出 24 小时 AI 电台。证明本地 AI 能扛连续生产负载,但也把硬件门槛摆到 6 万人民币。
阿里巴巴 Qwen 3.6 35B-A3B 在双消费级 GPU 上以 Q8 量化运行,实现 170 tokens/秒与完整 260K 上下文,社 区称其首次真正替代云端编程助手。