这是什么

美国一家10人创业公司本周公开了他们的本地AI硬件配置：4块AMD R9700 AI Pro显卡（总显存128GB），搭配Threadripper 9970X处理器和128GB DDR5 ECC内存，整套系统造价1.8万美元。

这台机器用开源推理引擎Radiance的分支版本，同时服务16个员工跑Qwen 3.8 Next Flash 27B等开源模型。48K上下文场景下聚合解码速度约538 token/秒（token是大模型处理文本的最小单位），单用户最高80 token/秒。简单说：够用，不算慢。

行业怎么看

正面声音认为，这件事标志本地推理进入了"小公司也能负担"的阶段。过去只有大厂或云厂商才玩得起的硬件配置，现在压缩到一台工位服务器级别。AMD R9700主打推理而非训练，价格远低于Nvidia H100，被视为云端API之外的可行替代。

但反对意见同样值得听。一是1.8万美元的入门门槛，对很多10人公司仍不低，电费、散热、运维这些隐性成本没算进去。二是AMD的ROCm软件生态（类似Nvidia的CUDA开发平台）比CUDA仍有差距，模型兼容性经常踩坑。三是如果一家公司每月AI调用量不大，云端按量付费可能反而更便宜。这套方案不是"万能更优解"。

另一个值得编辑部留意的细节：他们用的是Qwen 3.8——阿里发布的开源模型。一家美国团队把中国开源模型用作核心业务引擎，说明Qwen的工程成熟度已经过关。

对普通人的影响

对企业IT：对数据合规要求严格的行业（金融、医疗、政务），本地部署从"理论上可行"变成"工程上可行"，是真实选项。

对个人职场：未来12-24个月，会有更多中型公司内部搭类似集群，员工用公司本地大模型而非外部ChatGPT处理敏感数据。

对消费市场：个人用户短期搭不起来，但开源模型被企业验证后会传导到更多消费级应用，本地AI能力是趋势。