两块消费级显卡拼在一起能跑什么大模型——普通人自建 AI 算力的边界正在移动

Content generation failed

基于 #LocalLLaMA 推荐

阿里巴巴 Qwen 3.6 35B-A3B 在双消费级 GPU 上以 Q8 量化运行，实现 170 tokens/秒与完整 260K 上下文，社区称其首次真正替代云端编程助手。

Gemma 4B、GPT-OSS-20B 和 Qwen3-80B 在语法无误的句子中「幻觉」出拼写错误，暴露了指令微调模型在语法检查场景下的系统性缺陷。

用户难以像控制 Qwen-30B-A3B 那样，通过系统提示词可靠地切换 Gemma 4 的推理模式，暴露了模型在思考令牌控制上的实践缺口。

Reddit 上一个关于「聊天与问答场景下 Qwen 3 35B 和 Gemma 4 26B 哪个更好」的提问，引发大量本地部署用户讨论。这件事本身不大，但背后的信号值得关注：越来越多人开始绕开官方基准测试，用自己的实际使用场景做选型依据，小模型市场的竞争逻辑正在悄悄换轨。

在自己电脑上跑大模型写代码时，「思考模式」（模型在给出答案前先进行内部推理的机制）到底是帮手还是负担？这个问题在开发者社区里有真实争议。我们认为，这不只是技术设置问题，而是折射出当前 AI 编程工具链一个尚未解决的结构性矛盾。

Not AI news.

两块消费级显卡拼在一起能跑什 么大模型——普通人自建 AI 算力的 边界正在移动