客户说系统难用时,先别急着改:我们也该看懂这场罗夏测试
相关推荐
最新文章
Infinite SlopAI直播
一个人撑起 24 小时 AI 直播 — 这个开源项目让你也试试
Pieter Levels 做了个叫 Infinite Slop 的 AI 自动直播开源项目,不用露脸、不用说话、内容自动生成。非码农也能上手,复刻成本约 1-2 个周末加几十块 API 费。
8月29日·levels.io
llama.cppMoE
llama.cpp 还有 50 个 PR — 本地跑 AI 不必靠显卡
开源项目 llama.cpp 攒 50+ 性能优化待合并,部分让 CPU 推理提速 3 倍。「本地跑大模型」正摆脱对高端显卡的依赖 — 敏感行业的私有部署和普通用户的离线 AI,都会因此更便宜。
8月29日·www.reddit.com
DeepSeekNVIDIA
DeepSeek 在两台几万元小机器上跑出 67 token/s — 本地大模型门槛正在塌方
本周一位 Reddit 用户用两台 NVIDIA DGX Spark 工作站(约 6 万元)跑出 DeepSeek V4 Flash 67-84 token/s 的稳定输出,配 100 万 token 上下文。我们关心的是这份民间复刻印证了一个被低估的趋势:开源大模型本地部署的成本正在快速下沉,企业
8月29日·www.reddit.com
QwenApple Silicon
Qwen 3.8 实测:深度思考模式多烧 5.5 倍 token,本地部署账该重算
一位 Reddit 用户在 MacBook Pro M5 Max 上跑了 Qwen3.8-27B:开启「深度思考」模式后,token 消耗是普通模式的 5.5 倍、推理耗时 6 倍;关闭后质量又掉到其他 MoE 模型之后。开源模型「会思考」与「想得起」之间的成本裂缝正在浮出水面。
8月29日·www.reddit.com
TenstorrentQwen3
Tenstorrent 跑通 Qwen3.7-27B — 非英伟达 AI 芯片商用破冰
Tenstorrent 用户晒出 QuietBox 2 工作站跑 Qwen3.7-27B 的推理数据。这是非英伟达阵营首次拿出接近商用的实测成绩,但距离撼动英伟达生态还很远。
8月29日·www.reddit.com
Sesame AIChatGPT
语音 AI 想跑在本地?12GB 显卡暂时还差口气
本周 Reddit 的 LocalLLaMA 社区有热帖追问:有没有能在 12-24GB 消费级显卡上跑的语音对话模型,能对标 Sesame 或 ChatGPT 的体验。答案是——目前还没有真正能打的本地方案。云端语音 AI 的体验优势,正在成为本地化部署的下一道关卡。
8月29日·www.reddit.com