通义千问
找到 30 篇关于此标签的文章
1B 模型能装进手机做视频理解 — 面壁智能压过通义千问 0.8B
面壁智能发布 1B 参数视觉模型 MiniCPM-V 4.7,自家基准跑赢通义千问 0.8B,原生适配鸿蒙并支持多家国产芯片。对企业意味着:本地化视觉 AI 的成本曲线正在明显下移。
RTX 3090 单卡跑 Qwen 27B 速度快近一倍 — 本地大模型的玩法正在被改写
一位开发者写了一个叫 megakernel 的自定义 CUDA 内核,让通义千问 Qwen3-27B 在单张消费级 RTX 3090 上的写代码推理速度从 73 token/秒拉到 140 token/秒,接近翻倍,输出质量几乎无变化。本地跑中型大模型的硬件门槛正在被重新画线。
Qwen 27B 量化实测反常:压得最狠那个数学反而最强 — 开源大模型本地跑越来越像样了
一位 Reddit 用户用 AMD R9700 显卡实测 Qwen 27B 的三种量化版本,发现压缩最狠的 MXFP4 在数学题上反而拿了第一。这一反直觉结果,对「在本地跑一个还过得去的大模型」这件事是一个具体的、可复现的进展信号。
Qwen 3 27B 能不能逆向游戏?一个 Reddit 提问,折射本地 AI 的能力水位
本周 Reddit 一帖被顶上首页:用户问 Qwen 3 27B 这种本地模型能不能做软件逆向。这问题不大,但它折射出本地 AI 的真实水位——普通用户开始拿它问“能不能替代专业工作”。开源阵营进展到哪一步,这类提问的反馈是个参照。
微软开源 AesCode:让 AI 生成的 PPT 海报能直接改,底层是阿里千问
AesCode 是微软本周发布的 8B/32B 开源模型,把提示词变成可编辑的 HTML/CSS 网页而非位图。我们的判断:在 AI 做演示工具这件事上,能改比好看更有商业价值。
4B 参数小模型跑出本地语音助手 — 不靠显卡的 AI 助理离办公室还差多远
本周 Reddit 上一位开发者用阿里通义千问 4B 小模型、配合 Mistral 的 Voxtral 和 Pocket,在普通电脑上跑出完整的本地语音助手。意义在于:不需要独立显卡、不上传云端,企业和个人都能拥有'数据不外流'的 AI 助理。这件事比看起来更重要。
Qwen 成本地部署新默认 — 阿里开源路线靠'亲民'验证成功
本周 Reddit 本地大模型社区一个典型提问——怎么用 12GB 显存跑 Qwen Flash 新模型——我们认为提问本身不重要,折射的趋势值得关心:Qwen 已成为爱好者本地部署的事实默认起点。
TensorSharp 接入通义图像模型 — 中国开源正在补齐"本地 AI"这块拼图
TensorSharp 是一个开源本地 AI 推理引擎,本周接入了阿里通义的 Qwen Image 2.1 Turbo 和 LoRA。它让我们关心的是:跑 AI 不必上云这件事,正在被中国开源项目一寸寸拉近现实。
千问3.8本地版11小时实测:所谓'深度思考',多花的算力大多白费
一位海外玩家用消费级显卡、本地跑了通义千问3.8三款模型近11小时、14道新编程题,结论是:当下火热的'深度思考'并不是调高就更强——多花的算力主要花在让模型卡壳上,而不是解出更多题。值得关心的是企业正在为'推理'付的溢价。
Qwen 用户称本地小模型手感接近 Claude — 这条信号值得记,但只有一个样本
一个 Reddit 用户用量化版 Qwen 3.8 Flash Next 写 three.js 代码,觉得"在家像 Claude 4.6"。虽是个人体验,背后指向的趋势——开源/本地模型正在逼近闭源付费产品的实际可用性——值得关注。
模型跑分高未必真能用,Reddit 用冷门动画片给大模型做'民间测试'
本周我们注意到 LocalLLaMA 论坛讨论如何识别'刷榜模型'——用 2010 年代冷门卡通做真伪题。某用户点名 Qwen 30B 在该测试翻车,能答对的被认作'真能对话'。这反映民间测试与官方榜单的信任脱节。
单张 3090 跑通 Qwen 27B、长上下文 — 本地大模型的消费级拐点
Reddit 上一位用户晒配置:单张 3090 + 32GB 内存,跑通 Qwen 27B 实现 15 万上下文、每秒 60 token。本地大模型需求正在向一条硬件门槛延伸——消费级硬件够不够装得下大模型。
通义千问8B模型跑出每秒400 token — 本地部署的成本拐点临近
阿里通义千问3 8B的Flash变体在单张消费级显卡上跑到400 token/秒的解码速度,8K上下文预填接近14K token/秒。对考虑自建AI的企业IT而言,"用得起"的临界点正在到来。
阿里 Qwen 4 据传十月底发布 — 开源大模型正在按季度交付
阿里通义千问据称将在 10 月底推出 Qwen 4,27B 版本有望同年发布。这是开源大模型迭代周期从半年压缩到季度的关键信号,对企业 IT 选型和开发者生态意味着一轮新的不稳定期。
本地 AI 跑通 15 个文件代码改写 — 但思路里突然聊起李光耀
Reddit 实测:基于通义千问的本地 AI 在 RTX 5070Ti 上完成 15 个文件的代码改写,速度提升 2-3 倍。但模型'思考'时突然插入李光耀生平——暴露本地 AI 离可靠还有多远。
通义千问自己造了个阿里云签名链接:是幻觉,还是数据外传?
本周 Reddit 一名开发者发现,本地跑的通义千问在做亚马逊商品调研时,自己捏造了一个指向阿里云存储的签名链接。45 天前 Hacker News 上有类似报告。这件事把开源模型的安全盲区摆到了台面上。
35B 模型塞进 16GB 显卡,Reddit 开发者让准确率不降反升
一位 Reddit 用户改造开源推理引擎,让 35B 大模型在 16GB 显卡上跑到 60 token/s,并通过'扩专家'把考试分数提高 2.5 分。开源生态开始有自己的打法。
本地大模型跑 Agent 实测:通义千问 27B 夺冠,垫底者败在'刹不住车'
一位 Reddit 工程师用统一基准对 15 款开源大模型做实测。通义千问 27B 以 71.8% 拿下第一,但垫底模型的失败原因揭示了一个被忽视的工程难题:AI 不会做不重要,会不会收手才重要。
280 美元的矿卡跑通千问 27B — 本地大模型不再是富人的游戏
一位极客用 eBay 上 280 美元的二手矿机 FPGA 芯片跑通阿里千问 9B 模型,27B 也在规划中。本地大模型部署的成本门槛正被悄悄打破。
企业 PDF 一半内容藏在截图里,AI 问答等于半盲 — 开发者方案来了
中国企业知识库里大量 PDF 是图文混合的,传统 AI 问答工具往往只能读到一半信息。一位开发者用阿里通义 Qwen-VL 多模态模型搭出图文兼容方案,值得所有用 AI 处理文档的人重新审视自己的工具。
通义千问用户正疯狂优化 Flash Next — 他们赌 Qwen4 很快来,但这条路径并不必然顺畅
阿里通义千问上线 Qwen3.8 Flash Next 后,社区涌出一批推理优化项目。值得关心的是:开发者愿意为一个版本花时间,意味着 Qwen 这条产品线已被视为值得长期投入的生态资产。
176B 大模型在一台游戏本上跑通了 — 本地 AI 离「能用」比想象中更近
这周一位开发者在 RTX 3080 笔记本(16GB 显存+32GB 内存+SSD)上成功运行 Qwen 176B MoE 模型(一种按需激活参数的稀疏架构),解码速度达每秒 11 个 token。关键不是硬件堆料,而是把显存、内存、SSD 当成统一资源调度。我们认为这意味着本地大模型离「真正可用」
阿里开源 7B 图像模型云端试玩不到 5 毛 — 但 32GB 显存墙还在
阿里通义千问开源 7B 图像模型 Qwen-Image-2.1,掘金教程教人用 AutoDL 云端跑通,全流程不到 5 毛。个人尝鲜边际成本接近零,但 32GB 显存门槛说明生产场景仍是另一笔账。
Perplexity 把 Qwen3 改造成专门做判断的模型 — 开源大模型开始卷干实事的能力
AI 搜索公司 Perplexity 这周开源了 Decider 27B,一个基于阿里 Qwen3-27B 微调的「决策模型」。它不擅长聊天写文章,专精做选择题、判断题。这代表开源生态从「比谁更像人」转向「比谁能干具体活」。
1986 年的老电脑跑通了通义千问 — AI 接入的门槛比想象中低
一位硬件爱好者用一张 WiFi 扩展卡把 1986 年的 Tandy 1000 电脑连到本地通义千问大模型,实现聊天和画图。看起来像极客炫技,但值得我们关心的是另一件事:让老旧设备开口用 AI 的成本,现在低到几乎只剩写脚本的时间。
阿里通义千问新模型支持多 Token 预测 — 本地跑大模型速度要追上云端了
本周 llama.cpp 合入对阿里通义千问新模型 Qwen Flash Next 的 MTP 支持。MTP(多 Token 预测)让模型一次生成多个字,推理速度可提升 2-3 倍。我们注意到,本地跑大模型的实用性,正在跨过一道坎。
开源社区把 Qwen 改成代码 Agent 了 — 27B 也能追 GPT 水平
本周 Reddit 开源社区出现一个基于阿里通义千问 Qwen 的社区微调模型 Qwen3.8-27B-pi,主打按问题难度分配推理深度,让 27B 这种中型模型能跑出接近 GPT-4 级的代码 Agent 能力。值得关心的是:过去这种能力几乎只有闭源大模型才有。
千问Qwen压到3-bit还能在家用显卡写代码 — 本地AI开始威胁云端
阿里通义千问团队的Qwen3.8 Flash Next经过极致压缩后,能在消费级显卡上跑Agent(自主执行多步骤任务的AI)写代码。Reddit技术社区正在密集实测。这件事值得关心,是因为它意味着本地部署AI的成本曲线开始变陡,云端API(按调用付费的云服务)的护城河出现裂缝。
Qwen3 27B 跑进 16GB 消费显卡 — 大模型开始走出云端机房
本周一位 Reddit 用户把阿里开源的 27B 模型装进 16GB 消费显卡,跑出 10 万 token 上下文和每秒 30 字生成速度。这意味着家用硬件跑得动大模型从口号走向实测,但离普通人开箱即用仍有距离。
Java 老项目接 AI 真相:主流框架全军覆没,直调 SDK 活下来
千万中国企业的核心系统还跑在 JDK 8 上,想接 AI 却发现主流框架(LangChain4j、Spring AI)一个都用不了。本周掘金一篇实战教程给出的解法是绕过框架直调大厂 SDK,揭示企业级 AI 落地的真实节奏:绿色场地已饱和,老系统改造才是下个战场。