ISTA-DASLab
量化模型榜单再现复现争议，成绩差异开始比参数更重要
ISTA-DASLab 发布的量化模型基准成绩受到质疑，Unsloth 与 Basalt 开发者称使用同规格模型测试时结果更优。争议焦点不是单一模型胜负，而是缺少公开方法与可复现数据，使榜单难以成为可靠选型依据。
返回首页
ISTA-DASLab
找到 4 篇关于此标签的文章
Qwen
本地大模型逼近前沿水平，硬件门槛却在快速下降
Qwen、Unsloth 与 ISTA-DASLab 正在推动本地大模型小型化和量化部署，部分接近前沿模型能力的系统已能运行在消费级硬件上。值得关注的不只是性能提升，还包括数据隐私、离线使用与本地开发成本下降。
Strata
消费级笔记本跑大模型速度又翻倍 — 但离替代云端还有多远
一个叫 Strata 的推理引擎把消费级笔记本跑 Qwen3-8B 的速度从 23 t/s 拉到 51 t/s，是 llama.cpp 的两倍多。值得关心的是：本地 AI 跑生产力的临界点是否正在接近。
Qwen
阿里通义千问被压到 10GB — 小尺寸跑出原版质量,本地 AI 又进一步
奥地利 ISTA-DASLab 实验室把阿里通义千问系列一个 270 亿参数（27B）模型压到 10GB（普通 U 盘大小），成绩还能和原版几乎打平。本地 AI 又向前跨了一步——企业可以不用云端、不上传数据，部署一个够用的 AI。