返回首页

FP8

找到 3 篇关于此标签的文章

LocalLLaMA

1 比特量化让本地 AI 圈炸锅 — 精度派和实用派正式对立

一张截图让 Reddit r/LocalLLaMA 板块这周炸锅:跑 FP8/BF16 高精度模型的人,看到有人用 IQ1_S 极低量化(把参数压到 1 比特)跑模型,集体「生理不适」。这场争论折射出 AI 消费化的真实拐点:精度洁癖与普惠实用之间,没有中间地带。

10月3日3 分钟AI财经周刊www.reddit.com