混合专家

千亿参数大模型跑进 16GB 显卡 — 云端算力的定价要被重新讨论

一个开源团队把 1770 亿参数大模型塞进 16GB 消费级显卡加 SSD，跑出每秒 9-10 个 token。这不只是技术炫技，而是大模型硬件门槛正在悄悄下沉的一个信号。