Strata
Strata 让大模型借助硬盘运行,普通电脑开始接近本地 AI
开源项目 Strata 通过把暂时用不到的大模型部分转移到 SSD,让搭载 64GB 内存的 MacBook 运行 Qwen Flash Next 达到约 24 token/s。它释放了本地模型的硬件门槛,但速度与稳定性仍不能等同于云端前沿模型。
找到 1 篇关于此标签的文章
开源项目 Strata 通过把暂时用不到的大模型部分转移到 SSD,让搭载 64GB 内存的 MacBook 运行 Qwen Flash Next 达到约 24 token/s。它释放了本地模型的硬件门槛,但速度与稳定性仍不能等同于云端前沿模型。