DeepSeek
DeepSeek V4.1 Flash 在四张 3090 上跑出 30—40 tokens 每秒,本地部署门槛仍然偏高
Reddit 用户披露,使用四张 NVIDIA RTX 3090、256GB 内存和开源推理引擎 Maya,DeepSeek V4.1 Flash 在 52.4 万上下文下解码速度达到每秒 30—40 tokens。成绩说明本地模型正在接近可用,但硬件、上下文长度与部署复杂度仍是普通企业难以绕开的门
找到 2 篇关于此标签的文章
Reddit 用户披露,使用四张 NVIDIA RTX 3090、256GB 内存和开源推理引擎 Maya,DeepSeek V4.1 Flash 在 52.4 万上下文下解码速度达到每秒 30—40 tokens。成绩说明本地模型正在接近可用,但硬件、上下文长度与部署复杂度仍是普通企业难以绕开的门
独立研究者发布 Oneiros 项目,尝试用李代数与微分几何处理连续序列,并公开论文和代码。它值得关注,因为基础模型架构创新仍可能来自小团队;但目前材料有限,尚不能据此判断其性能或商业价值。