DeepSeek
DeepSeek V4.1 Flash 在四张 3090 上跑出 30—40 tokens 每秒,本地部署门槛仍然偏高
Reddit 用户披露,使用四张 NVIDIA RTX 3090、256GB 内存和开源推理引擎 Maya,DeepSeek V4.1 Flash 在 52.4 万上下文下解码速度达到每秒 30—40 tokens。成绩说明本地模型正在接近可用,但硬件、上下文长度与部署复杂度仍是普通企业难以绕开的门
找到 1 篇关于此标签的文章
Reddit 用户披露,使用四张 NVIDIA RTX 3090、256GB 内存和开源推理引擎 Maya,DeepSeek V4.1 Flash 在 52.4 万上下文下解码速度达到每秒 30—40 tokens。成绩说明本地模型正在接近可用,但硬件、上下文长度与部署复杂度仍是普通企业难以绕开的门