Forlinx
Forlinx 把 20 TOPS 塞进 M.2 插槽 — 本地大模型开始走出机房
瑞芯微方案的 Forlinx M.2 AI 加速卡做到 20 TOPS 算力,支持 PCIe 级联,可本地跑大模型和多模态任务。本地推理对企业意味着数据合规和长期成本的新选项,是 IT 决策者值得留意的硬件动向。
找到 2 篇关于此标签的文章
瑞芯微方案的 Forlinx M.2 AI 加速卡做到 20 TOPS 算力,支持 PCIe 级联,可本地跑大模型和多模态任务。本地推理对企业意味着数据合规和长期成本的新选项,是 IT 决策者值得留意的硬件动向。
一名开发者这周在瑞芯微 RK3588 + OpenHarmony 6.1 上跑通了 mobilenet_v1 端侧推理测试。技术含量不高,但「国产芯片 + 国产系统 + 端侧 AI」三件事第一次在同一块板子上完整跑通,值得拆解信号。