返回首页
SYCL
找到 2 篇关于此标签的文章
Intelllama.cpp
有人用 Intel 显卡跑本地大模型 — AI 算力开始绕开英伟达
本周 Reddit 上一位玩家用 Intel Arc 显卡和 SYCL 后端跑通了本地大模型推理。社区共识:英伟达 CUDA 生态之外,本地 AI 多了一条可走的路,但离成熟还远。
8月16日2 分钟
llama.cppIntel Arc
llama.cpp Q8_0 通过 SYCL 修复在 Intel Arc GPU 上实现 3.1 倍加速
一段 200 行的 SYCL 补丁修复了 Q8_0 缺失的重排序优化,使 Intel Arc B70 的吞吐量从 4.88 t/s 提升至 15.24 t/s。
4月6日2 分钟