MLX

找到 5 篇关于此标签的文章

Ollama 让 Mac 一行命令跑本地大模型 — 个人电脑正成为 AI 新入口

Ollama 是开源本地大模型部署工具，一行命令即可在 Mac 运行通义千问、DeepSeek 等，整合苹果 MLX 后推理速度翻倍。当本地部署门槛降到装个 App 的程度，数据不上云的 AI 使用方式可能真正普及。

开源项目 DFlash 在 M5 Max 上借助 MLX 实现 Qwen3.5-9B 推理 4.13 倍加速，token 接受率高达 89.4%。

Apple's privacy-first, on-device AI stack may become the default for builders who need inference without cloud costs .

Google's Gemma 4 E2B model can transcribe audio locally on macOS using MLX and a single uv run command.

开源 macOS 助手 Hitoku 支持 Gemma 4 与 Qwen 3.5 完全本地运行，可感知屏幕内容与文档上下文，数据不出本机。