NVIDIA
NVIDIA 把 AI 跑进 RTX 显卡——云端之外的本地战场正式开打
NVIDIA 推出一组开源 C++ 工具,把训练好的 AI 模型直接装进 RTX 显卡本地跑、不必走云端。这件事让「本地 AI」从概念变成可落地的工程选项,对企业 IT 选型有直接影响。
找到 4 篇关于此标签的文章
NVIDIA 推出一组开源 C++ 工具,把训练好的 AI 模型直接装进 RTX 显卡本地跑、不必走云端。这件事让「本地 AI」从概念变成可落地的工程选项,对企业 IT 选型有直接影响。
一个开源小模型专门做文档分类,关键不是它能分多准,而是它会主动说'这份不属于任何类'。背后趋势值得关心:小而专的本地 AI 正在蚕食大模型的部分场景。
一位开发者把 LivePortrait 做成蒸馏模型后,已能在浏览器里实现约 25 帧实时生成。这不只是一次技术演示,更说明 AI 视频与数字人能力,正在从昂贵的云端服务转向可嵌入网页、本地运行的产品功能。
Pocket TTS 发布多语言模型,社区开发者完成 ONNX 量化适配,中端手机芯片延迟仅 100ms。开源 TTS 正从"技术演示"进入"本地可用"阶段,值得关注其对云服务依赖的削弱。