TensorRT

找到 4 篇关于此标签的文章

NVIDIA

NVIDIA 把 AI 跑进 RTX 显卡——云端之外的本地战场正式开打

NVIDIA 推出一组开源 C++ 工具，把训练好的 AI 模型直接装进 RTX 显卡本地跑、不必走云端。这件事让「本地 AI」从概念变成可落地的工程选项，对企业 IT 选型有直接影响。

10月1日3 分钟AI财经周刊developer.nvidia.com

NVIDIA

NVIDIA 这周开源了 TensorRT Model Connect，一套 C++ 写的 AI 模型部署参考实现。值得关心的不是工具本身，而是它从第一天起就按「AI 编程助手是主要贡献者」来设计架构——这是 AI 原生开发范式的一个早期样本，传统公司可以从中看到未来几年软件工程长什么样。

9月29日4 分钟AI财经周刊developer.nvidia.com

NVIDIA

英伟达新发布 TensorRT Model Connect，让开源大模型从训练到上线只需两条命令。值得关心的是：当 GPU 不再稀缺，「让 AI 真正跑起来」本身正在变成一门新生意。

8月28日3 分钟AI财经周刊developer.nvidia.com

NVIDIA

NVIDIA 开源推理优化工具 AITune，可自动对多个推理后端进行基准测试，并为 PyTorch 模型选出最优配置，显著降低工程团队的手动调优成本。

4月12日6 分钟opcnew 编辑部www.reddit.com