NVIDIATensorRT
NVIDIA 把开源模型部署压成两条命令 — 算力之外，便利就是新生意
英伟达新发布 TensorRT Model Connect，让开源大模型从训练到上线只需两条命令。值得关心的是：当 GPU 不再稀缺，「让 AI 真正跑起来」本身正在变成一门新生意。
1d ago·2 分钟
NVIDIAAITune
NVIDIA 开源 AITune：自动为 PyTorch 模型选择最快推理后端
NVIDIA 开源推理优化工具 AITune，可自动对多个推理后端进行基准测试，并为 PyTorch 模型选出最优配置，显著降低工程团队的手动调优成本。
Apr 12·2 分钟
