ONNX-Runtime

NVIDIA 开源 AITune：自动为 PyTorch 模型选择最快推理后端

NVIDIA 开源推理优化工具 AITune，可自动对多个推理后端进行基准测试，并为 PyTorch 模型选出最优配置，显著降低工程团队的手动调优成本。