TensorRT:TensorRT是一个C ++库用于在NVIDIA GPU和深度学习加速器上进行高性能推理 源码

TensorRT开源软件 该存储库包含NVIDIA TensorRT的开源软件(OSS)组件。 其中包括TensorRT插件和解析器(Caffe和ONNX)的资源,以及演示TensorRT平台的用法和功能的示例应用程序。 这些开源软件组件是TensorRT General Availability(GA)版本的子集,具有某些扩展和错误修复。 有关对TensorRT-OSS的代码贡献,请参阅我们的和。 有关TensorRT-OSS版本附带的新增功能和更新的摘要,请参阅 。 建立 先决条件 要构建TensorRT-OSS组件,您首先需要以下软件包。 TensorRT GA构建 v7.2.1