本项目是NVIDIA TensorRT的中文版开发手册, 有个人翻译并添加自己的理解。
目录:
摘要: 本 NVIDIA TensorRT 开发人员指南演示了如何使用 C++ 和 Python API 来实现最常见的深度学习网络层。 它展示了如何获取使用深度学习框架构建的现有模型并使用提供的解析器构建 TensorRT 引擎。 开发者指南还提供了常见用户任务的分步说明,例如创建 TensorRT 网络定义、调用 TensorRT 构建器、序列化和反序列化,以及如何为引擎提供数据和执行推理; 同时使用 C++ 或 Python API。
有关之前发布的 TensorRT 开发人员文档,请参阅 TensorRT 档案。