How can I use GPU mode with source code?

[dahaigui]

I want to use the source code to call the GPU to run, what exactly should I do?

[CVHub520]

Hi, @dahaigui, you can refer to this docs.

[dahaigui]

改好了之后在我导入模型的时候报错“ImportError: DLL load failed while importing onnxruntime_pybind11_state: 动态链接库(DLL)初始化例程失败。”，这个是什么原因导致的？

[CVHub520]

如果您希望利用 GPU 进行模型推理加速，请务必确保本地 CUDA 版本与 onnxruntime-gpu 版本兼容，以确保顺利调用显卡。有关详细信息，请参考官方文档。