【Windows 開發環境設定——NVIDIA 篇】CUDA、cuDNN、TensorRT 三件套安裝

CUDA

從CUDA Toolkit Archive下載相應版本的離線安裝包，這裡以11.7為例。

開啟安裝包，在安裝選項選擇自定義模式，點選下一步。

在自定義安裝選項中，僅選擇CUDA元件（其中Nsight相關元件用於程式碼偵錯與效能分析），若未安裝顯示卡驅動，選擇NVIDIA GeForce Experience components並點選下一步。

可能會出現如下圖提示，警告你未安裝Visual Studio (可參考【Windows 開發環境設定——C++ 篇】VSCode+MSVC/MinGW/Clangd/LLDB+Xmake 安裝)，這裡打勾點選下一步即可。

安裝完成後會自動新增到系統的PATH環境變數，無需手動新增。

cuDNN

從cuDNN Archive下載相應版本的安裝包，這裡以8.4.1.50為例。

下載完成後，將解壓縮包中的檔案複製到C:\Program Files\NVIDIA GPU Computing Toolkit\cuDNN\v8.4.1.50目錄下。

將C:\Program Files\NVIDIA GPU Computing Toolkit\cuDNN\v8.4.1.50\bin新增到系統的PATH環境變數。

Zlib

Zlib是cuDNN所需的資料壓縮軟體庫。在ZLib網站下載32bit或64bit的zlib123dll.zip（一般為64bit）。

下載完成後，將解壓縮包中的zlibwapi.dll檔案複製到C:\Program Files\NVIDIA GPU Computing Toolkit\cuDNN\v8.4.1.50\bin目錄下，zlibwapi.lib檔案複製到C:\Program Files\NVIDIA GPU Computing Toolkit\cuDNN\v8.4.1.50\lib目錄下。

TensorRT

從NVIDIA TensorRT 8.x Download下載相應版本的安裝包，這裡以8.4.2.4為例。

下載完成後，將解壓縮包中的檔案複製到C:\Program Files\NVIDIA GPU Computing Toolkit\TensorRT\v8.4.2.4目錄下。

將C:\Program Files\NVIDIA GPU Computing Toolkit\TensorRT\v8.4.2.4\bin新增到系統的PATH環境變數。

TensorRT Python 包安裝

在終端開啟C:\Program Files\NVIDIA GPU Computing Toolkit\TensorRT\v8.4.2.4\python目錄，以python 3.10為例，輸入pip install tensorrt-8.4.2.4-cp310-none-win_amd64.whl即可安裝。

ONNX GraphSurgeon 包安裝

在終端開啟C:\Program Files\NVIDIA GPU Computing Toolkit\TensorRT\v8.4.2.4\onnx_graphsurgeon目錄，輸入pip install onnx_graphsurgeon-0.3.12-py2.py3-none-any.whl即可安裝。