4070Super安装GPU版本pytorch记录

一些啐啐念。 安装LLaMA-Factory时遇到pytorch安装成CPU版本。网上找了一圈攻略，都是下载龟速。挂梯子也一样。最后在尝试用pytorch官网的生成的命令进行安装时，突然奇想，直接把安装日志显示的下载链接复制到浏览器下载，发现可以满速下载（需挂梯子）。（估计是代理的模式不能加速命令终端的下载？？） pytorch.org/get-started/locally/#windows-verification

注意1：以下教程安装的 CUDA 并非系统级 CUDA（System-Wide CUDA）。如果您不清楚什么是系统级 CUDA，请查看教程 NVIDIA CUDA Toolkit 与 PyTorch 安装中的 CUDA 的区别。 docs.infini-ai /posts/where-is-cuda.html 注意2：PyTorch 提供了带有 CUDA 和 cuDNN 支持的预编译版本。不需要另外再安装CUDA Toolkit 和cuDNN。

一、查看显卡CUDA版本

方法一：在cmd用命令查看

nvidia-smi

方法二：在NVIDIA控制面板查看系统信息-组件-3D设置。

二、在Pytorch官网获取安装命令行。

pytorch.org/get-started/locally/#windows-verification

卸载CPU版本并重新安装GPU版本的Pytorch

先卸载CPU版本。

pip uninstall torch

再粘贴官网的命令

pip3 install torch torchvision torchaudio --index-url download.pytorch.org/whl/cu126

download.pytorch.org/whl/cu126/torch-2.6.0%2Bcu126-cp310-cp310-win_amd64.whl#sha256=eda7768f0a2ad9da3513abf60ff5c13049e7e2ec74ed4cfcd4736a8523ab1f89

重新安装Pytorch。

pip install "E:\Python Wheel\torch-2.6.0+cu126-cp310-cp310-win_amd64.whl"

校验是否安装的GPU版本。

import torch print(torch.cuda.is_available()) print("CUDA Version:", torch.version.cuda) print(torch.cuda.get_device_name(0))

同时对LLaMA-Factory的基础安装做一下校验，输入以下命令获取训练相关的参数指导, 否则说明库还没有安装成功

# 安装命令 pip install -e .[metrics] # 校验命令 llamafactory-cli train -h # 模型训练全链路的一站式WebUI board llamafactory-cli webui

总算配置完成了！！！