大语言模型 命令
查看显卡使用情况 --- 命令行下载大模型
查看显卡使用情况
1nvidia-smi
2
3sudo apt install nvtop
4nvtop
5
6sudo apt install radeontop
7radeontop
命令行下载大模型
1hf download [model_name] # uv tool install “hf”
2ms download [model_name] # uv tool install “modelscope”
1export HF_ENDPOINT=https://hf-mirror.com # 不要开终端代理