‹ 返回笔记 Esc·

大语言模型 命令

查看显卡使用情况 --- 命令行下载大模型

查看显卡使用情况

1nvidia-smi
2
3sudo apt install nvtop
4nvtop
5
6sudo apt install radeontop
7radeontop

命令行下载大模型

1hf download [model_name]    # uv tool install “hf”
2ms download [model_name]    # uv tool install “modelscope”
1export HF_ENDPOINT=https://hf-mirror.com # 不要开终端代理