windows从0开始配置llamafactory微调chatglm3-6b

提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档

---

一、准备工作

1、创建python虚拟环境(annoconda)

本篇文章使用的版本信息为：python=3.8.12、pytorch=2.0.1

conda create --name llf python=3.8.12 # 创建指定python版本

2、配置pytorch傻瓜版

pytorch历史版本官网：https://pytorch.org/get-started/previous-versions/

注：傻瓜版，慢！慢！慢！慢是正常现象，可能需要两个多小时，等着人去干点别的事情就行了！！！如果需要可快速完成，可自行在其基础上配置清华源等...

进入创建的虚拟环境，选择后续红色字体的一种选择指令来安装pytorch：

activate llf

我这里使用的是pytorch=2.0.1，CUDA=11.8（我机器的CUDA为12.5，CUDA可由高版本向低版本兼容，查看cuda版本的指令下附）：

第一种选择，使用condazhi指令下载：

# CUDA 11.8
conda install pytorch==2.0.1 torchvision==0.15.2 torchaudio==2.0.2 pytorch-cuda=11.8 -c pytorch -c nvidia

第二种选择，使用condazhi指令下载：

# CUDA 11.8
pip install torch==2.0.1 torchvision==0.15.2 torchaudio==2.0.2 --index-url https://download.pytorch.org/whl/cu118

---

打开任意cmd窗口查看cuda版本：

nvidia-smi

---

成功：

3、llamafactory配置

4、微调数据准备

明天再接着写。。