ChatGLM3-6B模型微调笔记（Linux版）

前言

1.多的不说，少的不孬，先上微调完成之后截图，学完记得点赞

项目地址：https://github.com/THUDM/ChatGLM3

魔塔社区：https://modelscope.cn

软件:pytorch2.1.2 tensorflow2.14.0 py310

硬件：内存32G以上（最低）（微调：24G，精调32-64G不等） GPU 1*NVIDIA V100 显存16G以上（最低）

服务器：阿里云（https://pai.console.aliyun.com/（免费3个月领取）） 腾讯云，AutoDL(https://www.autodl.com/【便宜适用】)

mkdir models
cd models
 
apt update
apt install git-lfs
 
# 克隆chatGLM3-6b大模型
git clone https://www.modelscope.cn/ZhipuAI/chatglm3-6b.git

                 mkdir webcodes
cd webcodes
 
# 下载chatglm3-6b web_demo项目
git clone https://github.com/THUDM/ChatGLM3.git

# 安装依赖
pip install -r requirements.txt

       

# 小黑窗启动命令
python cli_demo.py

# 网页端启动
streamlit run web_demo_streamlit.py

看到一下界面就表示启动成功了，可以正常聊天了

网页版我就不演示了，使用阿里云的启动访问不了，不知道为啥（解决不了），腾讯云可以访问，访问不了的自己打开一下安全组