THU 【通览一百个大模型】GLM( 二 ) _模型

2.1 硬件需求量化等级最低 GPU 显存（推理）最低 GPU 显存（高效参数微调）
FP16（无量化）
13 GB
14 GB
INT8
8 GB
9 GB
INT4
6 GB
7 GB
环境安装
【THU【通览一百个大模型】GLM】

文章插图
使用 pip 安装依赖：pip-r .txt ，其中库版本推荐为 4.27.1 ，但理论上不低于 4.23.1 即可。
此外，如果需要在 cpu 上运行量化后的模型，还需要安装 gcc 与。多数 Linux 发行版默认已安装。对于，可在安装 TDM-GCC 时勾选。测试环境 gcc 版本为 TDM-GCC 10.3.0 ， Linux 为 gcc 11.3.0 。在 MacOS 上请参考 Q1 。
2.2 代码调用

>>> from transformers import AutoTokenizer, AutoModel>>> tokenizer = AutoTokenizer.from_pretrained("THUDM/chatglm-6b", trust_remote_code=True)>>> model = AutoModel.from_pretrained("THUDM/chatglm-6b", trust_remote_code=True).half().cuda()>>> model = model.eval()>>> response, history = model.chat(tokenizer, "你好", history=[])>>> print(response)你好!我是人工智能助手 ChatGLM-6B,很高兴见到你,欢迎问我任何问题 。>>> response, history = model.chat(tokenizer, "晚上睡不着应该怎么办", history=history)>>> print(response)晚上睡不着可能会让你感到焦虑或不舒服,但以下是一些可以帮助你入睡的方法:1. 制定规律的睡眠时间表:保持规律的睡眠时间表可以帮助你建立健康的睡眠习惯,使你更容易入睡 。尽量在每天的相同时间上床,并在同一时间起床 。2. 创造一个舒适的睡眠环境:确保睡眠环境舒适,安静,黑暗且温度适宜 。可以使用舒适的床上用品,并保持房间通风 。3. 放松身心:在睡前做些放松的活动,例如泡个热水澡,听些轻柔的音乐,阅读一些有趣的书籍等,有助于缓解紧张和焦虑,使你更容易入睡 。4. 避免饮用含有咖啡因的饮料:咖啡因是一种刺激性物质,会影响你的睡眠质量 。尽量避免在睡前饮用含有咖啡因的饮料,例如咖啡,茶和可乐 。5. 避免在床上做与睡眠无关的事情:在床上做些与睡眠无关的事情,例如看电影,玩游戏或工作等,可能会干扰你的睡眠 。6. 尝试呼吸技巧:深呼吸是一种放松技巧,可以帮助你缓解紧张和焦虑,使你更容易入睡 。试着慢慢吸气,保持几秒钟,然后缓慢呼气 。如果这些方法无法帮助你入睡,你可以考虑咨询医生或睡眠专家,寻求进一步的建议 。

2.3 从本地加载模型
以上代码会由自动下载模型实现和参数。完整的模型实现可以在Face Hub 。如果你的网络环境较差，下载模型参数可能会花费较长时间甚至失败。此时可以先将模型下载到本地，然后从本地加载。
从Face Hub 下载模型需要先安装Git LFS ，然后运行
git clone
如果你从Face Hub 上下载的速度较慢，可以只下载模型实现
=1 git clone
然后从这里手动下载模型参数文件，并将下载的文件替换到本地的 -6b 目录下。
将模型下载到本地之后，将以上代码中的 THUDM/-6b 替换为你本地的 -6b 文件夹的路径，即可从本地加载模型。
2.4 微调-6B（1）基于进行参数有效性训练
官网已经给出了一种基于P- V2的参数有效性微调，详见：。
使用自己的训练数据
修改 train.sh 和 .sh 中的、和为你自己的 JSON 格式数据集路径，并将和改为 JSON 文件中输入文本和输出文本对应的 KEY 。可能还需要增大和来匹配你自己的数据集中的最大输入输出长度。
对话数据集