ChatGLM-6B中英双语对话大模型Windows本地部署实战
目录
智谱清言
ChatGLM简介
ChatGLM下载
硬件需求
Conda环境
下载代码
下载模型
部署测试
网页版Demo
命令行Demo
API方式部署
低成本部署
智谱清言
智谱清言是北京智谱华章科技有限公司研发的大模型。智谱AI致力于打造新一代认知智能大模型，专注于做大模型的中国创新。 公司于2020年底研发GLM预训练架构，2021年训练完成百亿参数模型GLM-10B，利用MoE架构成功训练出收敛的万亿稀疏模型，2022年合作研发了中英双语千亿级超大规模预训练模型GLM-130B。2023 年，智谱 AI 推出千亿基座对话模型ChatGLM并两次升级，开源版本的 ChatGLM-6B 使得研究者和个人开发者进行本地微调和部署成为可能。
2024年1月，智谱AI推出新一代基座大模型GLM-4，整体性能相比上一代大幅提升，支持更长上下文，具备更强多模态能力，推理速度更快，支持更高并发，大大降低推理成本。 GLM-4智能体能力得到大幅提升，可根据用户意图，自动理解、规划指令以完成复杂任务。GLMs 个性化智能体定制功能亦同时上线，用户用简单提示词指令即能创建属于自己的 GLM 智能体，由此任何人都能实现大模型的便捷开发。
基于全自研基座大模型的强大能力，智谱AI构建了极具竞争力的AIGC模型产品矩阵，包括AI提效助手智谱清言、高效率代码模型CodeGeeX、多模态理解模型CogVLM和文生图模型CogView等。
智谱AI践行Model as a Service 市场理念，致力于打造