【大语言模型】10分钟快速了解并部署ChatGLM-6B

ChatGLM-6B介绍

ChatGLM-6B是清华大学知识工程和数据挖掘小组（Knowledge Engineering Group (KEG) & Data Mining at Tsinghua University）发布的一个开源的对话机器人。根据官方介绍，这是一个千亿参数规模的中英文语言模型。并且对中文做了优化。本次开源的版本是其60亿参数的小规模版本，约60亿参数，本地部署仅需要6GB显存（INT4量化级别）。

ChatGLM-6B:https://github.com/THUDM/ChatGLM-6B

ChatGLM-6B具备的能力：

• 自我认知：“你是谁”，“介绍一下你的优点”
• 提纲写作：“帮我写一个介绍ChatGLM的博客提纲”
• 文案写作：“写10条热评文案”
• 信息抽取：“从上述信息中抽取人、时间、事件”

ChatGLM-6B的应用：大语言模型通常基于通识知识进行训练，