0

0

智谱ChatGLM3本地私有化部署(Linux)

爱谁谁

爱谁谁

发布时间:2025-06-19 16:30:17

|

490人浏览过

|

来源于php中文网

原创

智谱chatglm3本地私有化部署(linux)智谱chatglm3本地私有化部署的环境配置和检查包括以下几个方面:硬件要求、操作系统python环境、gpu支持、依赖库安装、模型下载、配置文件以及测试和验证。确保服务器或计算机满足智谱chatglm3的硬件要求,包括处理器、内存和存储等。支持的操作系统有linuxwindowsmacos,需确保符合智谱chatglm3的要求。安装python并配置相关环境,通常需要python 3.10或更高版本。如果使用gpu进行模型训练和推理,需要安装相应的gpu驱动和cuda工具包,并确保gpu与智谱chatglm3兼容。安装所需的依赖库,如tensorflow、numpy等。下载智谱chatglm3的模型文件,并根据需求修改配置文件。最后,进行测试和验证,确保智谱chatglm3可以正常运行。请注意,具体部署和配置可能会因个人需求和环境而有所差异,建议参考智谱chatglm3的官方文档或开发者指南。

1.1操作系统1.2硬件环境1.3软件环境1.3.1Python环境&检查环境命令Python:可以使用python3.10 --versionpython3.10 -V来检查版本。

智谱ChatGLM3本地私有化部署(Linux)Pip:可以通过pip3.10 --versionpip3.10 -V来检查版本。

智谱ChatGLM3本地私有化部署(Linux)确保python与pip版本一致,可以使用python3.10 -m pip --version来验证,正确的输出如图:

智谱ChatGLM3本地私有化部署(Linux)错误的输出如图:

智谱ChatGLM3本地私有化部署(Linux)2快速使用(推理部署)2.1源码安装与运行2.2克隆代码和模型下载源码模型基础运行代码已经上传到github和SwanHub两个平台,开发者可以通过以下方式下载模型代码。

从github下载源码:

git clone https://github.com/THUDM/ChatGLM3.git

从SwanHub下载源码:

git clone https://swanhub.co/ZhipuAI/ChatGLM3.git

开发者可以通过以下方式下载模型文件。在下载模型文件前,请确保已安装git lfs命令。模型文件已上传至Huggingface、Modelscope和SwanHub三个平台,用户可以快速安装模型。

若使用Huggingface下载模型,Windows的安装命令为git lfs install,Linux的安装命令为:

LogoAi
LogoAi

利用AI来设计你喜欢的Logo和品牌标志

下载
sudo apt-get install git-lfs  # 对于Debian/Ubuntu
sudo yum install git-lfs       # 对于CentOS/RHEL
git lfs version                # 查看版本

若使用Modelscope下载模型:

git lfs install
git clone https://www.modelscope.cn/ZhipuAI/chatglm3-6b.git

若使用SwanHub下载模型:

git lfs install
git clone https://swanhub.co/ZhipuAI/chatglm3-6b.git

2.3检查文件的完整性用户在下载完模型后请检查每个文件的完整性,以下是模型文件的sha256校验码:

# sha256 checksums for chatglm3-6b
4d5567466e89625dbd10e51c69a02982f233a10108cf232a379defdbb065ae0b pytorch_model-00001-of-00007.bin
4ad41534016ac4a2431fa2d4b08efbe28f963744135ec52b2ea13cc86730fa2a pytorch_model-00002-of-00007.bin
a2be9b17c332a8345e787953d4879caee4747ad4b263f013aa3c4654c94c3d24 pytorch_model-00003-of-00007.bin
b5526891e1b4c8edd2e3688df5156aa107e2140fe7e3f9d0d54f9cbe3b6ee3b5 pytorch_model-00004-of-00007.bin
84bb18a476f74beaf4d941733bd1c475791eba799b228f78d0165de989cb7a40 pytorch_model-00005-of-00007.bin
1181875a2dc30fba968d72d0fc4628b9a60d3866bf680eb14b9822b5b504830f pytorch_model-00006-of-00007.bin
1271b638dc0a88206d1c7a51bcaa862410eb56f3e59fd0068a96e96cb5e3f4f0 pytorch_model-00007-of-00007.bin
e7dc4c393423b76e4373e5157ddc34803a0189ba96b21ddbb40269d31468a6f2 tokenizer.model
<h1>sha256 checksums for chatglm3-6b-32k</h1><p>39aeddd81596b2d66d657687a7328ebc7f8850e8ea83fa74080da59f7d2f7afc pytorch_model-00001-of-00007.bin
2525475ea2d483ecc15a15ad4e016ee0155e628ac66f15cd54daa6c811193e92 pytorch_model-00002-of-00007.bin
faa1d884168a125af5105c4ee4c59fdac79f847b35a7389e0122a562995d34db pytorch_model-00003-of-00007.bin
66492c02ed13189202c7e46a121e308cf0ebbcf8141ecf3d551141aecfac7120 pytorch_model-00004-of-00007.bin
870bb2bb4a289b8ab37cce88f56e93381ff428063b3d0065994a3dd2e830cb32 pytorch_model-00005-of-00007.bin
a5f39ca17ba89e47e484d3b20d4ff78f4fb9b1b24bd3dfb314eff91ff6e37230 pytorch_model-00006-of-00007.bin
7c8a8f3e881202ac3a9ab2638ce30147f67d4bd799624c24af66406a6ba22db2 pytorch_model-00007-of-00007.bin
e7dc4c393423b76e4373e5157ddc34803a0189ba96b21ddbb40269d31468a6f2 tokenizer.model</p><h1>sha256 checksums for chatglm3-6b-base</h1><p>b6a6388dae55b598efe76c704e7f017bd84e6f6213466b7686a8f8326f78ab05 pytorch_model-00001-of-00007.bin
2f96bef324acb5c3fe06b7a80f84272fe064d0327cbf14eddfae7af0d665a6ac pytorch_model-00002-of-00007.bin
2400101255213250d9df716f778b7d2325f2fa4a8acaedee788338fceee5b27e pytorch_model-00003-of-00007.bin
472567c1b0e448a19171fbb5b3dab5670426d0a5dfdfd2c3a87a60bb1f96037d pytorch_model-00004-of-00007.bin
ef2aea78fa386168958e5ba42ecf09cbb567ed3e77ce2be990d556b84081e2b9 pytorch_model-00005-of-00007.bin
35191adf21a1ab632c2b175fcbb6c27601150026cb1ed5d602938d825954526f pytorch_model-00006-of-00007.bin
b7cdaa9b8ed183284905c49d19bf42360037fdf2f95acb3093039d3c3a459261 pytorch_model-00007-of-00007.bin
e7dc4c393423b76e4373e5157ddc34803a0189ba96b21ddbb40269d31468a6f2 tokenizer.model

2.4安装依赖可以使用pip安装基本依赖:

cd ChatGLM3
pip install -r requirements.txt

智谱ChatGLM3本地私有化部署(Linux)如果你担心你的配置不满足最低配置,可以访问环境配置和检查获取更多信息。

Linux环境安装cuda:

智谱ChatGLM3本地私有化部署(Linux)智谱ChatGLM3本地私有化部署(Linux)解决方案:升级gpu版本(已安装就卸载掉重新安装)。安装方法:

智谱ChatGLM3本地私有化部署(Linux)2.5运行openai_api_demo目录启动API接口

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
pip安装使用方法
pip安装使用方法

安装步骤:1、确保Python已经正确安装在您的计算机上;2、下载“get-pip.py”脚本;3、按下Win + R键,然后输入cmd并按下Enter键来打开命令行窗口;4、在命令行窗口中,使用cd命令切换到“get-pip.py”所在的目录;5、执行安装命令;6、验证安装结果即可。大家可以访问本专题下的文章,了解pip安装使用方法的更多内容。

373

2023.10.09

更新pip版本
更新pip版本

更新pip版本方法有使用pip自身更新、使用操作系统自带的包管理工具、使用python包管理工具、手动安装最新版本。想了解更多相关的内容,请阅读专题下面的文章。

433

2024.12.20

pip设置清华源
pip设置清华源

设置方法:1、打开终端或命令提示符窗口;2、运行“touch ~/.pip/pip.conf”命令创建一个名为pip的配置文件;3、打开pip.conf文件,然后添加“[global];index-url = https://pypi.tuna.tsinghua.edu.cn/simple”内容,这将把pip的镜像源设置为清华大学的镜像源;4、保存并关闭文件即可。

799

2024.12.23

python升级pip
python升级pip

本专题整合了python升级pip相关教程,阅读下面的文章了解更多详细内容。

370

2025.07.23

硬盘接口类型介绍
硬盘接口类型介绍

硬盘接口类型有IDE、SATA、SCSI、Fibre Channel、USB、eSATA、mSATA、PCIe等等。详细介绍:1、IDE接口是一种并行接口,主要用于连接硬盘和光驱等设备,它主要有两种类型:ATA和ATAPI,IDE接口已经逐渐被SATA接口;2、SATA接口是一种串行接口,相较于IDE接口,它具有更高的传输速度、更低的功耗和更小的体积;3、SCSI接口等等。

1848

2023.10.19

PHP接口编写教程
PHP接口编写教程

本专题整合了PHP接口编写教程,阅读专题下面的文章了解更多详细内容。

614

2025.10.17

php8.4实现接口限流的教程
php8.4实现接口限流的教程

PHP8.4本身不内置限流功能,需借助Redis(令牌桶)或Swoole(漏桶)实现;文件锁因I/O瓶颈、无跨机共享、秒级精度等缺陷不适用高并发场景。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2357

2025.12.29

java接口相关教程
java接口相关教程

本专题整合了java接口相关内容,阅读专题下面的文章了解更多详细内容。

47

2026.01.19

JavaScript浏览器渲染机制与前端性能优化实践
JavaScript浏览器渲染机制与前端性能优化实践

本专题围绕 JavaScript 在浏览器中的执行与渲染机制展开,系统讲解 DOM 构建、CSSOM 解析、重排与重绘原理,以及关键渲染路径优化方法。内容涵盖事件循环机制、异步任务调度、资源加载优化、代码拆分与懒加载等性能优化策略。通过真实前端项目案例,帮助开发者理解浏览器底层工作原理,并掌握提升网页加载速度与交互体验的实用技巧。

23

2026.03.06

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Excel 教程
Excel 教程

共162课时 | 20.5万人学习

php-src源码分析探索
php-src源码分析探索

共6课时 | 0.5万人学习

PHP自制框架
PHP自制框架

共8课时 | 0.6万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号