0

0

快捷部署清华大模型 ChatGLM2-6B,一键搞定 HuggingFace Space 空间

看不見的法師

看不見的法師

发布时间:2025-04-26 12:40:14

|

907人浏览过

|

来源于php中文网

原创

分享一个简便的方法,将 chatglm2-6b 模型快速部署到 huggingface space 在线空间。

01—

在文章《终于部署成功!GPU 云环境搭建 ChatGLM2-6B 坎坷路》中,使用线上云算力资源成功部署了 ChatGLM2-6B 模型,并在最后显示了一行提示:

“This share link expires in 72 hours. For free permanent hosting and GPU upgrades, run gradio deploy from Terminal to deploy to Spaces (https://www.php.cn/link/4b58db5ec33af76c6d9b968cf2c633b1)”

这意味着:“此共享链接将在72小时后过期。为了获得永久的托管和GPU升级,请在终端中运行 gradio deploy 命令,将其部署到 Huggingface 的空间。”

打开命令终端,尝试将模型部署到 Huggingface。

快捷部署清华大模型 ChatGLM2-6B,一键搞定 HuggingFace Space 空间系统提示需要登录到 huggingface_hub 的 token。

访问 Hugging Face 网站,点击个人账户设置(Profile)。

快捷部署清华大模型 ChatGLM2-6B,一键搞定 HuggingFace Space 空间在左侧菜单中找到“Access Tokens”,然后点击“New token”。

快捷部署清华大模型 ChatGLM2-6B,一键搞定 HuggingFace Space 空间我的账户已经创建了一个 token,可以参考《没有硬件资源?免费使用Colab搭建你自己的Stable Diffusion在线模型!保姆级教程》,直接复制使用。

将 token 粘贴到终端窗口,对于询问“Add token as git credential? (Y/n)”,输入“Y”。等待了一段时间后,系统提示:

快捷部署清华大模型 ChatGLM2-6B,一键搞定 HuggingFace Space 空间虽然屏幕上显示了很多信息,但关键的信息只有两个:“Connection aborted.” 和 “Connection reset by peer”。

回想之前部署时,帮助文档中提到了 Huggingface:

快捷部署清华大模型 ChatGLM2-6B,一键搞定 HuggingFace Space 空间估计是无法直接连接了,该怎么办?

02—经过一番思考,我打开了我的PHP中文网账号,咬咬牙,购买了一个月的硅谷云服务器。

快捷部署清华大模型 ChatGLM2-6B,一键搞定 HuggingFace Space 空间通过终端登录,克隆 ChatGLM2-6B 仓库,然后执行 gradio deploy 命令。

出乎意料的是,同样遇到了连接错误。看来即使服务器地址不同,依然执行了相同的网络策略。真是让人沮丧!

虽然部署看起来简单,只需要一行命令,但因为网络连接问题,进展陷入了僵局。

询问 ChatGLM,看看是否有好的解决方案。

快捷部署清华大模型 ChatGLM2-6B,一键搞定 HuggingFace Space 空间ChatGLM2-6B 的建议似乎很合理,国产之光,ChatGPT 国内的替代品名副其实。有兴趣的朋友可以查看 ChatGLM2-6B 的初体验。

最后想到,既然是执行发布命令,连接到 Huggingface Space 空间进行操作,那么将仓库克隆到本地电脑(有代理),再执行发布命令,是不是可行?

宣小二
宣小二

宣小二:媒体发稿平台,自媒体发稿平台,短视频矩阵发布平台,基于AI驱动的企业自助式投放平台。

下载

快捷部署清华大模型 ChatGLM2-6B,一键搞定 HuggingFace Space 空间这个方案成功了,命令行下执行完 git 克隆命令,输入 token 后,顺利进入下一步。部署命令 “gradio deploy” 将在 Huggingface 上创建你的仓库空间:

Creating new Spaces Repo in '/Users/huangyong/Documents/ChatGLM2-6B'

请记住,在回答后续问题时,除了硬件配置以外,其他都可以回车采用默认值。

Enter Spaces hardware (cpu-basic, cpu-upgrade, t4-small, t4-medium, a10g-small, a10g-large, a100-large) [cpu-basic]:

这里需要输入:t4-medium,才能让 ChatGLM2-6B 运行起来。

(查看 ChatGLM-6B 官方文档,有量化模型的设置,猜测可以让更少的硬件也能运行起来,但我没有仔细研究。)

第一次运行时,我按了回车,选择了默认的 cpu-basic 硬件配置,结果模型无法运行。

如果直接输入:t4-medium,系统会提示需要添加一个支付方式:You must add a payment method to your account。

快捷部署清华大模型 ChatGLM2-6B,一键搞定 HuggingFace Space 空间当时我没有关注这条提示信息,直接使用基本配置 cpu-basic 进行部署,结果失败了。

快捷部署清华大模型 ChatGLM2-6B,一键搞定 HuggingFace Space 空间RuntimeError:Found no NVIDIA driver。

如果硬件配置选择 t4-small,会卡在第5个 Checkpoint。

快捷部署清华大模型 ChatGLM2-6B,一键搞定 HuggingFace Space 空间没有任何错误提示,也卡在这里让我郁闷了很久。最后猜测是不是硬件资源中内存不够,将空间升级到 medium 后,就能顺利运行了。

快捷部署清华大模型 ChatGLM2-6B,一键搞定 HuggingFace Space 空间启动后,点击右上角的:“App”。

快捷部署清华大模型 ChatGLM2-6B,一键搞定 HuggingFace Space 空间Huggingface Space 提供一个永久的空间地址供访问:

https://www.php.cn/link/4b58db5ec33af76c6d9b968cf2c633b1/foghuang/ChatGLM2-6B

在 Space 上还有很多有趣的,使用人工智能模型的应用,大家有兴趣可以点开试用。像下面的第一个就是文本和语音互转的应用。

https://www.php.cn/link/4b58db5ec33af76c6d9b968cf2c633b1

快捷部署清华大模型 ChatGLM2-6B,一键搞定 HuggingFace Space 空间03—Huggingface Space 部署总结:

注册 Huggingface 账号;添加 token;添加支付方式,国内借记卡和信用卡均可;确保能访问 Huggingface 的环境;默认情况下,硬件最小配置选择: t4-medium;启动成功后,点击 space 的 App,可以看到运行界面;Huggingface 提供永久地址,可以让应用被外部用户访问。

相关专题

更多
php文件怎么打开
php文件怎么打开

打开php文件步骤:1、选择文本编辑器;2、在选择的文本编辑器中,创建一个新的文件,并将其保存为.php文件;3、在创建的PHP文件中,编写PHP代码;4、要在本地计算机上运行PHP文件,需要设置一个服务器环境;5、安装服务器环境后,需要将PHP文件放入服务器目录中;6、一旦将PHP文件放入服务器目录中,就可以通过浏览器来运行它。

2698

2023.09.01

php怎么取出数组的前几个元素
php怎么取出数组的前几个元素

取出php数组的前几个元素的方法有使用array_slice()函数、使用array_splice()函数、使用循环遍历、使用array_slice()函数和array_values()函数等。本专题为大家提供php数组相关的文章、下载、课程内容,供大家免费下载体验。

1665

2023.10.11

php反序列化失败怎么办
php反序列化失败怎么办

php反序列化失败的解决办法检查序列化数据。检查类定义、检查错误日志、更新PHP版本和应用安全措施等。本专题为大家提供php反序列化相关的文章、下载、课程内容,供大家免费下载体验。

1527

2023.10.11

php怎么连接mssql数据库
php怎么连接mssql数据库

连接方法:1、通过mssql_系列函数;2、通过sqlsrv_系列函数;3、通过odbc方式连接;4、通过PDO方式;5、通过COM方式连接。想了解php怎么连接mssql数据库的详细内容,可以访问下面的文章。

974

2023.10.23

php连接mssql数据库的方法
php连接mssql数据库的方法

php连接mssql数据库的方法有使用PHP的MSSQL扩展、使用PDO等。想了解更多php连接mssql数据库相关内容,可以阅读本专题下面的文章。

1443

2023.10.23

html怎么上传
html怎么上传

html通过使用HTML表单、JavaScript和PHP上传。更多关于html的问题详细请看本专题下面的文章。php中文网欢迎大家前来学习。

1235

2023.11.03

PHP出现乱码怎么解决
PHP出现乱码怎么解决

PHP出现乱码可以通过修改PHP文件头部的字符编码设置、检查PHP文件的编码格式、检查数据库连接设置和检查HTML页面的字符编码设置来解决。更多关于php乱码的问题详情请看本专题下面的文章。php中文网欢迎大家前来学习。

1509

2023.11.09

php文件怎么在手机上打开
php文件怎么在手机上打开

php文件在手机上打开需要在手机上搭建一个能够运行php的服务器环境,并将php文件上传到服务器上。再在手机上的浏览器中输入服务器的IP地址或域名,加上php文件的路径,即可打开php文件并查看其内容。更多关于php相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

1306

2023.11.13

Java JVM 原理与性能调优实战
Java JVM 原理与性能调优实战

本专题系统讲解 Java 虚拟机(JVM)的核心工作原理与性能调优方法,包括 JVM 内存结构、对象创建与回收流程、垃圾回收器(Serial、CMS、G1、ZGC)对比分析、常见内存泄漏与性能瓶颈排查,以及 JVM 参数调优与监控工具(jstat、jmap、jvisualvm)的实战使用。通过真实案例,帮助学习者掌握 Java 应用在生产环境中的性能分析与优化能力。

19

2026.01.20

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Django 教程
Django 教程

共28课时 | 3.3万人学习

Go 教程
Go 教程

共32课时 | 4万人学习

TypeScript 教程
TypeScript 教程

共19课时 | 2.3万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号