0

0

快捷部署清华大模型 ChatGLM2-6B,一键搞定 HuggingFace Space 空间

看不見的法師

看不見的法師

发布时间:2025-04-26 12:40:14

|

907人浏览过

|

来源于php中文网

原创

分享一个简便的方法,将 chatglm2-6b 模型快速部署到 huggingface space 在线空间。

01—

在文章《终于部署成功!GPU 云环境搭建 ChatGLM2-6B 坎坷路》中,使用线上云算力资源成功部署了 ChatGLM2-6B 模型,并在最后显示了一行提示:

“This share link expires in 72 hours. For free permanent hosting and GPU upgrades, run gradio deploy from Terminal to deploy to Spaces (https://www.php.cn/link/4b58db5ec33af76c6d9b968cf2c633b1)”

这意味着:“此共享链接将在72小时后过期。为了获得永久的托管和GPU升级,请在终端中运行 gradio deploy 命令,将其部署到 Huggingface 的空间。”

打开命令终端,尝试将模型部署到 Huggingface。

快捷部署清华大模型 ChatGLM2-6B,一键搞定 HuggingFace Space 空间系统提示需要登录到 huggingface_hub 的 token。

访问 Hugging Face 网站,点击个人账户设置(Profile)。

快捷部署清华大模型 ChatGLM2-6B,一键搞定 HuggingFace Space 空间在左侧菜单中找到“Access Tokens”,然后点击“New token”。

快捷部署清华大模型 ChatGLM2-6B,一键搞定 HuggingFace Space 空间我的账户已经创建了一个 token,可以参考《没有硬件资源?免费使用Colab搭建你自己的Stable Diffusion在线模型!保姆级教程》,直接复制使用。

将 token 粘贴到终端窗口,对于询问“Add token as git credential? (Y/n)”,输入“Y”。等待了一段时间后,系统提示:

快捷部署清华大模型 ChatGLM2-6B,一键搞定 HuggingFace Space 空间虽然屏幕上显示了很多信息,但关键的信息只有两个:“Connection aborted.” 和 “Connection reset by peer”。

回想之前部署时,帮助文档中提到了 Huggingface:

快捷部署清华大模型 ChatGLM2-6B,一键搞定 HuggingFace Space 空间估计是无法直接连接了,该怎么办?

02—经过一番思考,我打开了我的PHP中文网账号,咬咬牙,购买了一个月的硅谷云服务器。

快捷部署清华大模型 ChatGLM2-6B,一键搞定 HuggingFace Space 空间通过终端登录,克隆 ChatGLM2-6B 仓库,然后执行 gradio deploy 命令。

出乎意料的是,同样遇到了连接错误。看来即使服务器地址不同,依然执行了相同的网络策略。真是让人沮丧!

虽然部署看起来简单,只需要一行命令,但因为网络连接问题,进展陷入了僵局。

询问 ChatGLM,看看是否有好的解决方案。

快捷部署清华大模型 ChatGLM2-6B,一键搞定 HuggingFace Space 空间ChatGLM2-6B 的建议似乎很合理,国产之光,ChatGPT 国内的替代品名副其实。有兴趣的朋友可以查看 ChatGLM2-6B 的初体验。

最后想到,既然是执行发布命令,连接到 Huggingface Space 空间进行操作,那么将仓库克隆到本地电脑(有代理),再执行发布命令,是不是可行?

触站AI
触站AI

专业的中文版AI绘画生成平台

下载

快捷部署清华大模型 ChatGLM2-6B,一键搞定 HuggingFace Space 空间这个方案成功了,命令行下执行完 git 克隆命令,输入 token 后,顺利进入下一步。部署命令 “gradio deploy” 将在 Huggingface 上创建你的仓库空间:

Creating new Spaces Repo in '/Users/huangyong/Documents/ChatGLM2-6B'

请记住,在回答后续问题时,除了硬件配置以外,其他都可以回车采用默认值。

Enter Spaces hardware (cpu-basic, cpu-upgrade, t4-small, t4-medium, a10g-small, a10g-large, a100-large) [cpu-basic]:

这里需要输入:t4-medium,才能让 ChatGLM2-6B 运行起来。

(查看 ChatGLM-6B 官方文档,有量化模型的设置,猜测可以让更少的硬件也能运行起来,但我没有仔细研究。)

第一次运行时,我按了回车,选择了默认的 cpu-basic 硬件配置,结果模型无法运行。

如果直接输入:t4-medium,系统会提示需要添加一个支付方式:You must add a payment method to your account。

快捷部署清华大模型 ChatGLM2-6B,一键搞定 HuggingFace Space 空间当时我没有关注这条提示信息,直接使用基本配置 cpu-basic 进行部署,结果失败了。

快捷部署清华大模型 ChatGLM2-6B,一键搞定 HuggingFace Space 空间RuntimeError:Found no NVIDIA driver。

如果硬件配置选择 t4-small,会卡在第5个 Checkpoint。

快捷部署清华大模型 ChatGLM2-6B,一键搞定 HuggingFace Space 空间没有任何错误提示,也卡在这里让我郁闷了很久。最后猜测是不是硬件资源中内存不够,将空间升级到 medium 后,就能顺利运行了。

快捷部署清华大模型 ChatGLM2-6B,一键搞定 HuggingFace Space 空间启动后,点击右上角的:“App”。

快捷部署清华大模型 ChatGLM2-6B,一键搞定 HuggingFace Space 空间Huggingface Space 提供一个永久的空间地址供访问:

https://www.php.cn/link/4b58db5ec33af76c6d9b968cf2c633b1/foghuang/ChatGLM2-6B

在 Space 上还有很多有趣的,使用人工智能模型的应用,大家有兴趣可以点开试用。像下面的第一个就是文本和语音互转的应用。

https://www.php.cn/link/4b58db5ec33af76c6d9b968cf2c633b1

快捷部署清华大模型 ChatGLM2-6B,一键搞定 HuggingFace Space 空间03—Huggingface Space 部署总结:

注册 Huggingface 账号;添加 token;添加支付方式,国内借记卡和信用卡均可;确保能访问 Huggingface 的环境;默认情况下,硬件最小配置选择: t4-medium;启动成功后,点击 space 的 App,可以看到运行界面;Huggingface 提供永久地址,可以让应用被外部用户访问。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

WorkBuddy
WorkBuddy

腾讯云推出的AI原生桌面智能体工作台

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
登录token无效
登录token无效

登录token无效解决方法:1、检查token的有效期限,如果token已经过期,需要重新获取一个新的token;2、检查token的签名,如果签名不正确,需要重新获取一个新的token;3、检查密钥的正确性,如果密钥不正确,需要重新获取一个新的token;4、使用HTTPS协议传输token,建议使用HTTPS协议进行传输 ;5、使用双因素认证,双因素认证可以提高账户的安全性。

6609

2023.09.14

登录token无效怎么办
登录token无效怎么办

登录token无效的解决办法有检查Token是否过期、检查Token是否正确、检查Token是否被篡改、检查Token是否与用户匹配、清除缓存或Cookie、检查网络连接和服务器状态、重新登录或请求新的Token、联系技术支持或开发人员等。本专题为大家提供token相关的文章、下载、课程内容,供大家免费下载体验。

842

2023.09.14

token怎么获取
token怎么获取

获取token值的方法:1、小程序调用“wx.login()”获取 临时登录凭证code,并回传到开发者服务器;2、开发者服务器以code换取,用户唯一标识openid和会话密钥“session_key”。想了解更详细的内容,可以阅读本专题下面的文章。

1092

2023.12.21

token什么意思
token什么意思

token是一种用于表示用户权限、记录交易信息、支付虚拟货币的数字货币。可以用来在特定的网络上进行交易,用来购买或出售特定的虚拟货币,也可以用来支付特定的服务费用。想了解更多token什么意思的相关内容可以访问本专题下面的文章。

2189

2024.03.01

自建git服务器
自建git服务器

git服务器是目前流行的分布式版本控制系统之一,可以让多人协同开发同一个项目。本专题为大家提供自建git服务器相关的各种文章、以及下载和课程。

979

2023.07.05

git和svn的区别
git和svn的区别

git和svn的区别:1、定义不同;2、模型类型不同;3、存储单元不同;4、是否拥有全局版本号;5、内容完整性不同;6、版本库不同;7、克隆目录速度不同;8、分支不同。php中文网为大家带来了git和svn的相关知识、以及相关文章等内容。

581

2023.07.06

git撤销提交的commit
git撤销提交的commit

Git是一个强大的版本控制系统,它提供了很多功能帮助开发人员有效地管理和控制代码的变更,本专题为大家提供git 撤销提交的commit相关的各种文章内容,供大家免费下载体验。

275

2023.07.24

git提交错误怎么撤回
git提交错误怎么撤回

git提交错误撤回的方法:git reset head^:撤回最后一次提交,恢复到提交前状态。git revert head:创建新提交,内容与之前提交相反。git reset :使用提交的 sha-1 哈希撤回指定提交。交互式舞台区:标记要撤回的特定更改,然后提交,排除已撤回更改。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

568

2024.04.09

Python异步编程与Asyncio高并发应用实践
Python异步编程与Asyncio高并发应用实践

本专题围绕 Python 异步编程模型展开,深入讲解 Asyncio 框架的核心原理与应用实践。内容包括事件循环机制、协程任务调度、异步 IO 处理以及并发任务管理策略。通过构建高并发网络请求与异步数据处理案例,帮助开发者掌握 Python 在高并发场景中的高效开发方法,并提升系统资源利用率与整体运行性能。

37

2026.03.12

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
【web前端】Node.js快速入门
【web前端】Node.js快速入门

共16课时 | 2.1万人学习

swoole进程树解析
swoole进程树解析

共4课时 | 0.2万人学习

ThinkPHP6.x 微实战--十天技能课堂
ThinkPHP6.x 微实战--十天技能课堂

共26课时 | 1.8万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号