0

0

本地部署阉割版DeepSeek或其他大模型的方法

爱谁谁

爱谁谁

发布时间:2025-04-23 19:10:23

|

433人浏览过

|

来源于php中文网

原创

  本文介绍在windows电脑中,本地部署deepseek等大模型的方法。

  在2025年的年初,DeepSeek横空出世,很多人都第一时间在电脑中本地部署了它(因为官网确实太卡了,经常服务器超时);我当初也部署了一个,但是部署之后发现很鸡肋:因为只要是在自己电脑上部署的DeepSeek,那么大家肯定选择的就不是其参数数量最多的671b版本(因为这个版本对硬件的要求实在是太高了);而除了这个版本之外,用其他几个参数版本部署的所谓本地DeepSeek,都不是满血版,而是阉割版——这个阉割版,除了会think一下显得很高级之外,感觉完全没有通义等其他免费浏览器直接访问的大模型好用。

  所以,我当初部署完之后,也一直没有将这个部署过程发出来;但是最近周末正好有空,就还是记录一下(虽然网上已经很多同类的帖子了——但其中不少帖子连自己部署的不是满血版这个事情都说不清楚),如果确实有需要本地部署(比如内网环境使用),或者后期又有其他新的开源大模型需要本地部署尝鲜的,还是可以参考。

  首先,需要下载管理、运行大型语言模型的工具Ollama,其可以帮助我们更容易地在本地或云端环境中加载、运行和测试这些大模型。我们直接进入其官方网站(https://ollama.com/)来下载即可。

  进入上述网站,点击“Download”图标,如下图所示。

本地部署阉割版DeepSeek或其他大模型的方法

  随后,选择自己电脑操作系统对应的版本,如下图所示。

本地部署阉割版DeepSeek或其他大模型的方法

  我这里下载的是Windows版本的。下载完成后,将得到一个.exe格式的安装包,如下图所示。

本地部署阉割版DeepSeek或其他大模型的方法

  双击其即可开始安装Ollama,如下图所示。其中,具体安装过程,大家就按照流程提示来操作即可,这里不再赘述。

本地部署阉割版DeepSeek或其他大模型的方法

  安装完成后,可能找不到Ollama的窗口,此时可以在电脑右下角找到其图标,如下图所示。

本地部署阉割版DeepSeek或其他大模型的方法

  此外,也可以在开始菜单看到其图标,如下图所示。

本地部署阉割版DeepSeek或其他大模型的方法

  随后,我们即可开始下载开源的DeepSeek。在年初DeepSeek爆火后,Ollama官网也直接接入了其下载入口,所以我们可以还回到Ollama的官方网站(https://ollama.com/),并点击左上角的“Models”,如下图所示。

本地部署阉割版DeepSeek或其他大模型的方法

  随后,找到其中的DeepSeek,如下图所示。

本地部署阉割版DeepSeek或其他大模型的方法

  接下来,选择我们需要的版本,如下图所示。其中,不同版本的名称就是其参数数量;满血版的DeepSeek就是最下面的671b版本,而其他参数数量少一些的版本,就是阉割的版本。建议大家按照自己的电脑配置,选择其中的7b8b版本即可——我当时用了一台配置还算可以,但是已经用了六、七年的笔记本电脑,运行8b版本就非常卡顿了。

本地部署阉割版DeepSeek或其他大模型的方法

  选择版本后,点击下图中右侧的那个标志,即可开始下载。

本地部署阉割版DeepSeek或其他大模型的方法

  下载完成后,Ollama会自动识别到我们的下载,并将其安装、部署到我们本机。我们此时只需要在命令行中,输入如下代码,即可开始运行上述我们下载好的DeepSeek。

代码语言:javascript代码运行次数:0运行复制
ollama run deepseek-r1:8b

  其中,deepseek-r1:8b就是我前面下载的8b版本的DeepSeek;如果大家下载的是其他参数的版本,或者下载的是其他开源的大模型,那么就需要修改一下代码。

论论App
论论App

AI文献搜索、学术讨论平台,涵盖了各类学术期刊、学位、会议论文,助力科研。

下载

  运行上述代码,如下图所示。

本地部署阉割版DeepSeek或其他大模型的方法

  稍等片刻,等待所有进度条完成,就可以在命令行中,和自己本地部署的DeepSeek交流了,如下图所示。

本地部署阉割版DeepSeek或其他大模型的方法

  但是此时,我们只能在命令行中与大模型互动(因为Ollama自身是没有桌面窗口的);如果希望可以有一个更加可视化的互动界面,我们可以再安装支持在桌面窗口中与大模型交流的工具。

  我一开始是准备用Cherry Studio这个工具的,如下图所示。

本地部署阉割版DeepSeek或其他大模型的方法

  但是,不知道为什么,我当初在其官网一直没有办法下载软件,如下图所示。

本地部署阉割版DeepSeek或其他大模型的方法

  所以,就选择用另一个工具Chatbox AI了。还是一样的,访问其官方网站(https://chatboxai.app/en),并选择下载,如下图所示。

本地部署阉割版DeepSeek或其他大模型的方法

  下载后,同样得到一个.exe格式的安装包,如下图所示。

本地部署阉割版DeepSeek或其他大模型的方法

  随后,双击其开始安装,如下图所示。

本地部署阉割版DeepSeek或其他大模型的方法

  安装完毕后,打开它并选择“使用自己的 API Key 或本地模型”,如下图所示。

本地部署阉割版DeepSeek或其他大模型的方法

  在其中,注意选择“Ollama API”而不是直接选择“DeepSeek API”,如下图所示。因为我们前面是基于Ollama部署的DeepSeek,相当于加了一层中转,所以如果直接选择“DeepSeek API”的话,Chatbox AI是识别不到的。

本地部署阉割版DeepSeek或其他大模型的方法

  随后,选择我们所下载的模型,如下图所示。

本地部署阉割版DeepSeek或其他大模型的方法

  接下来,就可以在Chatbox AI中,用可视化的方法,与DeepSeek交流了,如下图所示。

本地部署阉割版DeepSeek或其他大模型的方法

  至此,大功告成。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
windows查看端口占用情况
windows查看端口占用情况

Windows端口可以认为是计算机与外界通讯交流的出入口。逻辑意义上的端口一般是指TCP/IP协议中的端口,端口号的范围从0到65535,比如用于浏览网页服务的80端口,用于FTP服务的21端口等等。怎么查看windows端口占用情况呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

810

2023.07.26

查看端口占用情况windows
查看端口占用情况windows

端口占用是指与端口关联的软件占用端口而使得其他应用程序无法使用这些端口,端口占用问题是计算机系统编程领域的一个常见问题,端口占用的根本原因可能是操作系统的一些错误,服务器也可能会出现端口占用问题。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

1129

2023.07.27

windows照片无法显示
windows照片无法显示

当我们尝试打开一张图片时,可能会出现一个错误提示,提示说"Windows照片查看器无法显示此图片,因为计算机上的可用内存不足",本专题为大家提供windows照片无法显示相关的文章,帮助大家解决该问题。

804

2023.08.01

windows查看端口被占用的情况
windows查看端口被占用的情况

windows查看端口被占用的情况的方法:1、使用Windows自带的资源监视器;2、使用命令提示符查看端口信息;3、使用任务管理器查看占用端口的进程。本专题为大家提供windows查看端口被占用的情况的相关的文章、下载、课程内容,供大家免费下载体验。

454

2023.08.02

windows无法访问共享电脑
windows无法访问共享电脑

在现代社会中,共享电脑是办公室和家庭的重要组成部分。然而,有时我们可能会遇到Windows无法访问共享电脑的问题。这个问题可能会导致数据无法共享,影响工作和生活的正常进行。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2355

2023.08.08

windows自动更新
windows自动更新

Windows操作系统的自动更新功能可以确保系统及时获取最新的补丁和安全更新,以提高系统的稳定性和安全性。然而,有时候我们可能希望暂时或永久地关闭Windows的自动更新功能。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

824

2023.08.10

windows boot manager
windows boot manager

windows boot manager无法开机的解决方法:1、系统文件损坏,使用Windows安装光盘或USB启动盘进入恢复环境,选择修复计算机,然后选择自动修复;2、引导顺序错误,进入恢复环境,选择命令提示符,输入命令"bootrec /fixboot"和"bootrec /fixmbr",然后重新启动计算机;3、硬件问题,使用硬盘检测工具进行扫描和修复;4、重装操作系统。本专题还提供其他解决

1667

2023.08.28

windows锁屏快捷键
windows锁屏快捷键

windows锁屏快捷键是Windows键+L、Ctrl+Alt+Del、Windows键+D、Windows键+P和Windows键+R。本专题为大家提供windows相关的文章、下载、课程内容,供大家免费下载体验。

1640

2023.08.30

2026赚钱平台入口大全
2026赚钱平台入口大全

2026年最新赚钱平台入口汇总,涵盖任务众包、内容创作、电商运营、技能变现等多类正规渠道,助你轻松开启副业增收之路。阅读专题下面的文章了解更多详细内容。

33

2026.01.31

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
PostgreSQL 教程
PostgreSQL 教程

共48课时 | 8.2万人学习

Excel 教程
Excel 教程

共162课时 | 14.6万人学习

PHP基础入门课程
PHP基础入门课程

共33课时 | 2万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号