当前位置: fuhua-pet->优技培训 > Linux下搭建本地deepseek(附文档下载)

Linux下搭建本地deepseek(附文档下载)

2025-04-16作者:firstyuding来源:www.firstyuding.com

简单测试了一下在linux上搭建本地deepseek,需要用到:linux、ollama、chatboxai

1、 下载安装ollama ollama 是一款开源应用,可让你在 Windows、MacOS 和 Linux 上使用命令行界面在本地运行、创建和共享大型语言模型。

网址:https://ollama.com

1.1、 首页找到下载【Download】-【Linux】

1.2、 在linux下执行命令

curl -fsSL https://ollama.com/install.sh | sh

安装完成,可以输入 ollama --version 来检验是否安装成功,如果正确安装则会输出所安装 ollama 的版本号。

如果安装过程中出现警告信息,可根据提示安装需要的安装包、或者给运行需要的权限等方法解决。

2、 下载安装deepseek模型

同样在ollama的网站,在导航上找到【Models】,选择【deepseek-r1】模型,选择【1.5b】做测试,表示该模型有 15 亿个参数。

3、 下载并执行deepseek模型

ollama run deepseek-r1:1.5b

1.5b有1.1个G大小,需要下载一段时间,也可以把命令中的“run”换成“pull”,支持断点续传。

如果看到 success 字样也就说明模型下载完成了,执行命令ollama list可查看 ollama 目前所下载的模型列表。

4、 下载chatbox:

Chatbox AI 是一款 AI 客户端应用和智能助手,支持众多先进的 AI 模型和 API,可在 Windows、MacOS、Android、iOS、Linux 和网页版上使用。 地址:https://chatboxai.app/zh/

可以选择下载客户端到本地,或者直接在网页上访问,如果是本地大模型部署,选择前者。

5、 配置环境变量

在linux服务器端配置ollama服务。

5.1、修改/etc/systemd/system/ollama.service.d/override.conf文件

[Unit]

Description=Ollama Service

After=network-online.target

[Service]

#ExecStart=/usr/local/bin/ollama serve #屏蔽掉此行

User=ollama

Group=ollama

Restart=always

RestartSec=3

Environment="PATH=/usr/local/mysql8.0.30/bin:/home/gptt/myvenv/bin:/home/gptt/.local/bin:/home/gptt/anaconda3/bin:/home/gptt/anacond" #这个自动获取

Environment="OLLAMA_HOST=0.0.0.0"

Environment="OLLAMA_ORIGINS=*"

5.2、重启ollama服务

systemctl daemon-reload

systemctl restart ollama.service

systemctl status ollama.service

查看端口状态,默认监听11434端口:

ss -tulnp

6、 配置chatbox

如果模型一开始不能显示,可以配置到第3步时先保存再设置就可以看到了,因为只有连接到本地大模型后才可以显示。

7、 开始对话

本次服务器配置比较简单,cpu为4核,内存8g,无gpu,在回答时有点滞后,但是还是可以接受的。

8、 相关网址

linux下搭建本地deepseek.docx

链接: https://pan.baidu.com/s/12eto-TO8-OaYl0j3ZEJRlg

提取码: jwgk

ollama:https://ollama.com

chatboxai:https://chatboxai.app/zh

  • 2024到2025年,国家对发展信创产业的支持有哪些方面
  • 2025年3月28日PostgreSQL认证纸质版证书!
  • 2025年3月28日李同学PGCP认证纸质证书
  • 2025年3月28日李同学PostgreSQL中级认证证书
  • 2025年3月28日乔同学PostgreSQL管理员中级认证
  • 2025年3月28日孙同学PGCP管理员中级认证
  • 2025年3月28日夏同学PostgreSQL认证纸质证书
  • 2025年3月28日徐同学PG管理员认证中级证书
  • 2025年3月28日徐同学PostgreSQL中级认证纸质证书
  • 2025年3月28日周同学PostgreSQL高级证书
  • PostgreSQL技术大讲堂 - 第82讲,主题:数据安全利器--密码安全策略构建
  • PostgreSQL技术大讲堂 - 第83讲,数据安全利器--密码安全策略构建二
  • PostgreSQL技术大讲堂 - 第84讲:重讲PostgreSQL流复制部署
  • PostgreSQL技术大讲堂 - 第85讲:重讲pg流复制管理利器repmgr应用实践
  • PostgreSQL技术大讲堂 - 第86讲:数据安全之--data_checksums天使与魔鬼
  • PostgreSQL考试认证中心收费标准
  • PostgreSQL与Oracle数据库相比有什么优势
  • 2025年3月28日杜同学PGCM高级认证证书
  • 官网查询,2025年3月份PostgreSQL认证电子版证书!
  • 去IOE为什么用PostgreSQL替代Oracle数据库
  • 信创产业选择PostgreSQL数据库为作突破口的原因
  • 中国PostgreSQL考试认证体系
  • PostgreSQL技术大讲堂 - 第87讲:重讲系统安全和数据库安全
  • PostgreSQL认证培训推荐机构
  • Oracle OCM证书有效期3年?这是个假消息
  • Oracle OCP证书有效期3年?与官方人员确认这是个假消息
  • 2025年4月中国数据库流行度排行榜:OceanBase超过PolarDB登顶
  • Apache Doris数据库
  • 2025年3月22日,CUUG张同学获得MySQL8.0认证证书
  • Linux下搭建本地deepseek(附文档下载)
  • 加新题了,MySQL 8.0 OCP 认证考试 题库更新
  • 2月22日,工信部人才交流中心 & CUUG - PGCP-PGCM认证考试完成!
  • 考OCP认证要交哪些费用
  • Oracle OCP认证没落了吗
  • openGauss数据库
  • PingCAP TiDB数据库
  • TDengine时序数据库
  • 阿里云AnalyticDB云原生数据仓库
  • 阿里云云原生数据库PolarDB
  • 奥星贝斯OceanBase数据库
  • 达梦数据库管理系统DM8
  • 电科金仓KingbaseES数据库管理系统
  • 华为GaussDB云数据库
  • 金篆信科GoldenDB数据库
  • 浪潮KaiwuDB数据库
  • 南大通用GBASE数据库
  • 腾讯云分布式数据库TDSQL
  • 羲和 (Halo) 数据库
  • 崖山 (YashanDB) 数据库
  • 亚信安慧AntDB数据库