百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

零基础也能搞定!DeepSeek大模型本地安装全攻略

itomcoil 2025-02-27 15:34 507 浏览

引言
最近爆火的DeepSeek大模型,能写代码、能聊人生,甚至能帮你写小红书文案!但很多小伙伴卡在了“本地安装”这一步。别慌!今天这篇保姆级教程,
从电脑配置检查到一行代码运行,手把手带你搞定DeepSeek,小白也能无痛上车!

安装前先检查一下自己的电脑的配置,配置不够,千万不要安装


一、安装前必看!你的电脑够“强”吗?

DeepSeek对硬件有一定要求,先对照下表自查(以常用7B聊天版为例):

配置项

最低要求

推荐配置

显卡(关键!)

NVIDIA 10系以上显卡

RTX 3060 12GB/3090 24GB

显存

10GB(量化版)

16GB以上(完整版)

内存

16GB

32GB

硬盘空间

至少30GB剩余空间

SSD固态硬盘更佳

如何查看自己电脑配置?

  • Windows用户:按 Win+R 输入 dxdiag,查看“显示”选项卡中的显存
  • Mac用户:点击左上角苹果图标 → 关于本机 → 系统报告 → 显卡/存储

?划重点:如果显存不足,可用量化版模型(后文会教),8G显存也能跑!


二、准备工作:安装“编程环境”

Step 1:安装Python(不会编程也能装!)

  1. 访问Python官网,下载3.10.x版本(千万别选最新版!)



  1. 安装时务必勾选 Add Python to PATH(如图)

Step 2:安装Conda(管理工具超省心)

  1. 下载 Miniconda(Windows选.exe,Mac选.pkg)

https://docs.anaconda.com/miniconda/

  1. 全部默认设置安装,完成后打开终端/命令提示符,输入:

conda --version # 显示版本号即成功


Step 3:创建独立环境(避免软件冲突)


conda create -n deepseek python=3.10
conda activate deepseek  # 进入专属环境

三、模型安装:两种方法任选

▌方法1:HuggingFace一键下载(需科学上网)



# 安装下载工具
pip install huggingface_hub

# 运行下载代码(替换你的token)
from huggingface_hub import snapshot_download
snapshot_download(
    repo_id="deepseek-ai/deepseek-llm-7b-chat",
    local_dir="./deepseek-7b-chat",
    token="hf_你的令牌"  # 在huggingface.co/settings/tokens获取
)

▌方法2:手动下载(适合网络不稳定)

  1. 访问 DeepSeek官方页面
  2. 找到 deepseek-llm-7b-chat → 点击Files and versions → 下载所有文件
  3. 新建文件夹 deepseek-7b-chat,将下载的文件放入其中
    ?
    必选文件:config.json, model.safetensors, tokenizer.model

四、运行模型:3行代码召唤AI!

基础版代码(适合16GB以上显存)



from transformers import AutoModelForCausalLM, AutoTokenizer
import torch

model = AutoModelForCausalLM.from_pretrained(
    "./deepseek-7b-chat",
    device_map="auto",  # 自动分配GPU/CPU
    torch_dtype=torch.float16  # 半精度节省显存
)
tokenizer = AutoTokenizer.from_pretrained("./deepseek-7b-chat")

# 输入你的问题
question = "用东北话写一首关于秋天的诗"
inputs = tokenizer(question, return_tensors="pt").to("cuda")

# 生成回答
outputs = model.generate(**inputs, max_new_tokens=200)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))

低显存救星:8bit量化(8G显存可用)



model = AutoModelForCausalLM.from_pretrained(
    "./deepseek-7b-chat",
    load_in_8bit=True,  # 开启8bit量化
    device_map="auto"
)

五、常见问题急救包

  1. 报错OutOfMemoryError
  2. 尝试 load_in_4bit=True(需安装bitsandbytes库)
  3. 添加 max_memory="{0:'20GiB', 1:'20GiB'}" 分配多显卡显存
  4. 提示缺少依赖库
  5. pip install bitsandbytes flash-attn # 补充安装常用库
  6. 生成速度太慢
  7. 升级显卡驱动至最新版
  8. 使用 vLLM 加速(安装:pip install vllm)

六、重要提示:

安装过程中遇到问题问Deepseek

相关推荐

Excel新函数TEXTSPLIT太强大了,轻松搞定数据拆分!

我是【桃大喵学习记】,欢迎大家关注哟~,每天为你分享职场办公软件使用技巧干货!最近我把WPS软件升级到了版本号:12.1.0.15990的最新版本,最版本已经支持文本拆分函数TEXTSPLIT了,并...

Excel超强数据拆分函数TEXTSPLIT,从入门到精通!

我是【桃大喵学习记】,欢迎大家关注哟~,每天为你分享职场办公软件使用技巧干货!今天跟大家分享的是Excel超强数据拆分函数TEXTSPLIT,带你从入门到精通!TEXTSPLIT函数真是太强大了,轻松...

看完就会用的C++17特性总结(c++11常用新特性)

作者:taoklin,腾讯WXG后台开发一、简单特性1.namespace嵌套C++17使我们可以更加简洁使用命名空间:2.std::variant升级版的C语言Union在C++17之前,通...

plsql字符串分割浅谈(plsql字符集设置)

工作之中遇到的小问题,在此抛出问题,并给出解决方法。一方面是为了给自己留下深刻印象,另一方面给遇到相似问题的同学一个解决思路。如若其中有写的不好或者不对的地方也请不加不吝赐教,集思广益,共同进步。遇到...

javascript如何分割字符串(javascript切割字符串)

javascript如何分割字符串在JavaScript中,您可以使用字符串的`split()`方法来将一个字符串分割成一个数组。`split()`方法接收一个参数,这个参数指定了分割字符串的方式。如...

TextSplit函数的使用方法(入门+进阶+高级共八种用法10个公式)

在Excel和WPS新增的几十个函数中,如果按实用性+功能性排名,textsplit排第二,无函数敢排第一。因为它不仅使用简单,而且解决了以前用超复杂公式才能搞定的难题。今天小编用10个公式,让你彻底...

Python字符串split()方法使用技巧

在Python中,字符串操作可谓是基础且关键的技能,而今天咱们要重点攻克的“堡垒”——split()方法,它能将看似浑然一体的字符串,按照我们的需求进行拆分,极大地便利了数据处理与文本解析工作。基本语...

go语言中字符串常用的系统函数(golang 字符串)

最近由于工作比较忙,视频有段时间没有更新了,在这里跟大家说声抱歉了,我尽快抽些时间整理下视频今天就发一篇关于go语言的基础知识吧!我这我工作中用到的一些常用函数,汇总出来分享给大家,希望对...

无规律文本拆分,这些函数你得会(没有分隔符没规律数据拆分)

今天文章来源于表格学员训练营群内答疑,混合文本拆分。其实拆分不难,只要规则明确就好办。就怕规则不清晰,或者规则太多。那真是,Oh,mygod.如上图所示进行拆分,文字表达实在是有点难,所以小熊变身灵...

Python之文本解析:字符串格式化的逆操作?

引言前面的文章中,提到了关于Python中字符串中的相关操作,更多地涉及到了字符串的格式化,有些地方也称为字符串插值操作,本质上,就是把多个字符串拼接在一起,以固定的格式呈现。关于字符串的操作,其实还...

忘记【分列】吧,TEXTSPLIT拆分文本好用100倍

函数TEXTSPLIT的作用是:按分隔符将字符串拆分为行或列。仅ExcelM365版本可用。基本应用将A2单元格内容按逗号拆分。=TEXTSPLIT(A2,",")第二参数设置为逗号...

Excel365版本新函数TEXTSPLIT,专攻文本拆分

Excel中字符串的处理,拆分和合并是比较常见的需求。合并,当前最好用的函数非TEXTJOIN不可。拆分,Office365于2022年3月更新了一个专业函数:TEXTSPLIT语法参数:【...

站长在线Python精讲使用正则表达式的split()方法分割字符串详解

欢迎你来到站长在线的站长学堂学习Python知识,本文学习的是《在Python中使用正则表达式的split()方法分割字符串详解》。使用正则表达式分割字符串在Python中使用正则表达式的split(...

Java中字符串分割的方法(java字符串切割方法)

技术背景在Java编程中,经常需要对字符串进行分割操作,例如将一个包含多个信息的字符串按照特定的分隔符拆分成多个子字符串。常见的应用场景包括解析CSV文件、处理网络请求参数等。实现步骤1.使用Str...

因为一个函数strtok踩坑,我被老工程师无情嘲笑了

在用C/C++实现字符串切割中,strtok函数经常用到,其主要作用是按照给定的字符集分隔字符串,并返回各子字符串。但是实际上,可不止有strtok(),还有strtok、strtok_s、strto...