百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

零基础也能搞定!DeepSeek大模型本地安装全攻略

itomcoil 2025-02-27 15:34 545 浏览

引言
最近爆火的DeepSeek大模型,能写代码、能聊人生,甚至能帮你写小红书文案!但很多小伙伴卡在了“本地安装”这一步。别慌!今天这篇保姆级教程,
从电脑配置检查到一行代码运行,手把手带你搞定DeepSeek,小白也能无痛上车!

安装前先检查一下自己的电脑的配置,配置不够,千万不要安装


一、安装前必看!你的电脑够“强”吗?

DeepSeek对硬件有一定要求,先对照下表自查(以常用7B聊天版为例):

配置项

最低要求

推荐配置

显卡(关键!)

NVIDIA 10系以上显卡

RTX 3060 12GB/3090 24GB

显存

10GB(量化版)

16GB以上(完整版)

内存

16GB

32GB

硬盘空间

至少30GB剩余空间

SSD固态硬盘更佳

如何查看自己电脑配置?

  • Windows用户:按 Win+R 输入 dxdiag,查看“显示”选项卡中的显存
  • Mac用户:点击左上角苹果图标 → 关于本机 → 系统报告 → 显卡/存储

?划重点:如果显存不足,可用量化版模型(后文会教),8G显存也能跑!


二、准备工作:安装“编程环境”

Step 1:安装Python(不会编程也能装!)

  1. 访问Python官网,下载3.10.x版本(千万别选最新版!)



  1. 安装时务必勾选 Add Python to PATH(如图)

Step 2:安装Conda(管理工具超省心)

  1. 下载 Miniconda(Windows选.exe,Mac选.pkg)

https://docs.anaconda.com/miniconda/

  1. 全部默认设置安装,完成后打开终端/命令提示符,输入:

conda --version # 显示版本号即成功


Step 3:创建独立环境(避免软件冲突)


conda create -n deepseek python=3.10
conda activate deepseek  # 进入专属环境

三、模型安装:两种方法任选

▌方法1:HuggingFace一键下载(需科学上网)



# 安装下载工具
pip install huggingface_hub

# 运行下载代码(替换你的token)
from huggingface_hub import snapshot_download
snapshot_download(
    repo_id="deepseek-ai/deepseek-llm-7b-chat",
    local_dir="./deepseek-7b-chat",
    token="hf_你的令牌"  # 在huggingface.co/settings/tokens获取
)

▌方法2:手动下载(适合网络不稳定)

  1. 访问 DeepSeek官方页面
  2. 找到 deepseek-llm-7b-chat → 点击Files and versions → 下载所有文件
  3. 新建文件夹 deepseek-7b-chat,将下载的文件放入其中
    ?
    必选文件:config.json, model.safetensors, tokenizer.model

四、运行模型:3行代码召唤AI!

基础版代码(适合16GB以上显存)



from transformers import AutoModelForCausalLM, AutoTokenizer
import torch

model = AutoModelForCausalLM.from_pretrained(
    "./deepseek-7b-chat",
    device_map="auto",  # 自动分配GPU/CPU
    torch_dtype=torch.float16  # 半精度节省显存
)
tokenizer = AutoTokenizer.from_pretrained("./deepseek-7b-chat")

# 输入你的问题
question = "用东北话写一首关于秋天的诗"
inputs = tokenizer(question, return_tensors="pt").to("cuda")

# 生成回答
outputs = model.generate(**inputs, max_new_tokens=200)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))

低显存救星:8bit量化(8G显存可用)



model = AutoModelForCausalLM.from_pretrained(
    "./deepseek-7b-chat",
    load_in_8bit=True,  # 开启8bit量化
    device_map="auto"
)

五、常见问题急救包

  1. 报错OutOfMemoryError
  2. 尝试 load_in_4bit=True(需安装bitsandbytes库)
  3. 添加 max_memory="{0:'20GiB', 1:'20GiB'}" 分配多显卡显存
  4. 提示缺少依赖库
  5. pip install bitsandbytes flash-attn # 补充安装常用库
  6. 生成速度太慢
  7. 升级显卡驱动至最新版
  8. 使用 vLLM 加速(安装:pip install vllm)

六、重要提示:

安装过程中遇到问题问Deepseek

相关推荐

Python Qt GUI设计:将UI文件转换Python文件三种妙招(基础篇—2)

在开始本文之前提醒各位朋友,Python记得安装PyQt5库文件,Python语言功能很强,但是Python自带的GUI开发库Tkinter功能很弱,难以开发出专业的GUI。好在Python语言的开放...

Connect 2.0来了,还有Nuke和Maya新集成

ftrackConnect2.0现在可以下载了--重新设计的桌面应用程序,使用户能够将ftrackStudio与创意应用程序集成,发布资产等。这个新版本的发布中还有两个Nuke和Maya新集成,...

Magicgui:不会GUI编程也能轻松构建Python GUI应用

什么是MagicguiMagicgui是一个Python库,它允许开发者仅凭简单的类型注解就能快速构建图形用户界面(GUI)应用程序。这个库基于Napari项目,利用了Python的强大类型系统,使得...

Python入坑系列:桌面GUI开发之Pyside6

阅读本章之后,你可以掌握这些内容:Pyside6的SignalsandSlots、Envents的作用,如何使用?PySide6的Window、DialogsandAlerts、Widgets...

Python入坑系列-一起认识Pyside6 designer可拖拽桌面GUI

通过本文章,你可以了解一下内容:如何安装和使用Pyside6designerdesigner有哪些的特性通过designer如何转成python代码以前以为Pyside6designer需要在下载...

pyside2的基础界面(pyside2显示图片)

今天我们来学习pyside2的基础界面没有安装过pyside2的小伙伴可以看主页代码效果...

Python GUI开发:打包PySide2应用(python 打包pyc)

之前的文章我们介绍了怎么使用PySide2来开发一个简单PythonGUI应用。这次我们来将上次完成的代码打包。我们使用pyinstaller。注意,pyinstaller默认会将所有安装的pack...

使用PySide2做窗体,到底是怎么个事?看这个能不能搞懂

PySide2是Qt框架的Python绑定,允许你使用Python创建功能强大的跨平台GUI应用程序。PySide2的基本使用方法:安装PySide2pipinstallPy...

pycharm中conda解释器无法配置(pycharm安装的解释器不能用)

之前用的好好的pycharm正常配置解释器突然不能用了?可以显示有这个环境然后确认后可以conda正在配置解释器,但是进度条结束后还是不成功!!试过了pycharm重启,pycharm重装,anaco...

Conda使用指南:从基础操作到Llama-Factory大模型微调环境搭建

Conda虚拟环境在Linux下的全面使用指南:从基础操作到Llama-Factory大模型微调环境搭建在当今的AI开发与数据分析领域,conda虚拟环境已成为Linux系统下管理项目依赖的标配工具。...

Python操作系统资源管理与监控(python调用资源管理器)

在现代计算环境中,对操作系统资源的有效管理和监控是确保应用程序性能和系统稳定性的关键。Python凭借其丰富的标准库和第三方扩展,提供了强大的工具来实现这一目标。本文将探讨Python在操作系统资源管...

本地部署开源版Manus+DeepSeek创建自己的AI智能体

1、下载安装Anaconda,设置conda环境变量,并使用conda创建python3.12虚拟环境。2、从OpenManus仓库下载代码,并安装需要的依赖。3、使用Ollama加载本地DeepSe...

一文教会你,搭建AI模型训练与微调环境,包学会的!

一、硬件要求显卡配置:需要Nvidia显卡,至少配备8G显存,且专用显存与共享显存之和需大于20G。二、环境搭建步骤1.设置文件存储路径非系统盘存储:建议将非安装版的环境文件均存放在非系统盘(如E盘...

使用scikit-learn为PyTorch 模型进行超参数网格搜索

scikit-learn是Python中最好的机器学习库,而PyTorch又为我们构建模型提供了方便的操作,能否将它们的优点整合起来呢?在本文中,我们将介绍如何使用scikit-learn中的网格搜...

如何Keras自动编码器给极端罕见事件分类

全文共7940字,预计学习时长30分钟或更长本文将以一家造纸厂的生产为例,介绍如何使用自动编码器构建罕见事件分类器。现实生活中罕见事件的数据集:背景1.什么是极端罕见事件?在罕见事件问题中,数据集是...