百度360必应搜狗淘宝本站头条
0xalinux查看python版本信息python怎么改成中文python安装opencv库1到10的阶乘之和是多少
当前位置：网站首页 > 技术文章 > 正文

Windows系统本地部署DeepSeek及和其他应用结合教程

itomcoil 2025-03-19 13:34 22 浏览

一、DeepSeek 本地部署

1. 环境准备

  • 硬件要求：
    • GPU（可选但推荐）：NVIDIA GPU（需支持 CUDA 11.8 或更高版本），显存 ≥ 16GB（如 RTX 3090/4090）。
    • CPU：Intel/AMD 多核处理器（若仅用 CPU，需高性能 CPU 如 i7/i9 或 Ryzen 7/9）。
    • 内存：≥ 32GB（模型加载需要较大内存）。
    • 硬盘空间：≥ 100GB（模型文件约 30-70GB，需预留缓存空间）。
  • 软件依赖：
    • Python 3.8+：从 Python 官网 安装，勾选 Add Python to PATH。
    • Git 和 Git LFS：下载 Git for Windows，安装时勾选 Git LFS。
    • CUDA 和 cuDNN（仅 GPU 用户）：
      • 安装 CUDA Toolkit 11.8。
      • 下载 cuDNN 8.9.x 并解压到 CUDA 安装目录。
    • PyTorch（带 CUDA 支持）：

2. 下载 DeepSeek 模型

  • 通过 Hugging Face 下载：
  • 打开 PowerShell 或 CMD，执行以下命令：
  • 下载完成后，模型文件保存在 deepseek-llm 文件夹中（约 30-70GB）。
  • 国内用户加速下载（可选）：
    • 使用镜像源（如 HF Mirror）：

3. 安装 Python 依赖

4. 运行 DeepSeek

创建测试脚本 run_deepseek.py：

运行脚本：

  • 常见问题：
    • 内存不足：添加 load_in_4bit=True 或 load_in_8bit=True 参数（需 bitsandbytes 库）。
    • 仅用 CPU：添加 device_map="cpu" 和 torch_dtype=torch.float32。

二、与其他应用结合使用

1. 编程场景

  • 与 VSCode 集成：
  • 安装 VSCode Python 扩展。
  • 编写代码调用 DeepSeek 的 API：

输出结果：

与 Jupyter Notebook 集成：

  1. 安装 Jupyter：

2.在 Notebook 中直接调用模型生成代码解释或数据分析脚本。

2. 办公场景

  • 与 Word/Excel 集成：
  • 自动化文档生成：
    • 使用 python-docx 库将模型输出写入 Word：

Excel 数据分析：

  • 结合 pandas 和 DeepSeek：

与 Outlook 集成：

3. 其他场景

  • 聊天机器人：
    • 使用 Flask 搭建 API：
  • 通过前端网页或 Discord/Slack 机器人调用 API。

游戏开发：

  • 在 Unity 中调用 Python 脚本生成剧情：

三、注意事项

硬件限制：模型推理需大量资源，GPU 用户优先使用 fp16 或量化（4bit/8bit）模式。

模型安全：避免处理敏感数据，建议在内网环境部署。

性能优化：

使用 vLLM 或 TGI 框架加速推理。

启用 Flash Attention 2（需 GPU 支持）。

附：常用命令速查

通过以上步骤，您可以在 Windows 10 系统上高效部署 DeepSeek，并与编程、办公等场景无缝结合。

相关推荐

python创建文件夹，轻松搞定，喝咖啡去了

最近经常在录视频课程，一个课程下面往往有许多小课，需要分多个文件夹来放视频、PPT和案例，这下可好了，一个一个手工创建，手酸了都做不完。别急，来段PYTHON代码，轻松搞定，喝咖啡去了！import...

如何编写第一个Python程序_pycharm写第一个python程序

一、第一个python程序[掌握]python:python解释器,将python代码解释成计算机认识的语言pycharm:IDE(集成开发环境),写代码的一个软件,集成了写代码,...

Python文件怎么打包为exe程序?_python3.8打包成exe文件

PyInstaller是一个Python应用程序打包工具，它可以将Python程序打包为单个独立可执行文件。要使用PyInstaller打包Python程序，需要在命令行中使用py...

官方的Python环境_python环境版本

Python是一种解释型编程开发语言，根据Python语法编写出来的程序，需要经过Python解释器来进行执行。打开Python官网（https://www.python.org），找到下载页面，选择...

[编程基础] Python配置文件读取库ConfigParser总结

PythonConfigParser教程显示了如何使用ConfigParser在Python中使用配置文件。文章目录1介绍1.1PythonConfigParser读取文件1.2Python...

Python打包exe软件，用这个库真的很容易

初学Python的人会觉得开发一个exe软件非常复杂，其实不然，从.py到.exe文件的过程很简单。你甚至可以在一天之内用Python开发一个能正常运行的exe软件，因为Python有专门exe打包库...

2025 PyInstaller 打包说明(中文指南)，python 打包成exe 都在这里

点赞标记，明天就能用上这几个技巧！linux运维、shell、python、网络爬虫、数据采集等定定做，请私信。。。PyInstaller打包说明（中文指南）下面按准备→基本使用→常用...

Python自动化办公应用学习笔记40—文件路径2

4.特殊路径操作用户主目录·获取当前用户的主目录路径非常常用：frompathlibimportPathhome_dir=Path.home()#返回当前用户主目录的Path对象...

Python内置tempfile模块: 生成临时文件和目录详解

1.引言在Python开发中，临时文件和目录的创建和管理是一个常见的需求。Python提供了内置模块tempfile，用于生成临时文件和目录。本文将详细介绍tempfile模块的使用方法、原理及相关...

python代码实现读取文件并生成韦恩图

00、背景今天战略解码，有同学用韦恩图展示各个产品线的占比，效果不错。韦恩图（Venndiagram），是在集合论数学分支中，在不太严格的意义下用以表示集合的一种图解。它们用于展示在不同的事物群组之...

Python技术解放双手，一键搞定海量文件重命名，一周工作量秒搞定

摘要：想象一下，周五傍晚，办公室的同事们纷纷准备享受周末，而你，面对着堆积如山的文件，需要将它们的文件名从美国日期格式改为欧洲日期格式，这似乎注定了你将与加班为伍。但别担心，Python自动化办公来...

Python路径操作的一些基础方法_python路径文件

带你走进@机器人时代Discover点击上面蓝色文字，关注我们Python自动化操作文件避开不了路径操作方法，今天我们来学习一下路径操作的一些基础。Pathlib库模块提供的路径操作包括路径的...

Python爬取下载m3u8加密视频，原来这么简单

1.前言爬取视频的时候发现，现在的视频都是经过加密（m3u8），不再是mp4或者avi链接直接在网页显示，都是经过加密形成ts文件分段进行播放。今天就教大家如果通过python爬取下载m3u8加密视频...

探秘 shutil:Python 高级文件操作的得力助手

在Python的标准库中，shutil模块犹如一位技艺精湛的工匠，为我们处理文件和目录提供了一系列高级操作功能。无论是文件的复制、移动、删除，还是归档与解压缩，shutil都能以简洁高效的方式完成...

怎么把 Python + Flet 开发的程序，打包为 exe ?这个方法很简单!

前面用Python+Flet开发的“我的计算器v3”，怎么打包为exe文件呢？这样才能分发给他人，直接“双击”运行使用啊！今天我给大家分享一个简单的、可用的，把Flet开发的程序打包为...

一周热门
最近发表
标签列表