百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

【Python大语言模型系列】云服务器部署dify大模型应用开发平台

itomcoil 2025-02-20 15:56 18 浏览

这是我的第360篇原创文章。

一、阿里云ECS简介

云服务器( Elastic Compute Service ,简称ECS )是一-种简单高效、处理能力可弹性伸缩的计算服务,帮助您快速构建更稳定、安全的应用,提升运维效率,降低IT成本,使您更专注于核心业务创新。

这个活动需要满足是新用户的条件,然后进入 https://free.aliyun.com/?spm=
5176.13830350.J_9630841290.4.3b3750d0kpmRdO&product=1351页面即可免费体验阿里云ECS了。

进入页面之后我们可以选择我们需要的配置:

开通服务器后,首先修改服务器的登陆密码,点击重置实例密码

创建的实例:

我们通过远程连接的方式,进入这个实例:

当然,也可以用Xshell或其他远程连接软件连上服务器(输入root和密码),根据公网ip地址连上。

二、在ECS上安装Docker

安装dify的两个前提条件:

2.1 下载Docker的依赖环境

安装Docker,首先要下载他所依赖的环境

2.2 指定Docker镜像源

默认下载Docker会去国外服务器下载,速度较慢,可以设置为阿里云镜像源,速度更快

2.3 安装Docker

开始安装Docker

2.4 设置启动方式

安装成功后,需要手动启动,设置为开机启动

2.5 测试docker

测试(Docker自带的hello-world)

2.6 查看docker版本

看一下docker的版本:

三、在ECS上安装Docker Compose

3.1 方式一:curl

curl:

# 1 国内镜像秒下载
curl -L https://get.daocloud.io/docker/compose/releases/download/1.25.5/docker-compose-`uname -s`-`uname -m`  > /usr/local/bin/docker-compose
# 2 修改文件执行权限
sudo chmod +x /usr/local/bin/docker-compose
#  3 创建软链
sudo ln -s /usr/local/bin/docker-compose /usr/bin/docker-compose
# 4 测试是否安装成功
docker-compose --version

3.2 方式二:wget

wget:

# 1.去github官网搜索docker-compose,下载1.24.1版本的Docker-Compose
# 下载路径:
wget https://github.com/docker/compose/releases/download/1.24.1/docker-compose-Linux-x86_64


# 2.设置权限
# 需要将DockerCompose文件的名称修改一下,给予DockerCompose文件一个可执行的权限
mv docker-compose-Linux-x86_64 docker-compose
chmod 777 docker-compose


# 3.配置环境变量
# 方便后期操作,配置一个环境变量
# 将docker-compose文件移动到了/usr/local/bin,修改了/etc/profile文件,给/usr/local/bin配置到了PATH中
 
mv docker-compose /usr/local/bin
vi /etc/profile
# 添加内容:export PATH=/usr/local/bin:$PATH
source /etc/profile


# 4.测试
在任意目录下输入docker-compose

3.3 方式三:pip

pip:

# 1.运行以下命令,安装setuptools。
pip3 install -U pip setuptools
# 2.运行以下命令,安装docker-compose。
pip3 install docker-compose
# 3.运行以下命令,验证docker-compose是否安装成功。
docker-compose --version

四、按照dify提供的官方教程进行部署

克隆dify 源代码至本地环境(这里的本地就是这台阿里云ECS)

如果没有git工具,需要安装:

进入dify源代码的 Docker 目录;复制环境配置文件;

选择合适的命令来启动容器。你可以通过 docker compose version 命令检查版本,启动 Docker 容器:如果版本是 Docker Compose V2,使用以下命令:

报错:

在尝试用docker-compose启动应用时遇到网络创建失败的错误,具体表现为无法启用SKIPDNAT规则的iptables操作。错误源于防火墙在Docker服务启动后被关闭。解决方案是重启Docker服务以消除此问题。

重新启动 Docker 容器,,运行命令后,你应该会看到类似以下的输出,显示所有容器的状态和端口映射:

最后检查是否所有容器都正常运行:

在这个输出中,你应该可以看到包括 3 个业务服务 api / worker / web,以及 6 个基础组件 weaviate / db / redis / nginx / ssrf_proxy / sandbox 。都启动了。

五、在ESC部署的dify上进行大模型应用开发

5.1 配置ESC安全组的访问规则

我使用本机去 ping 公网 ip 结果可以 ping 通,直接使用它给我提供的公网 ip 进行访问,结果显示访问失败,这需要在云服务器上进行配置:点击安全组,添加访问规则,设置80端口:

5.2 公网访问

输入公网ip,就可以进入部署在ESC的dify平台了

5.3开发并发布AI大模型应用(Maas)-模型即服务

设置管理员账户:

之后进入:

就可以在这台云服务器ESC上进行开发工作流或者Agent了。

作者简介: 读研期间发表6篇SCI数据算法相关论文,目前在某研究院从事数据算法相关研究工作,结合自身科研实践经历持续分享关于Python、数据分析、特征工程、机器学习、深度学习、人工智能系列基础知识与案例。关注gzh:数据杂坛,获取数据和源码学习更多内容。

原文链接:

【Python大语言模型系列】在阿里云ECS服务器上部署dify大模型应用开发平台(完整教程)

相关推荐

最强聚类模型,层次聚类 !!_层次聚类的优缺点

哈喽,我是小白~咱们今天聊聊层次聚类,这种聚类方法在后面的使用,也是非常频繁的~首先,聚类很好理解,聚类(Clustering)就是把一堆“东西”自动分组。这些“东西”可以是人、...

python决策树用于分类和回归问题实际应用案例

决策树(DecisionTrees)通过树状结构进行决策,在每个节点上根据特征进行分支。用于分类和回归问题。实际应用案例:预测一个顾客是否会流失。决策树是一种基于树状结构的机器学习算法,用于解决分类...

Python教程(四十五):推荐系统-个性化推荐算法

今日目标o理解推荐系统的基本概念和类型o掌握协同过滤算法(用户和物品)o学会基于内容的推荐方法o了解矩阵分解和深度学习推荐o掌握推荐系统评估和优化技术推荐系统概述推荐系统是信息过滤系统,用于...

简单学Python——NumPy库7——排序和去重

NumPy数组排序主要用sort方法,sort方法只能将数值按升充排列(可以用[::-1]的切片方式实现降序排序),并且不改变原数组。例如:importnumpyasnpa=np.array(...

PyTorch实战:TorchVision目标检测模型微调完

PyTorch实战:TorchVision目标检测模型微调完整教程一、什么是微调(Finetuning)?微调(Finetuning)是指在已经预训练好的模型基础上,使用自己的数据对模型进行进一步训练...

C4.5算法解释_简述c4.5算法的基本思想

C4.5算法是ID3算法的改进版,它在特征选择上采用了信息增益比来解决ID3算法对取值较多的特征有偏好的问题。C4.5算法也是一种用于决策树构建的算法,它同样基于信息熵的概念。C4.5算法的步骤如下:...

Python中的数据聚类及可视化分析实践

探索如何通过聚类分析揭露糖尿病预测数据集的特征!我们将运用Python的强力工具,深入挖掘数据,以直观的可视化揭示不同特征间的关系。一同探索聚类分析在糖尿病预测中的实践!所有这些可视化都可以通过数据操...

用Python来统计大乐透号码的概率分布

用Python来统计大乐透号码的概率分布,可以按照以下步骤进行:导入所需的库:使用Python中的numpy库生成数字序列,使用matplotlib库生成概率分布图。读取大乐透历史数据:从网络上找到大...

python:支持向量机监督学习算法用于二分类和多分类问题示例

监督学习-支持向量机(SVM)支持向量机(SupportVectorMachine,简称SVM)是一种常用的监督学习算法,用于解决分类和回归问题。SVM的目标是找到一个最优的超平面,将不同类别的...

25个例子学会Pandas Groupby 操作

groupby是Pandas在数据分析中最常用的函数之一。它用于根据给定列中的不同值对数据点(即行)进行分组,分组后的数据可以计算生成组的聚合值。如果我们有一个包含汽车品牌和价格信息的数据集,那么可以...

数据挖掘流程_数据挖掘流程主要有哪些步骤

数据挖掘流程1.了解需求,确认目标说一下几点思考方法:做什么?目的是什么?目标是什么?为什么要做?有什么价值和意义?如何去做?完整解决方案是什么?2.获取数据pandas读取数据pd.read.c...

使用Python寻找图像最常见的颜色_python 以图找图

如果我们知道图像或对象最常见的是哪种颜色,那么可以解决图像处理中的几个用例,例如在农业领域,我们可能需要确定水果的成熟度。我们可以简单地检查一下水果的颜色是否在预定的范围内,看看它是成熟的,腐烂的,还...

财务预算分析全网最佳实践:从每月分析到每天分析

原文链接如下:「链接」掌握本文的方法,你就掌握了企业预算精细化分析的能力,全网首发。数据模拟稍微有点问题,不要在意数据细节,先看下最终效果。在编制财务预算或业务预算的过程中,通常预算的所有数据都是按月...

常用数据工具去重方法_数据去重公式

在数据处理中,去除重复数据是确保数据质量和分析准确性的关键步骤。特别是在处理多列数据时,保留唯一值组合能够有效清理数据集,避免冗余信息对分析结果的干扰。不同的工具和编程语言提供了多种方法来实现多列去重...

Python教程(四十):PyTorch深度学习-动态计算图

今日目标o理解PyTorch的基本概念和动态计算图o掌握PyTorch张量操作和自动求导o学会构建神经网络模型o了解PyTorch的高级特性o掌握模型训练和部署PyTorch概述PyTorc...