百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

【Python大语言模型系列】云服务器部署dify大模型应用开发平台

itomcoil 2025-02-20 15:56 28 浏览

这是我的第360篇原创文章。

一、阿里云ECS简介

云服务器( Elastic Compute Service ,简称ECS )是一-种简单高效、处理能力可弹性伸缩的计算服务,帮助您快速构建更稳定、安全的应用,提升运维效率,降低IT成本,使您更专注于核心业务创新。

这个活动需要满足是新用户的条件,然后进入 https://free.aliyun.com/?spm=
5176.13830350.J_9630841290.4.3b3750d0kpmRdO&product=1351页面即可免费体验阿里云ECS了。

进入页面之后我们可以选择我们需要的配置:

开通服务器后,首先修改服务器的登陆密码,点击重置实例密码

创建的实例:

我们通过远程连接的方式,进入这个实例:

当然,也可以用Xshell或其他远程连接软件连上服务器(输入root和密码),根据公网ip地址连上。

二、在ECS上安装Docker

安装dify的两个前提条件:

2.1 下载Docker的依赖环境

安装Docker,首先要下载他所依赖的环境

2.2 指定Docker镜像源

默认下载Docker会去国外服务器下载,速度较慢,可以设置为阿里云镜像源,速度更快

2.3 安装Docker

开始安装Docker

2.4 设置启动方式

安装成功后,需要手动启动,设置为开机启动

2.5 测试docker

测试(Docker自带的hello-world)

2.6 查看docker版本

看一下docker的版本:

三、在ECS上安装Docker Compose

3.1 方式一:curl

curl:

# 1 国内镜像秒下载
curl -L https://get.daocloud.io/docker/compose/releases/download/1.25.5/docker-compose-`uname -s`-`uname -m`  > /usr/local/bin/docker-compose
# 2 修改文件执行权限
sudo chmod +x /usr/local/bin/docker-compose
#  3 创建软链
sudo ln -s /usr/local/bin/docker-compose /usr/bin/docker-compose
# 4 测试是否安装成功
docker-compose --version

3.2 方式二:wget

wget:

# 1.去github官网搜索docker-compose,下载1.24.1版本的Docker-Compose
# 下载路径:
wget https://github.com/docker/compose/releases/download/1.24.1/docker-compose-Linux-x86_64


# 2.设置权限
# 需要将DockerCompose文件的名称修改一下,给予DockerCompose文件一个可执行的权限
mv docker-compose-Linux-x86_64 docker-compose
chmod 777 docker-compose


# 3.配置环境变量
# 方便后期操作,配置一个环境变量
# 将docker-compose文件移动到了/usr/local/bin,修改了/etc/profile文件,给/usr/local/bin配置到了PATH中
 
mv docker-compose /usr/local/bin
vi /etc/profile
# 添加内容:export PATH=/usr/local/bin:$PATH
source /etc/profile


# 4.测试
在任意目录下输入docker-compose

3.3 方式三:pip

pip:

# 1.运行以下命令,安装setuptools。
pip3 install -U pip setuptools
# 2.运行以下命令,安装docker-compose。
pip3 install docker-compose
# 3.运行以下命令,验证docker-compose是否安装成功。
docker-compose --version

四、按照dify提供的官方教程进行部署

克隆dify 源代码至本地环境(这里的本地就是这台阿里云ECS)

如果没有git工具,需要安装:

进入dify源代码的 Docker 目录;复制环境配置文件;

选择合适的命令来启动容器。你可以通过 docker compose version 命令检查版本,启动 Docker 容器:如果版本是 Docker Compose V2,使用以下命令:

报错:

在尝试用docker-compose启动应用时遇到网络创建失败的错误,具体表现为无法启用SKIPDNAT规则的iptables操作。错误源于防火墙在Docker服务启动后被关闭。解决方案是重启Docker服务以消除此问题。

重新启动 Docker 容器,,运行命令后,你应该会看到类似以下的输出,显示所有容器的状态和端口映射:

最后检查是否所有容器都正常运行:

在这个输出中,你应该可以看到包括 3 个业务服务 api / worker / web,以及 6 个基础组件 weaviate / db / redis / nginx / ssrf_proxy / sandbox 。都启动了。

五、在ESC部署的dify上进行大模型应用开发

5.1 配置ESC安全组的访问规则

我使用本机去 ping 公网 ip 结果可以 ping 通,直接使用它给我提供的公网 ip 进行访问,结果显示访问失败,这需要在云服务器上进行配置:点击安全组,添加访问规则,设置80端口:

5.2 公网访问

输入公网ip,就可以进入部署在ESC的dify平台了

5.3开发并发布AI大模型应用(Maas)-模型即服务

设置管理员账户:

之后进入:

就可以在这台云服务器ESC上进行开发工作流或者Agent了。

作者简介: 读研期间发表6篇SCI数据算法相关论文,目前在某研究院从事数据算法相关研究工作,结合自身科研实践经历持续分享关于Python、数据分析、特征工程、机器学习、深度学习、人工智能系列基础知识与案例。关注gzh:数据杂坛,获取数据和源码学习更多内容。

原文链接:

【Python大语言模型系列】在阿里云ECS服务器上部署dify大模型应用开发平台(完整教程)

相关推荐

MySQL修改密码_mysql怎么改密码忘了怎么办

拥有原来的用户名账户的密码mysqladmin-uroot-ppassword"test123"Enterpassword:【输入原来的密码】忘记原来root密码第一...

数据库密码配置项都不加密?心也太大了吧!

先看一份典型的配置文件...省略...##配置MySQL数据库连接spring.datasource.driver-class-name=com.mysql.jdbc.Driverspr...

Linux基础知识_linux基础入门知识

系统目录结构/bin:命令和应用程序。/boot:这里存放的是启动Linux时使用的一些核心文件,包括一些连接文件以及镜像文件。/dev:dev是Device(设备)的缩写,该目录...

MySQL密码重置_mysql密码重置教程

之前由于修改MySQL加密模式为mysql_native_password时操作失误,导致无法登陆MySQL数据库,后来摸索了一下,对MySQL数据库密码进行重置后顺利解决,步骤如下:1.先停止MyS...

Mysql8忘记密码/重置密码_mysql密码忘了怎么办?

Mysql8忘记密码/重置密码UBUNTU下Mysql8忘记密码/重置密码步骤如下:先说下大概步骤:修改配置文件,使得用空密码可以进入mysql。然后置当前root用户为空密码。再次修改配置文件,不能...

MySQL忘记密码怎么办?Windows环境下MySQL密码重置图文教程

有不少小白在使用Windows进行搭建主机的时候,安装了一些环境后,其中有MySQL设置后,然后不少马大哈忘记了MySQL的密码,导致在一些程序安装及配置的时候无法进行。这个时候怎么办呢?重置密码呗?...

10种常见的MySQL错误,你可中招?_mysql常见错误提示及解决方法

【51CTO.com快译】如果未能对MySQL8进行恰当的配置,您非但可能遇到无法顺利访问、或调用MySQL的窘境,而且还可能给真实的应用生产环境带来巨大的影响。本文列举了十种MySQL...

Mysql解压版安装过程_mysql解压版安装步骤

Mysql是目前软件开发中使用最多的关系型数据库,具体安装步骤如下:第一步:Mysql官网下载最新版(mysql解压版(mysql-5.7.17-winx64)),Mysql官方下载地址为:https...

MySQL Root密码重置指南:Windows新手友好教程

如果你忘记了MySQLroot密码,请按照以下简单步骤进行重置。你需要准备的工具:已安装的MySQL以管理员身份访问命令提示符一点复制粘贴的能力分步操作指南1.创建密码重置文件以管理员...

安卓手机基于python3搜索引擎_python调用安卓so库

环境:安卓手机手机品牌:vivox9s4G运行内存手机软件:utermux环境安装:1.java环境的安装2.redis环境的安装aptinstallredis3.elasticsearch环...

Python 包管理 3 - poetry_python community包

Poetry是一款现代化的Python依赖管理和打包工具。它通过一个pyproject.toml文件来统一管理你的项目依赖、配置和元数据,并用一个poetry.lock文件来锁定所有依赖的精...

Python web在线服务生产环境真实部署方案,可直接用

各位志同道合的朋友大家好,我是一个一直在一线互联网踩坑十余年的编码爱好者,现在将我们的各种经验以及架构实战分享出来,如果大家喜欢,就关注我,一起将技术学深学透,我会每一篇分享结束都会预告下一专题最近经...

官方玩梗:Python 3.14(πthon)稳定版发布,正式支持自由线程

IT之家10月7日消息,当地时间10月7日,Python软件基金会宣布Python3.14.0正式发布,也就是用户期待已久的圆周率(约3.14)版本,再加上谐音梗可戏称为π...

第一篇:如何使用 uv 创建 Python 虚拟环境

想象一下,你有一个使用Python3.10的后端应用程序,系统全局安装了a2.1、b2.2和c2.3这些包。一切运行正常,直到你开始一个新项目,它也使用Python3.10,但需要...

我用 Python 写了个自动整理下载目录的工具

经常用电脑的一定会遇到这种情况:每天我们都在从浏览器、微信、钉钉里下各种文件,什么截图、合同、安装包、临时文档,全都堆在下载文件夹里。起初还想着“过两天再整理”,结果一放就是好几年。结果某天想找一个发...