请选择 进入手机版 | 继续访问电脑版

 找回密码
 立即注册

QQ登录

只需一步,快速开始

搜索

SAP顾问的AI探索:零基础学习人工智能,Dify安装实战避坑之Docker安装

热度 1已有 881 次阅读2024-9-22 21:26 |个人分类:AI探索|系统分类:公开分享| AI人工智能, Dify

当前AI(人工智能)飞速发展,AI应用也已深入到大家的学习、工作和生活中,而我们要想参与并享受到这时代的红利,就应该到离新生产力最近的地方去。通过比较筛选,我采用了 Dify 这样的工具进行实践,帮助我们初学者更好地理解和掌握 AI 技术。

Dify 作为一个开源的大语言模型应用开发平台,融合了后端即服务和 LLMOps 的理念,使开发者可以快速搭建生产级的生成式 AI 应用。即使是非技术开发人员,也能参与到 AI 应用的定义和数据运营过程中,节省了许多重复造轮子的时间,可以专注在创新和业务需求上。

要利用 Dify 进行实践,先在本地部署 Dify,按照官方文档的指导,从 GitHub 上将开源链接 clone 下来,使用 docker 进行部署运行。

考虑到LLM大语言模型对硬件资源要求比较高,我没有采用在VMWare虚拟机的UbuntuCentOSLinux环境下安装Docker,而选择直接在Windows上安装。

Docker并非是一个通用的容器工具,它依赖于已存在并运行的 Linux 内核环境,实质上是在已经运行的 Linux 下制造了一个隔离的文件环境,因此它执行的效率几乎等同于所部署的 Linux 主机。

因为Windows上安装Docker实际上是基于Hyper-V或者WSL2这两项虚拟化技术,所以不管是对于系统还是硬件都有一定的要求。

一、安装要求

1)、系统要求:

  • Windows 11 64     位:家庭版或专业版 21H2 或更高版本,或企业版或教育版 21H2 或更高版本。

  • Windows 10 64     位:建议使用 Home  Pro 22H2(内部版本 19045)或更高版本,或者企业或教育版 22H2(内部版本 19045)或更高版本。

我直接将Docker安装在P510工作站上,原先是安装SAP S4HANA IDES的,所以内存是128G,显卡更换上了一块11G显存的,用来跑Qwen2-7BLlama3.1-8B没压力,LLM运行也比较流程,Llama3.1-8B跑起来的时候,显存一般会占用6-7G

由于国内无法直接访问国外服务器以及GitHub已经对国内用户关闭等等原因,安装过程中我踩了好几个坑,虽然我都一一解决了,但对于还没有安装过的朋友来说还是很有挑战的,我觉得其难度也不亚于Ubuntu上安装OdooOpenSUSE安装SAP S4HNAN IDES,所以我将主要过程记录下来,好让朋友们避开这些坑。

2)、处理器开启虚拟化:

处理器是否开启虚拟化可以直接在任务管理器--性能--CPU”中查看,如果虚拟化显示已启用就说明没问题;如果没启用就需要进主板BIOS中开启,具体如何开启可以通过百度自己的主板型号等方式开启。

二、安装前的准备

以上条件满足之后,我们还需要对电脑进行必要的环境设置。

电脑桌面使用快捷键 win + r 键入 “OptionalFeatures”确定之后打开 Windows 功能。

或者通过:控制面板>程序和功能>启用或关闭Windows功能,开启 Hyper-V;然后在“Windows 功能中,勾选Hyper-V、适用于LinuxWindows子系统这两项,点确定

待提示重启系统,直接点立即重新启动

三、正式安装

重启之后打开Docker官网下载Windows版本的安装程序,下载页面地址:https://www.docker.com/products/docker-desktop/

由于需要科学上网才能从官网下载,在没办法直接下载并注册的情况,我找别的途径下载了一个4.1.1版本的Docker,下载安装不影响使用,也可以不用Docker账号登录;

没办法直接下载到最新版本的朋友,有需要可以直接找我,也可以在SAP亦橙网(SAPeclub.com)的AI人工智能论坛中留言;

我们直接双击开始安装:

安装过程中下面这两个选项,记得都勾选上:

之后就会安装程序到本地:

出现下图界面就说明安装完成,点“Close and restart”关闭安装界面并重启系统。

四、Docker初始配置

安装重启后,在电脑桌面上的“Docker Desktop”图标打开程序,这里点“Accept”接受。

我当时出现如下报错:

详细报错信息:“Docker.ApiServices.WSL2.WslKernelUpdateNotInstalledException”的异常。

这个错误表明Windows Subsystem for Linux 2 (WSL 2)的安装可能未能完全完成。这就需要重新安装WSL 2。可以使用PowerShell以管理员身份运行以下命令来卸载然后重新安装:

提示已安装:

WSL 2安装完成后重启系统,再次打开Docker desktop,进到如下图界面:

也有朋友可能会遇到这个报错:

出现上图所示的报错,是不管主板BIOS还是控制面板中的设置都需要启用虚拟化,如果之前在电脑模拟器中使用命令手动关闭过虚拟化技术,也需要再次使用命令启用它。

上述问题都解决之后,docker可以成功运行,我们进行一些配置,如下图:

同时,为了测试一下,我们可以试着Clone一个Getting-started

五、Git安装

由于Clone需要Git,从官网下载Git 2.46.0版本直接安装:

双击执行,一步步往下即可:

都是默认参数下,点“Next”:

一直到如下界面,安装完成:

然后我们再在Windows PowerShell中执行部署这个getting-started检验容器:

之后可以看到成功运行所部署的检验容器

当然,这期间我们也配置了镜像加速器,从 DockerHub 拉取镜像,具体如何配置了镜像加速器就放到Dify安装配置的时候再一起详述了。

上述所部署的这个检验容器Getting-Started,占用了端口:80,由于与我们后续安装DifyNginx的端口冲突,所以,需要及时删除Getting-Started

六、结束

小伙伴自己折腾时会发现在Windows上安装并使用Docker还是需要花费一些功夫的,但为了安装部署Dify,值得一试。

DockerGit的安装及避坑就分享到这里,随后我们开始Dify的部署安装,希望这篇文章对您有所帮助!如果您有任何问题,请随时留言。祝您学习顺利,AI 技术之路越走越广!咱们下期见!

存网盘

路过

雷人

握手
1

鲜花

鸡蛋

刚表态过的朋友 (1 人)

评论 (0 个评论)

facelist doodle 涂鸦板

您需要登录后才可以评论 登录 | 立即注册

返回顶部