部署方案 – step 1
使用 EC2 进行数据上传
- 回到EC2界面，选中实例，点击连接：
- 将用户名改为ubuntu，并点击连接：
- 上传资源
进入 deployment 目录：
1
cd all-in-one-ai/deployment执行 **build_and_deploy.sh ** 脚本，将YOUR_BUCKET_NAME_FOR_WORKSHOP替换为前一步创建的 S3 桶，将REGION替换为您部署所在区域，如本次 workshop 我们采用us-west-2：
1
2
sudo su sh build_and_deploy.sh s3://YOUR_BUCKET_NAME_FOR_WORKSHOP REGION stable-diffusion-webui 3.3 等待上传完成，约2分钟。
部署方案 – step 2
通过 CloudFormation 部署 Web 前端
- 返回上面创建的 S3 界面中，点击存储桶名称，可以看到桶中有 3个目录，分别为 algorithms，codes，templates。点击 templates并进入，将出现 9 个 yaml文件，找到并复制 all-in-one-ai-webui-main.yaml 的 object URL。
- 进入 CloudFormation 控制台：
- 点击 创建堆栈，在 template 处选择 Amazon S3 URL，并填入上一步复制的 URL，然后下一步：
b. 填入 stack name，选择至少两个 AZ，在 **S3Bucket **处填入前面 S3 桶的名字（无需 s3://），其他部分留空默认即可，下一步，勾选“我确认”，并点击提交。
此步骤大概20分钟完成，在 Outputs 可以看到三个输出，记录下此三个输出，后续会使用。如果cloudformation创建过程中，有rollback failure的情况下，要彻底删除stack，再新建。
部署方案 – step 3
使用 stable diffusion webui 部署推理
本节我们将创建一个模型推理节点，并通过文字生成图片。
- 准备预训练的模型
回到前面创建的 EC2，我们已经将 v1-5-pruned.ckpt，v2-1_768-ema-pruned.ckpt 两个模型已经放到了该 EC2，可以直接使用，无需自己再去下载。接下来我们把相关的模型文件上传到 S3.
在/home/ubuntu 执行如下脚本，将REGION替换为您部署所在区域，如本次 workshop 我们采用us-west-2：：
1
sh prepare.sh REGION该部分将 assets/model.tar.gz 以及 models/上面2个 models 上传到 S3。
- 进入Secrets Manager控制台，查看管理员用户密码：
- 选择密钥，点击密钥名称，如若为空，请切换区域至俄勒冈州：
- 进入页面后，下拉，点击检索密钥值，获取登陆用户名密码，并记录：
- 打开CloudFormation输出的 WebUIPortalUrl，该地址是 stable diffusion webui 的 portal，后面我们将基于此进行模型调试。在login界面中，输入上一步记录的用户名和密码。并点击Login。
- 登陆后，在用户 tab页下，注册个账户。
- 打开上一步 CloudFormation 输出的 WebPortalUrl，该地址是 All in one ai 的 portal。
- 在左边栏，行业模型下的概览，可以看到一个创建好的 名为 stable-diffusion-webui的对象，点击开始体验。如果没有出现下图这个模型，可以按照如下操作创建一个即可。
（分隔符开始）
如果没有出现上图模型，按如下步骤创建：
选择创建您自己的行业模型，在新出现界面中按下图红框标识的填写。
- 行业模型名称和行业模型描述可以自定义；
- 行业模型算法选择 Stable Diffusion Web UI；
- 必须选择一个图标，图标文件大小不超过1MB；
- 算法特定信息处只输入
{}即可； - 模型示例数据 S3 URI 留空；
完成后，点击开始体验，进入下面步骤。（分隔符结束）
- 在新页面下点击部署。
- 在新的页面下，自定义模型名称和终端节点名称（如aigc-workshop），填入模型数据位置，实例类型可以选择 ml.g4dn.2xlarge，然后提交。其中模型数据位置是之前在 EC2 中通过脚本上传到 S3桶中的 model.tar.gz 的 S3 URI，可以从 S3桶中找到（见下图）。
等待模型部署成功，大概需要15分钟（本次实验的模型文件打包了多个模型，下载时间较长）。部署状态可通过此界面查看：
- 切换到 WebUI 界面，在设置 tab 下，刷新 SageMaker Endpoint 和模型，出现刚刚部署出来的 endpoint，以及该 endpoint 上面的模型，我们可以选择 v1-5-pruned.ckpt 为例。
原创文章，作者：奋斗，如若转载，请注明出处：https://blog.ytso.com/301737.html