SageMaker 运行自定义环境——以 PaddlePaddle 为例

随着机器学习的场景越来越多样，我们遇到了更多迁自定义运行环境的 SageMaker 场景需求，SageMaker 提供 bring your own container（https://docs.thinkwithwp.com/zh_cn/sagemaker/latest/dg/your-algorithms-inference-code.html）的方式提供自定义运行环境，但是对于新手来说，如何构建容器镜像并进行运行测试，最终部署上线都是挑战。本篇以广泛使用的 paddlepaddle 为例探讨如何将自定义容器镜像部署在 SageMaker 上。

本次自定义镜像的用户端调用顺序如下：

本次 blog 代码位于https://github.com/zhaoanbei/sagemaker_paddle_nlp_classification_byoc.git 不包括模型文件。

首先，我们开启一个 g4dn.xlarge 的 SageMaker jupyter instance 模拟本地开发环境。https://docs.thinkwithwp.com/zh_cn/sagemaker/latest/dg/gs-setup-working-env.html。

在 jupyter instance status 变为 InService 之后，点击左上角 “+”, 选择最下边 Others—Terminal

cd SageMaker

git clone https://github.com/zhaoanbei/sagemaker_paddle_nlp_classification_byoc.git

打开 byoc.ipynb

运行 byoc.ipynb 中第一行：

sudo chmod +777 utils/setup.sh
./utils/setup.sh

确认 instance 有根用户权限以及 nvidia-docker2 可用。

之后在 terminal 中输入：

sudo vim /etc/sysconfig/docker

在配置文件中增加：

OPTIONS="--selinux-enabled -g /home/ec2-user/SageMaker/docker"

更改 docker image 存放路径。这一步是可选项，避免镜像占用根卷。之后运行：

sudo service docker restart

运行 nvidia-smi 检查 cuda driver 版本，根据https://www.paddlepaddle.org.cn/install/quick?docurl=/documentation/docs/zh/install/docker/linux-docker.html确认registry路径。

这里我们的 cuda 版本是11.0，可以使用 registry.baidubce.com/paddlepaddle/paddle:2.4.1-gpu-cuda11.2-cudnn8.2-trt8.0

之后 Terminal 中运行镜像并建立端口映射：nvidia-docker run --name paddle -p 8080:8080 -it -v $PWD:/paddle registry.baidubce.com/paddlepaddle/paddle:2.4.1-gpu-cuda11.2-cudnn8.2-trt8.0 /bin/bash

进入容器交互模式，

mkdir /opt/program/

新开一个 terminal, 将脚本和模型复制到/opt/program/下。

docker cp ./model /opt/program/

返回容器交互模式，运行：

cd /opt/program/
pip3 install -i https://mirror.baidu.com/pypi/simple --upgrade pip
pip3 install -i https://mirror.baidu.com/pypi/simple networkx==2.3 flask gevent gunicorn boto3
pip3 install -i https://mirror.baidu.com/pypi/simple paddlenlp onnx onnxconverter_common onnxruntime-gpu nvgpu
apt-get -y update && apt-get install -y --no-install-recommends wget nginx ca-certificates && rm -rf /var/lib/apt/lists/*
./serve

这时可以看到服务开始运行。回到 byoc.ipynb, 运行：

#locally
url='http://localhost:8080/invocations'
texts = ['sagemaker-kwm-new','债务人: cksdafgsfgsjhkvgdkjsV 破产管理人:kjLFHk;fhs;dhsd;f']
payload = json.dumps(texts)
headers = {'Content-Type': 'application/json'}
r = requests.post(url,data=payload,headers=headers)
r.json()

看到结果输出后，我们回想一下环境部署过程写 Dockerfile:

FROM registry.baidubce.com/paddlepaddle/paddle:2.4.1-gpu-cuda10.2-cudnn7.6-trt7.0 
ENV LANG=en_US.utf8
ENV LANG=C.UTF-8

ENV PYTHONUNBUFFERED=TRUE
ENV PYTHONDONTWRITEBYTECODE=TRUE
ENV PATH="/opt/program:${PATH}"

RUN mkdir /opt/program/
RUN pip3 install -i https://mirror.baidu.com/pypi/simple networkx==2.3 flask gevent gunicorn boto3
RUN pip3 install -i https://mirror.baidu.com/pypi/simple paddlenlp onnx onnxconverter_common onnxruntime-gpu nvgpu

RUN apt-get -y update && apt-get install -y --no-install-recommends \
         wget \
         nginx \
         ca-certificates \
    && rm -rf /var/lib/apt/lists/*

RUN ln -sf /dev/stdout /var/log/nginx/access.log
RUN ln -sf /dev/stderr /var/log/nginx/error.log

COPY model /opt/program
RUN ls /opt/program

WORKDIR /opt/program

为了快速在托管镜像仓库服务 push 镜像，我们提供了build_and_push.sh。只需sh build_and_push.sh <仓库名>，即可一键 build 并 push。之后通过 SageMaker SDK 定义 model 进行 deploy。为了测试，可以定义instance_type='local_gpu'来加速测试流程。在运行model.deploy之后，在 terminal 中输入docker ps, 可以看到有一个 container 在运行中。

再次运行：

#locally
url='http://localhost:8080/invocations'
texts = ['sagemaker-kwm-new','债务人: cksdafgsfgsjhkvgdkjsV 破产管理人:kjLFHk;fhs;dhsd;f']
payload = json.dumps(texts)
headers = {'Content-Type': 'application/json'}
r = requests.post(url,data=payload,headers=headers)
r.json()

确认结果返回正确后，我们把 instance_type 改为 ‘ml.g4dn.xlarge’ 再次运行。返回 SageMaker 控制台，在推理—终端节点下可以看到在部署到终端节点。