Creación de una imagen personalizada y su uso para crear una aplicación de IA
Si desea utilizar un motor de IA que no es compatible con ModelArts, cree una imagen personalizada para el motor, importe la imagen a ModelArts y use la imagen para crear aplicaciones de IA. Esta sección describe cómo utilizar una imagen personalizada para crear una aplicación de IA e implementarla como un servicio en tiempo real.
El proceso es el siguiente:
- Construcción de una imagen localmente: cree un paquete de imágenes personalizadas localmente. Para obtener más información, consulte las Especificaciones de imágenes personalizadas para crear aplicaciones de AI.
- Verificación de la imagen localmente y su carga a SWR: Verificar las API de la imagen personalizada y subir la imagen personalizada a SWR.
- Uso de la imagen personalizada para crear una aplicación de IA: Importar la imagen a la gestión de aplicaciones de IA de ModelArts.
- Despliegue de la aplicación de IA como servicio en tiempo real: Desplegar el modelo como un servicio en tiempo real.
Construcción de una imagen localmente
Esta sección utiliza un host de Linux x86_x64 como ejemplo. Puede comprar un ECS de las mismas especificaciones o utilizar un host local existente para crear una imagen personalizada.
- Después de iniciar sesión en el host, instale Docker. Para obtener más información, consulte los documentos oficiales de Docker. Como alternativa, ejecute los siguientes comandos para instalar Docker:
curl -fsSL get.docker.com -o get-docker.sh sh get-docker.sh
- Obtenga la imagen de base. Se utiliza Ubuntu 18.04 en este ejemplo.
docker pull ubuntu:18.04
- Cree la carpeta self-define-images y edite Dockerfile y test_app.py en la carpeta de la imagen personalizada. En el código de ejemplo, el código de aplicación se ejecuta en el marco de Flask.
La estructura de archivos es la siguiente:
self-define-images/ --Dockerfile --test_app.py
- Dockerfile
From ubuntu:18.04 # Configure the HUAWEI CLOUD source and install Python, Python3-PIP, and Flask. RUN cp -a /etc/apt/sources.list /etc/apt/sources.list.bak && \ sed -i "s@http://.*security.ubuntu.com@http://repo.huaweicloud.com@g" /etc/apt/sources.list && \ sed -i "s@http://.*archive.ubuntu.com@http://repo.huaweicloud.com@g" /etc/apt/sources.list && \ apt-get update && \ apt-get install -y python3 python3-pip && \ pip3 install --trusted-host https://repo.huaweicloud.com -i https://repo.huaweicloud.com/repository/pypi/simple Flask # Copy the application code to the image. COPY test_app.py /opt/test_app.py # Specify the boot command of the image. CMD python3 /opt/test_app.py
- test_app.py
from flask import Flask, request import json app = Flask(__name__) @app.route('/greet', methods=['POST']) def say_hello_func(): print("----------- in hello func ----------") data = json.loads(request.get_data(as_text=True)) print(data) username = data['name'] rsp_msg = 'Hello, {}!'.format(username) return json.dumps({"response":rsp_msg}, indent=4) @app.route('/goodbye', methods=['GET']) def say_goodbye_func(): print("----------- in goodbye func ----------") return '\nGoodbye!\n' @app.route('/', methods=['POST']) def default_func(): print("----------- in default func ----------") data = json.loads(request.get_data(as_text=True)) return '\n called default func !\n {} \n'.format(str(data)) # host must be "0.0.0.0", port must be 8080 if __name__ == '__main__': app.run(host="0.0.0.0", port=8080)
- Dockerfile
- Cambie a la carpeta self-define-images y ejecute el siguiente comando para crear test:v1 de imágenes personalizadas:
docker build -t test:v1 .
- Ejecute docker images para ver la imagen personalizada que ha creado.
Verificación de la imagen localmente y su carga a SWR
- Ejecute el siguiente comando en el entorno local para iniciar la imagen personalizada:
docker run -it -p 8080:8080 test:v1
Figura 2 Inicio de una imagen personalizada
- Abra otro terminal y ejecute los siguientes comandos para probar las funciones de las tres API de la imagen personalizada:
curl -X POST -H "Content-Type: application/json" --data '{"name":"Tom"}' 127.0.0.1:8080/ curl -X POST -H "Content-Type: application/json" --data '{"name":"Tom"}' 127.0.0.1:8080/greet curl -X GET 127.0.0.1:8080/goodbye
Si se muestra la información similar a la siguiente, la verificación de la función se realiza correctamente.
Figura 3 Prueba de las funciones de API
- Cargue la imagen personalizada en SWR. Para obtener más información, véase ¿Cómo puedo subir imágenes a SWR?
- Vea la imagen cargada en la página My Images > Private Images de la consola de SWR.
Uso de la imagen personalizada para crear una aplicación de IA
- Meta Model Source: Seleccione Container image.
- Container Image Path: Seleccione la imagen privada creada.
Figura 4 Imagen privada creada
- Container API: Protocolo y número de puerto para iniciar un modelo. Asegúrese de que el protocolo y el número de puerto son los mismos que los proporcionados en la imagen personalizada.
- Image Replication: indica si se debe copiar en ModelArts la imagen de modelo de la imagen de contenedor. Este parámetro es opcional.
- Health Check: comprueba el estado de salud de un modelo. Este parámetro es opcional. Este parámetro es configurable solo cuando la API de comprobación de estado está configurada en la imagen personalizada. De lo contrario, la creación de la aplicación de IA va a fallar.
- Container Image Path: Seleccione la imagen privada creada.
- APIs: API de una imagen personalizada. Este parámetro es opcional. Las API de modelo deben cumplir con las especificaciones de ModelArts. Para obtener más detalles, consulte Especificaciones para editar un archivo de configuración de modelo.
El archivo de configuración es el siguiente:
[{ "url": "/", "method": "post", "request": { "Content-type": "application/json" }, "response": { "Content-type": "application/json" } }, { "url": "/greet", "method": "post", "request": { "Content-type": "application/json" }, "response": { "Content-type": "application/json" } }, { "url": "/goodbye", "method": "get", "request": { "Content-type": "application/json" }, "response": { "Content-type": "application/json" } } ]
Despliegue de la aplicación de IA como servicio en tiempo real
- Despliegue la aplicación de IA como un servicio en tiempo real. Para obtener más información, véase Despliegue como servicio en tiempo real.
- Vea los detalles sobre el servicio en tiempo real.
- Acceda al servicio en tiempo real en la página de ficha Prediction.
Figura 5 Acceso a un servicio en tiempo real