Estos contenidos se han traducido de forma automática para su comodidad, pero Huawei Cloud no garantiza la exactitud de estos. Para consultar los contenidos originales, acceda a la versión en inglés.
Actualización más reciente 2023-03-02 GMT+08:00

Creación de una imagen personalizada y su uso para crear una aplicación de IA

Si desea utilizar un motor de IA que no es compatible con ModelArts, cree una imagen personalizada para el motor, importe la imagen a ModelArts y use la imagen para crear aplicaciones de IA. Esta sección describe cómo utilizar una imagen personalizada para crear una aplicación de IA e implementarla como un servicio en tiempo real.

El proceso es el siguiente:

  1. Construcción de una imagen localmente: Crear un paquete de imagen personalizado localmente. Para obtener más información, consulte las Especificaciones de imágenes personalizadas para crear aplicaciones de AI.
  2. Verificación de la imagen localmente y su carga a SWR: Verificar las API de la imagen personalizada y subir la imagen personalizada a SWR.
  3. Uso de la imagen personalizada para crear una aplicación de IA: Importar la imagen a la gestión de aplicaciones de IA de ModelArts.
  4. Despliegue de la aplicación de IA como servicio en tiempo real: Desplegar el modelo como un servicio en tiempo real.

Construcción de una imagen localmente

Esta sección utiliza un host de Linux x86_x64 como ejemplo. Puede comprar un ECS de las mismas especificaciones o utilizar un host local existente para crear una imagen personalizada.

  1. Instale Docker. Para obtener más información, consulte los documentos oficiales de Docker. A continuación se muestra un ejemplo:
    curl -fsSL get.docker.com -o get-docker.sh
    sh get-docker.sh
  2. Obtenga la imagen base. Se utiliza Ubuntu 18.04 en este ejemplo.
    docker pull ubuntu:18.04
  3. Cree la carpeta self-define-images y edite Dockerfile y test_app.py en la carpeta de la imagen personalizada. En el código de ejemplo, el código de aplicación se ejecuta en el marco de Flask.
    La estructura de archivos es la siguiente:
    self-define-images/
        --Dockerfile
        --test_app.py
    • Dockerfile
      From ubuntu:18.04
      # Configure the HUAWEI CLOUD source and install Python, Python3-PIP, and Flask.
      RUN cp -a /etc/apt/sources.list /etc/apt/sources.list.bak && \
        sed -i "s@http://.*security.ubuntu.com@http://repo.huaweicloud.com@g" /etc/apt/sources.list && \
        sed -i "s@http://.*archive.ubuntu.com@http://repo.huaweicloud.com@g" /etc/apt/sources.list && \
        apt-get update && \
        apt-get install -y python3 python3-pip && \
        pip3 install  --trusted-host https://repo.huaweicloud.com -i https://repo.huaweicloud.com/repository/pypi/simple  Flask
      
      # Copy the application code to the image.
      COPY test_app.py /opt/test_app.py
      
      # Specify the boot command of the image.
      CMD python3  /opt/test_app.py
    • test_app.py
      from flask import Flask, request
      import json 
      app = Flask(__name__)
      
      @app.route('/greet', methods=['POST'])
      def say_hello_func():
          print("----------- in hello func ----------")
          data = json.loads(request.get_data(as_text=True))
          print(data)
          username = data['name']
          rsp_msg = 'Hello, {}!'.format(username)
          return json.dumps({"response":rsp_msg}, indent=4)
      
      @app.route('/goodbye', methods=['GET'])
      def say_goodbye_func():
          print("----------- in goodbye func ----------")
          return '\nGoodbye!\n'
      
      
      @app.route('/', methods=['POST'])
      def default_func():
          print("----------- in default func ----------")
          data = json.loads(request.get_data(as_text=True))
          return '\n called default func !\n {} \n'.format(str(data))
      
      # host must be "0.0.0.0", port must be 8080
      if __name__ == '__main__':
          app.run(host="0.0.0.0", port=8080)

      ModelArts reenvía las solicitudes al puerto 8080 del servicio iniciado desde la imagen personalizada. Por lo tanto, el puerto de escucha de servicio en el contenedor debe ser el puerto 8080. Consulte el archivo test_app.py.

  4. Cambie a la carpeta self-define-images y ejecute el siguiente comando para crear test:v1 de imágenes personalizadas:
    docker build -t test:v1 .
  5. Ejecute docker image para ver la imagen personalizada que ha creado.

Verificación de la imagen localmente y su carga a SWR

  1. Ejecute el siguiente comando en el entorno local para iniciar la imagen personalizada:
    docker run -it -p 8080:8080 test:v1
    Figura 1 Inicio de una imagen personalizada
  2. Abra otro terminal y ejecute los siguientes comandos para probar las funciones de las tres API de la imagen personalizada:
    curl -X POST -H "Content-Type: application/json" --data '{"name":"Tom"}'  127.0.0.1:8080/
    curl -X POST -H "Content-Type: application/json" --data '{"name":"Tom"}' 127.0.0.1:8080/greet
    curl -X GET 127.0.0.1:8080/goodbye

    Si se muestra la información similar a la siguiente, la verificación de la función se realiza correctamente.

    Figura 2 Prueba de las funciones de API
  1. Suba la imagen personalizada a SWR. Para obtener más información, consulte ¿Cómo puedo subir imágenes a SWR?
  2. Vea la imagen cargada en la página My Images > Private Images de la consola de SWR.
    Figura 3 Imágenes cargadas

Uso de la imagen personalizada para crear una aplicación de IA

Importe un metamodelo. Para obtener más información, consulte la sección Creación e importación de una imagen de modelo. Los parámetros clave son los siguientes:
  • Meta Model Source: Seleccione Container image.
    • Container Image Path: Seleccione la imagen privada creada.
      Figura 4 Imagen privada creada
    • Container API: Protocolo y número de puerto para iniciar un modelo. Este parámetro es opcional.
    • Health Check: Comprueba el estado de salud de un modelo. Este parámetro es opcional. Este parámetro es configurable solo cuando la API de comprobación de estado está configurada en la imagen personalizada. De lo contrario, la creación de la aplicación AI fallará.
  • APIs: Las API de una imagen personalizada. Este parámetro es opcional. Las API de modelo deben cumplir con las especificaciones de ModelArts. Para obtener más información, consulte la sección Especificaciones para compilar el archivo de configuración del modelo.
    El archivo de configuración es el siguiente:
    [{
            "url": "/",
            "method": "post",
            "request": {
                "Content-type": "application/json"
            },
            "response": {
                "Content-type": "application/json"
            }
        },
    {
            "url": "/greet",
            "method": "post",
            "request": {
                "Content-type": "application/json"
            },
            "response": {
                "Content-type": "application/json"
            }
        },
    {
            "url": "/goodbye",
            "method": "get",
            "request": {
                "Content-type": "application/json"
            },
            "response": {
                "Content-type": "application/json"
            }
        }
    ]

Despliegue de la aplicación de IA como servicio en tiempo real

  1. Implemente la aplicación de IA como un servicio en tiempo real. Para obtener más información, consulte la sección Despliegue como servicio en tiempo real.
  2. Vea los detalles sobre el servicio en tiempo real.
    Figura 5 Guías de uso
  3. Acceda al servicio en tiempo real en la página de ficha Prediction.
    Figura 6 Acceso a un servicio en tiempo real