Habilitación de un servicio de inferencia para acceder a Internet

Escenarios de aplicación

Un servicio de inferencia accede a Internet en los siguientes escenarios:

• Después de ingresar una imagen, el servicio de inferencia llama al OCR en Internet y luego procesa los datos mediante NLP.
• El servicio de inferencia descarga archivos de Internet y los analiza.
• El servicio de inferencia devuelve el resultado del análisis al terminal por Internet.

Diseño de soluciones

Utilice el algoritmo en la instancia en la que se despliega el servicio de inferencia para acceder a Internet.

Figura 1 Redes para que un servicio de inferencia acceda a Internet

Procedimiento

• Configure la red para el grupo de recursos de ModelArts.
• Instale y configure un proxy de reenvío para su VPC.
• Configure el proxy de DNS y la URL de acceso a Internet en la imagen del algoritmo.

1. Configure la red para el grupo de recursos de ModelArts.
   Al adquirir un grupo de recursos dedicado, puede seleccionar servicios de inferencia en Job Type. En este caso, la red seleccionada debe ser accesible a la VPC de destino.

   Figura 2 Compra de un grupo de recursos dedicado
   
   Figura 3 Interconexión de las VPC
   

   La interconexión de una VPC permite que el grupo de recursos de ModelArts intercambie datos con su VPC. Antes de conectar la VPC, cree una VPC y una subred. Para obtener más detalles, consulte Creación de una VPC y una subred.

2. Instale y configure un proxy de reenvío para su VPC.

   Antes de instalar un proxy de reenvío, compre un ECS con la última imagen de Ubuntu y vincule una EIP al ECS. Luego, inicie sesión en el ECS, instale y configurar un proxy de reenvío de squid.

   1. Si Docker no está instalado, ejecute el siguiente comando para instalarlo:

      curl -sSL https://get.daocloud.io/docker | sh

   2. Tira de la imagen de squid.

      docker pull ubuntu/squid

   3. Cree un directorio de host y configure whitelist.conf y squid.conf.

      Create a host directory:

      mkdir –p /etc/squid/

      Agregue el archivo de configuración whitelist.conf. El contenido son las direcciones a las que se puede acceder. Por ejemplo:

      .apig.cn-east-3.huaweicloudapis.com

      Agregue el archivo de configuración squid.conf, que incluye lo siguiente:

      # An ACL named 'whitelist'
      acl whitelist dstdomain '/etc/squid/whitelist.conf'
      # Allow whitelisted URLs through
      http_access allow whitelist
      # Block the rest
      http_access deny all
      # Default port
      http_port 3128

      Configure los permisos en el directorio del host y en los archivos de configuración:

      chmod 640 -R /etc/squid

   4. Inicie una instancia de squid.

      docker run -d --name squid -e TZ=UTC -v /etc/squid:/etc/squid -p 3128:3128 ubuntu/squid:latest

   5. Si se actualiza whitelist.conf o squid.conf, vaya al contenedor y actualice el squid.

      docker exec –it squid bash
      root@{container_id}:/# squid -k reconfigure

3. Configure el proxy de DNS y la URL de acceso a Internet en la imagen del algoritmo.
   1. Configure el proxy.

      En el código, especifique la dirección IP privada y el puerto del servidor proxy, como se muestra a continuación:

      proxies = {
        "http": "http://{proxy_server_private_ip}:3128",
        "https": "http://{proxy_server_private_ip}:3128"
      }

      La siguiente figura muestra cómo obtener la dirección IP privada de un servidor.

      Figura 4 Dirección IP privada
      
   2. Configure la URL de acceso a Internet.

      En el código de inferencia, utilice la dirección de URL del servicio para enviar una solicitud de servicio, por ejemplo:

      https://e8a048ce25136addbbac23ce6132a.apig.cn-east-3.huaweicloudapis.com