Server-Sent Events
Contexto
Server-Sent Events (SSE) es una tecnología de inserción de servidor que permite a un servidor enviar eventos a un cliente a través de una conexión de HTTP. Esta tecnología se utiliza generalmente para permitir que un servidor envíe datos en tiempo real a un cliente, por ejemplo, una aplicación de chat o una actualización de noticias en tiempo real.
SSE facilita principalmente la comunicación unidireccional en tiempo real desde el servidor al cliente, como el streaming de respuestas de ChatGPT. A diferencia de los WebSockets que proporcionan comunicación bidireccional en tiempo real, SSE está diseñado para ser más liviano y más simple de implementar.
Requisitos previos
La imagen para importar la aplicación de IA es compatible con SSE.
Restricciones
- SSE solo soporta el despliegue de servicios en tiempo real.
- Solo admite servicios en tiempo real desplegados mediante aplicaciones de IA importadas de imágenes personalizadas.
Llamada a un servicio en tiempo real de SSE
El protocolo de SSE en sí no introduce nuevos mecanismos de autenticación; se basa en los mismos métodos que las solicitudes de HTTP.
Puede utilizar uno de los siguientes métodos de autenticación proporcionados por ModelArts:
- Acceso autenticado con un token
- Acceso autenticado con una AK/SK
- Acceso autenticado con una aplicación
La siguiente sección utiliza el software de GUI de Postman para la predicción y la autenticación de tokens como ejemplo para describir cómo invocar a un servicio de SSE.
En casos normales, el valor de Content-Type en el encabezado de respuesta es text/event-stream;charset=UTF-8.
