Endpoints dedicados#

Ultralytics Platform permite desplegar modelos YOLO en endpoints dedicados de 42 regiones de todo el mundo. Cada endpoint es un servicio de inquilino único con una URL de endpoint exclusiva y supervisión independiente. El tamaño predeterminado de los recursos se reduce a cero cuando están inactivos; los tamaños personalizados mantienen una instancia activa y se facturan por tiempo de actividad.

Crear endpoint#

Desde la pestaña Deploy#

Despliega un modelo desde su pestaña Deploy:

1. Ve a tu modelo
2. Haz clic en la pestaña Deploy
3. Consulta el mapa del mundo y la tabla de regiones, ordenada según la latencia medida desde tu ubicación
4. Haz clic en Deploy en la fila de la región que quieras usar
5. En el cuadro de diálogo, revisa la CPU, la memoria, el precio y el nombre del despliegue; después, haz clic en Create Deployment

El nombre sugerido combina el nombre del modelo y la ciudad de la región (por ejemplo, yolo26n-iowa) y se puede editar antes del despliegue. El modelo debe tener pesos; de lo contrario, la pestaña mostrará un estado vacío en lugar de la tabla de regiones.

Desde la pestaña Deployments#

Crea un despliegue desde la pestaña Deployments de tu perfil o desde la barra lateral:

1. Haz clic en New Deployment en la pestaña Deployments o en +, junto a Deployments, en la barra lateral
2. Selecciona un modelo en el selector de modelos, que muestra los modelos que has completado
3. Selecciona una región en el minimapa o en la tabla de latencia
4. Elige la CPU y la memoria, revisa el precio y edita el nombre de despliegue sugerido si es necesario
5. Haz clic en Create Deployment

Ciclo de vida del despliegue#

Conecta las alertas de Slack para recibir un mensaje cuando un despliegue esté listo o no se inicie.

Selección de región#

Elige entre 42 regiones de todo el mundo. El mapa interactivo de regiones y la tabla muestran:

• Indicadores de región: codificados por colores según la latencia, con un gradiente de verde a rojo (las regiones más rápidas aparecen en tonos más verdes y las más lentas, en tonos más rojos)
• Regiones desplegadas: resaltadas con una etiqueta «Deployed» en la tabla
• Regiones en despliegue: indicador de pulso animado en el marcador y en la fila de la tabla
• Resaltado bidireccional: al pasar el cursor por el mapa, se resalta la fila correspondiente de la tabla, y viceversa

La tabla de regiones de la pestaña Deploy del modelo incluye:

La tabla se puede buscar por ciudad, país y zona, y se ordena por latencia de forma predeterminada.

Regiones disponibles#

Configuración del endpoint#

Cuadro de diálogo para crear una implementación#

El cuadro de diálogo New Deployment te permite seleccionar un modelo, una región, los recursos y el nombre de la implementación:

Selecciona el tamaño de CPU y memoria en los controles de recursos y consulta el precio que se muestra antes de crear la implementación. Las opciones de CPU son 1, 2, 4, 6 u 8 vCPU, y las de memoria van de 2 a 32 GiB; los tamaños de memoria mayores requieren más vCPU (por ejemplo, 16 GiB requieren al menos 4 vCPU), y el cuadro de diálogo explica las combinaciones no válidas. El tamaño predeterminado (1 vCPU, 2 GiB) es gratuito y se reduce a cero cuando está inactivo. Los tamaños personalizados mantienen una instancia activa y se cobran según la tarifa horaria regional que se muestra, desde que están listas hasta que detienes el endpoint, incluido el tiempo de inactividad. Para crear, iniciar o cambiar el tamaño a uno personalizado, necesitas tener créditos disponibles; los endpoints de tamaño personalizado se detienen automáticamente cuando el espacio de trabajo se queda sin créditos. Agentes reutiliza este cuadro de diálogo cuando seleccionas Nueva implementación….

Pestaña Deploy (implementación rápida)#

Al implementar desde la pestaña Deploy del modelo, se abre el mismo cuadro de diálogo con el modelo y la región ya seleccionados. Revisa el tamaño de los recursos, el precio y el nombre generado automáticamente antes de crear el endpoint. Mientras se crea, la implementación aparece en la lista de implementaciones del modelo, debajo de la tabla de regiones.

Gestionar endpoints#

Modos de vista#

La lista de implementaciones ofrece tres modos de visualización:

Página de la implementación#

Cada implementación tiene su propia página en /{username}/deploy/{deployment}, que muestra:

• Cabecera: Bandera de la región, nombre visible (haz clic en él para cambiarlo; la URL de la página y la ruta de la API cambian para reflejar el nuevo nombre, pero la URL del endpoint no), insignia de estado, ubicación y tamaño de CPU y memoria
• Acciones: Actualizar configuración, Reemplazar modelo y Detener implementación cuando está Lista; Iniciar implementación cuando está Detenida; y un menú de Más acciones (…) con Información, Actualizar y Eliminar implementación
• Métricas: solicitudes HTTP, tasa de errores HTTP y latencia P95 HTTP durante 24 horas, con minigráficos, además de una tarjeta que enlaza con el modelo implementado
• Pestañas: Overview, Monitoring, Predict y Logs
• Mensaje de estado: Motivo del error, si ha fallado una implementación

La pestaña Overview muestra el mapa de ubicación, la tarjeta Endpoint con la URL del endpoint, que se puede copiar, un enlace a la documentación de la API y una comprobación de estado; también incluye una tarjeta de Información de la implementación con el precio, la región, la CPU y la memoria. La pestaña Logs muestra las entradas de registro recientes y permite filtrar por gravedad (Todos / Errores). La pestaña Predict ofrece un panel de predicción en línea para probar directamente la implementación; la pestaña de resultados Docs incluye ejemplos de código listos para usar en Python, JavaScript y cURL, rellenados con la URL del endpoint y, para los propietarios del espacio de trabajo, con la clave de API asociada (consulta Supervisión). El cuadro de diálogo Información enumera las propiedades de la implementación y te permite editar los metadatos personalizados.

Actualizar CPU y memoria#

1. Abre la página de una implementación cuyo endpoint esté Listo.
2. Haz clic en Actualizar configuración.
3. Elige CPU y Memoria, y consulta el coste por hora que se muestra.
4. Haz clic en Actualizar configuración. La configuración actual seguirá atendiendo solicitudes hasta que la nueva esté lista.

Los recursos personalizados se facturan por tiempo de actividad y mantienen una instancia activa, lo que también permite mantener una cámara IP en funcionamiento sin coste adicional (consulta Cámara en segundo plano). Al volver a los recursos predeterminados, se restaura el comportamiento de reducción a cero y se elimina la cámara en segundo plano.

Reemplazar un modelo#

Reemplaza el modelo de un endpoint listo sin cambiar su URL:

1. Abre la página de la implementación
2. Haz clic en Reemplazar modelo
3. Selecciona otro modelo completado del mismo espacio de trabajo
4. Si quieres, edita el nombre de la implementación
5. Haz clic en Reemplazar modelo

El modelo actual seguirá atendiendo solicitudes mientras se inicia el modelo de reemplazo. Cuando el modelo de reemplazo esté listo, el tráfico se dirigirá al nuevo modelo. El ID de la implementación, la URL, la región y la clave de API no cambian; el nombre visible solo cambia si introduces uno nuevo. Si se produce un error al reemplazar el modelo, el modelo y el nombre anteriores seguirán activos.

Para que se acepte el reemplazo, deben cumplirse todos los requisitos siguientes:

• La implementación está Lista y no hay ninguna otra operación del ciclo de vida en curso
• El modelo de sustitución tiene pesos y pertenece al mismo espacio de trabajo que la implementación
• El modelo de sustitución no es el que ya está implementado

Estados de la implementación#

En una implementación Lista, la insignia de la página muestra Iniciando hasta que el endpoint responde a su primera comprobación de estado, y No responde si la comprobación falla.

URL del endpoint#

Cada endpoint tiene una URL única, por ejemplo:

https://predict-<deployment-id>-<hash>-<region>.a.run.app

Haz clic en el botón de copia para copiar la URL. Haz clic en Documentación de la API para abrir la referencia de API del endpoint. El endpoint sirve estas rutas:

Gestión del ciclo de vida#

Controla el estado de tu endpoint:

Detener el endpoint#

Detén un endpoint si no quieres que acepte solicitudes:

1. Haz clic en Detener implementación en la página de la implementación
2. El estado del endpoint cambia a «Deteniendo» y, después, a «Detenido»

Los endpoints detenidos:

• No aceptan solicitudes ni muestran métricas en tiempo real o el estado de salud del servicio
• Dejan de acumular cargos por tiempo de actividad
• Pierden las estadísticas de supervisión temporales y las imágenes de ejemplo cuando se apaga la instancia de servicio
• Conservan su URL, región y clave de API asociada, y se pueden reiniciar en cualquier momento
• Siguen contando para la cuota de implementaciones de tu plan; elimina un endpoint para liberar su espacio

Eliminar el endpoint#

Elimina un endpoint de forma permanente:

1. Abre Más acciones (…) en la página de la implementación y haz clic en Eliminar implementación, o haz clic en el icono de la papelera junto a la implementación en la barra lateral
2. Confirma con Eliminar

Las implementaciones también se eliminan cuando se borra de forma permanente su modelo o proyecto, o cuando un modelo o proyecto enviado a la papelera llega al final de su periodo de conservación.

Uso de endpoints#

Autenticación#

Cada implementación está asociada a una única clave de API del espacio de trabajo propietario del modelo. Inclúyela en las solicitudes:

Authorization: Bearer YOUR_API_KEY

El endpoint solo acepta la clave asociada durante su creación, así que ninguna otra clave permite acceder a él, ni siquiera otra clave activa del mismo espacio de trabajo. Para controlar qué clave se asocia, implementa mediante la API autenticada con la clave del propietario del espacio de trabajo: se asocia esa clave exacta y ya la tienes. Las implementaciones creadas de cualquier otra forma (mediante la interfaz de Platform o una llamada a la API autenticada como miembro del equipo) asocian automáticamente una de las claves activas del espacio de trabajo propietario. Pídele su valor al propietario del espacio de trabajo, ya que solo él puede ver los valores de las claves (consulta Claves de API). Los miembros del equipo que no tengan la clave asociada pueden seguir ejecutando inferencias a través del proxy de predicción de Platform en el navegador.

Solicitudes directas al endpoint#

Envía las solicitudes de producción directamente a la URL que aparece en la página de la implementación. Estas solicitudes no pasan por el limitador de velocidad de la API de Platform, por lo que no se aplica el límite de predicción de 20 solicitudes por minuto. El endpoint sigue teniendo su propio límite de capacidad:

• Una única instancia sirve cada endpoint y procesa un número limitado de solicitudes a la vez
• Las solicitudes que no se pueden atender rápidamente devuelven 429 con una cabecera Retry-After
• Una solicitud puede ejecutarse durante un máximo de 1 hora, lo que permite completar la inferencia de vídeo
• El tamaño del cuerpo de las solicitudes está limitado a 32 MB; las cargas más grandes se rechazan con 413
• Las respuestas de más de 1 KB se comprimen con gzip y se permiten las solicitudes del navegador entre orígenes distintos

Ejemplo de solicitud#

import requests

# Endpoint de la implementación
url = "https://YOUR_DEPLOYMENT_URL.run.app/predict"

# Cabeceras con tu clave de API de la implementación
headers = {"Authorization": "Bearer YOUR_API_KEY"}

# Parámetros de inferencia
data = {"conf": 0.25, "iou": 0.7, "imgsz": 640}

# Enviar una imagen para inferencia
with open("image.jpg", "rb") as f:
    response = requests.post(url, headers=headers, data=data, files={"file": f})

print(response.json())

Parámetros de la solicitud#

Un endpoint conserva el entorno de ejecución de inferencia de su último despliegue, por lo que los cambios de comportamiento más recientes, como el valor predeterminado de tamaño de entrenamiento imgsz o el vid_stride anterior, le llegan cuando se publica una nueva revisión, por ejemplo, después de sustituir su modelo o cambiar su CPU o memoria. Pasa imgsz explícitamente para fijar el tamaño de entrada.

Consulta Respuestas de profundidad para saber cómo bits modifica el mapa de profundidad devuelto y cómo decodificarlo.

Formato de respuesta#

Igual que la inferencia compartida, con campos específicos de la tarea.

Preguntas frecuentes#