Endpoints dedicados#

Ultralytics Platform permite el despliegue de modelos YOLO en puntos de conexión dedicados en 42 regiones globales. Cada punto de conexión es un servicio de inquilino único con una URL de punto de conexión única y monitorización independiente. El tamaño de recurso predeterminado se reduce a cero cuando está inactivo; los tamaños personalizados mantienen una instancia activa y se cobran por tiempo de actividad.

Crear endpoint#

Desde la pestaña Deploy#

Despliega un modelo desde su pestaña Deploy:

1. Ve a tu modelo
2. Haz clic en la pestaña Deploy
3. Consulta el mapa del mundo y la tabla de regiones, ordenada según la latencia medida desde tu ubicación
4. Haz clic en Deploy en la fila de la región que quieras usar
5. En el cuadro de diálogo, revisa la CPU, la memoria, los precios y el nombre del despliegue, y luego haz clic en Create Deployment

El nombre sugerido combina el nombre del modelo y la ciudad de la región (por ejemplo, yolo26n-iowa) y se puede editar antes del despliegue. El modelo debe tener pesos, o la pestaña muestra un estado vacío en lugar de la tabla de regiones.

Desde la página de despliegues#

Crea un despliegue desde la página global Deploy de la barra lateral:

1. Haz clic en New Deployment
2. Selecciona un modelo en el selector de modelos, que muestra tus modelos completados
3. Selecciona una región en el minimapa o en la tabla de latencia
4. Elige la CPU y la memoria, revisa los precios y edita el nombre del despliegue sugerido si es necesario
5. Haz clic en Create Deployment

Ciclo de vida del despliegue#

stateDiagram-v2
    [*] --> Creating: Deploy
    Creating --> Deploying: Service starting
    Deploying --> Ready: Service URL published
    Ready --> Stopping: Stop
    Ready --> Deploying: Replace model
    Stopping --> Stopped: Stopped
    Stopped --> Deploying: Start
    Deploying --> Stopped: Start failed
    Ready --> [*]: Delete
    Stopped --> [*]: Delete
    Creating --> Failed: Error
    Deploying --> Failed: Error
    Failed --> [*]: Delete

    classDef proc fill:#2196F3,color:#fff
    classDef out fill:#9C27B0,color:#fff
    classDef error fill:#F44336,color:#fff
    classDef extern fill:#607D8B,color:#fff
    class Creating,Deploying,Stopping proc
    class Ready out
    class Failed error
    class Stopped extern

Conecta las alertas de Slack para recibir un mensaje cuando un despliegue esté listo o no pueda iniciarse.

Selección de región#

Elige entre 42 regiones de todo el mundo. El mapa interactivo de regiones y la tabla muestran:

• Marcadores de región: Codificados por colores según la latencia en un gradiente de verde a rojo (las regiones más rápidas son más verdes y las más lentas, más rojas)
• Regiones desplegadas: Se destacan con una insignia «Deployed» en la tabla
• Regiones en despliegue: Indicador de pulso animado en el marcador y en la fila de la tabla
• Resaltado bidireccional: Al pasar el cursor sobre el mapa se resalta la fila correspondiente de la tabla, y viceversa

La tabla de regiones en la pestaña del modelo Deploy incluye:

La tabla permite buscar por ciudad, país y zona, y está ordenada por latencia de forma predeterminada.

Regiones disponibles#

Configuración del endpoint#

Cuadro de diálogo de nuevo despliegue#

El cuadro de diálogo New Deployment te permite seleccionar un modelo, una región, recursos y un nombre de despliegue:

Elige el tamaño de CPU y memoria en los controles de recursos y revisa los precios mostrados antes de crear el despliegue. El tamaño predeterminado puede utilizar una asignación de despliegue gratuito disponible; los tamaños personalizados utilizan precios medidos. El tamaño predeterminado se reduce a cero cuando está inactivo. Los tamaños personalizados mantienen una instancia activa y se cobran desde la disponibilidad hasta que detienes el punto de conexión, incluido el tiempo de inactividad. Agents reutiliza este cuadro de diálogo cuando seleccionas New deployment….

Pestaña Deploy (implementación rápida)#

El despliegue desde la pestaña Deploy del modelo abre el mismo cuadro de diálogo con el modelo y la región preseleccionados. Revisa el tamaño del recurso, los precios y el nombre generado automáticamente antes de crear el punto de conexión. El despliegue aparece en la lista Active Deployments mientras se crea.

Gestionar endpoints#

Modos de vista#

La lista de implementaciones admite tres modos de visualización:

Tarjeta de implementación (vista de tarjetas)#

Cada tarjeta de implementación de la vista de tarjetas muestra:

• Cabecera: Nombre, bandera de región, insignia de estado y los botones de acción disponibles para el estado actual — actualizar configuración, reemplazar y detener cuando esté Listo, iniciar cuando esté Detenido, eliminar en cualquier momento
• URL del endpoint: URL copiable con un enlace a la referencia de API propia del endpoint
• Métricas: número de solicitudes (24 h), latencia P95, tasa de errores o «Aún no hay tráfico»
• Comprobación de estado: indicador de estado en tiempo real con latencia y actualización manual
• Pestañas: Logs, Code y Predict; los puntos de conexión de pago también muestran Monitoring
• Pie: prefijo de la clave de API asociada a la implementación y fecha en la que pasó a estar lista
• Mensaje de estado: motivo del fallo, cuando una implementación falla

La URL, las métricas, la comprobación de estado y las pestañas solo aparecen mientras la implementación está Ready. La pestaña Logs muestra entradas de registro recientes con filtrado por gravedad (All / Errors). La pestaña Code muestra ejemplos de código listos para usar en Python, JavaScript y cURL con la URL de tu endpoint, además de la clave de API asociada para los propietarios del espacio de trabajo (consulta Monitoring). La pestaña Predict proporciona un panel de predicción integrado para realizar pruebas directamente en la implementación.

Actualizar CPU y Memoria#

1. Abre un punto de conexión Listo en la vista de Tarjetas.
2. Haz clic en Actualizar configuración de despliegue.
3. Elige CPU y Memoria, y revisa el coste por hora mostrado.
4. Haz clic en Actualizar configuración. La configuración actual sigue sirviendo hasta que la nueva esté lista.

Los recursos personalizados utilizan la facturación por tiempo de actividad y mantienen una instancia activa. Volver a los recursos predeterminados restablece el comportamiento de escala a cero y elimina la pestaña de Supervisión de pago.

Reemplazar un modelo#

Reemplaza el modelo de un endpoint listo sin cambiar su URL:

1. Abre la implementación en la vista Cards
2. Haz clic en Replace model
3. Selecciona otro modelo completado del mismo espacio de trabajo
4. Edita opcionalmente el nombre de la implementación
5. Haz clic en Replace Model

El modelo actual sigue atendiendo solicitudes mientras se inicia el reemplazo. Cuando el reemplazo está listo, el tráfico pasa al nuevo modelo. El ID de la implementación, la URL, la región y la clave de API no cambian; el nombre mostrado solo cambia cuando introduces uno nuevo. Si el reemplazo falla, el modelo y el nombre anteriores siguen activos.

El reemplazo requiere todo lo siguiente y, de lo contrario, se rechaza:

• La implementación está Ready y no tiene ninguna otra operación de ciclo de vida en curso
• El modelo de reemplazo tiene pesos y pertenece al mismo espacio de trabajo que la implementación
• El modelo de reemplazo no es el que ya está implementado

Estados de la implementación#

URL del endpoint#

Cada endpoint tiene una URL única, por ejemplo:

https://predict-<deployment-id>-<hash>-<region>.a.run.app

Haz clic en el botón de copiar para copiar la URL. Haz clic en el icono de documentación para abrir la referencia de API propia del extremo. El extremo sirve estas rutas:

Gestión del ciclo de vida#

Controla el estado de tu endpoint:

graph LR
    R[Ready]:::out -->|Stop| S[Stopped]:::extern
    S -->|Start| R
    R -->|Delete| D[Deleted]:::error
    S -->|Delete| D

    classDef out fill:#9C27B0,color:#fff
    classDef error fill:#F44336,color:#fff
    classDef extern fill:#607D8B,color:#fff

Detener el endpoint#

Detén un endpoint cuando no quieras que acepte solicitudes:

1. Haz clic en el icono de pausa de la tarjeta de implementación
2. El estado del endpoint cambia a «Stopping» y después a «Stopped»

Los endpoints detenidos:

• No aceptar solicitudes y no informar de métricas en directo ni de estado de salud
• Dejar de acumular cargos por tiempo de actividad
• Perder las estadísticas de supervisión temporales y las imágenes de ejemplo cuando la instancia de servicio se apague
• Conservan su URL, región y clave de API asociada, y se pueden reiniciar en cualquier momento
• Siguen contando para la cuota de implementaciones de tu plan; elimina un endpoint para liberar su espacio

Eliminar el endpoint#

Elimina un endpoint permanentemente:

1. Haz clic en el icono de eliminar (papelera) de la tarjeta de implementación
2. Confirma la eliminación en el cuadro de diálogo

Las implementaciones también se eliminan cuando su modelo o proyecto se elimina permanentemente, o cuando un modelo o proyecto enviado a la papelera llega al final de su periodo de conservación.

Uso de los endpoints#

Autenticación#

Cada implementación está asociada a una única clave de API del espacio de trabajo propietario del modelo. Inclúyela en las solicitudes:

Authorization: Bearer YOUR_API_KEY

El endpoint solo acepta la clave asociada en el momento de su creación, por lo que ninguna otra clave lo abre, ni siquiera otra clave activa del mismo espacio de trabajo. Para controlar qué clave se asocia, implementa mediante la API autenticada con la clave del propietario del espacio de trabajo: esa clave exacta queda asociada y ya la tienes. Las implementaciones creadas de cualquier otra forma (mediante la interfaz de usuario de Platform o una llamada a la API autenticada como miembro del equipo) asocian automáticamente una de las claves activas del espacio de trabajo propietario. Identifícala mediante el prefijo de la clave que aparece en el pie de la tarjeta de implementación y pide su valor al propietario del espacio de trabajo, ya que solo el propietario puede ver los valores de las claves (consulta Claves de API). Los miembros del equipo que no tengan la clave asociada aún pueden ejecutar inferencias mediante el proxy de predicción de Platform en el navegador.

Solicitudes directas al endpoint#

Envía las solicitudes de producción directamente a la URL que aparece en la tarjeta de implementación. Estas solicitudes no pasan por el limitador de velocidad de la API de Platform, por lo que no se aplica el límite de predicción de 20 solicitudes por minuto. El endpoint sigue teniendo su propio límite de capacidad:

• Una única instancia presta servicio a cada endpoint y procesa un número limitado de solicitudes a la vez
• Las solicitudes que no se pueden atender rápidamente devuelven 429 con una cabecera Retry-After
• Una única solicitud puede ejecutarse durante un máximo de 1 hora, lo que permite completar la inferencia de vídeo
• Las respuestas de más de 1 KB se comprimen con gzip y se permiten las solicitudes del navegador de origen cruzado

Ejemplo de solicitud#

import requests

# Deployment endpoint
url = "https://YOUR_DEPLOYMENT_URL.run.app/predict"

# Headers with your deployment API key
headers = {"Authorization": "Bearer YOUR_API_KEY"}

# Inference parameters
data = {"conf": 0.25, "iou": 0.7, "imgsz": 640}

# Send image for inference
with open("image.jpg", "rb") as f:
    response = requests.post(url, headers=headers, data=data, files={"file": f})

print(response.json())

Parámetros de la solicitud#

Consulta Respuestas de profundidad para saber cómo bits cambia el mapa de profundidad devuelto y cómo descodificarlo.

Formato de respuesta#

Igual que la inferencia compartida, con campos específicos de la tarea.

Preguntas frecuentes#