Endpoints Dedicados#

Ultralytics Platform permite a implementação de modelos YOLO em endpoints dedicados em 42 regiões globais. Cada endpoint é um serviço de locatário único com comportamento de escala para zero, um URL de endpoint exclusivo e monitoramento independente.

Criar Endpoint#

A partir da guia Deploy#

Implementa um modelo a partir da tua aba Deploy:

1. Navegue até seu modelo
2. Clique na guia Deploy
3. Analisa o mapa-múndi e a tabela de regiões, que está ordenada pela latência medida a partir da tua localização
4. Clica em Deploy na linha da região que queres usar

A implementação começa imediatamente sem etapa de nomeação: o nome é gerado a partir do nome do modelo e da cidade da região (por exemplo, yolo26n-iowa). O modelo deve ter pesos, caso contrário, a aba exibe um estado vazio em vez da tabela de regiões.

A partir da página Deployments#

Cria uma implementação a partir da página global Deploy na barra lateral:

1. Clique em New Deployment
2. Seleciona um modelo no seletor de modelos, que lista os teus modelos concluídos
3. Seleciona uma região no mini-mapa ou na tabela de latência
4. Analisa o nome de implementação gerado automaticamente, que podes editar aqui
5. Clique em Deploy Model

Ciclo de Vida de Implantação#

stateDiagram-v2
    [*] --> Creating: Deploy
    Creating --> Deploying: Service starting
    Deploying --> Ready: Service URL published
    Ready --> Stopping: Stop
    Ready --> Deploying: Replace model
    Stopping --> Stopped: Stopped
    Stopped --> Deploying: Start
    Deploying --> Stopped: Start failed
    Ready --> [*]: Delete
    Stopped --> [*]: Delete
    Creating --> Failed: Error
    Deploying --> Failed: Error
    Failed --> [*]: Delete

    classDef proc fill:#2196F3,color:#fff
    classDef out fill:#9C27B0,color:#fff
    classDef error fill:#F44336,color:#fff
    classDef extern fill:#607D8B,color:#fff
    class Creating,Deploying,Stopping proc
    class Ready out
    class Failed error
    class Stopped extern

Conecta Slack alerts para receber uma mensagem quando uma implementação ficar pronta ou falhar ao iniciar.

Seleção de Região#

Escolhe entre 42 regiões em todo o mundo. O mapa de regiões interativo e a tabela mostram:

• Pinos de região: Codificados por cores por latência em um gradiente de verde para vermelho (regiões mais rápidas são mais verdes, regiões mais lentas são mais vermelhas)
• Regiões implementadas: Destacadas com um crachá "Deployed" na tabela
• Regiões em implementação: Indicador de pulsação animado no marcador e na linha da tabela
• Destaque bidirecional: Passar o mouse sobre o mapa destaca a linha da tabela, e vice-versa

A tabela de regiões na aba do modelo Deploy inclui:

A tabela permite pesquisa por cidade, país e zona, e é ordenada por latência por predefinição.

Regiões Disponíveis#

Configuração de Endpoint#

Caixa de Diálogo Nova Implementação#

O diálogo New Deployment recolhe três entradas:

Abaixo do nome, um painel Resources de leitura exclusiva contém um crachá Custom resources coming soon. Os recursos não são configuráveis atualmente: cada endpoint é executado como uma única instância que é reduzida a zero quando inativa.

Guia Deploy (Implantação Rápida)#

Implementar a partir da aba Deploy do modelo utiliza os mesmos recursos fixos e o nome gerado automaticamente, sem etapa de diálogo. A implementação aparece imediatamente na lista Active Deployments abaixo da tabela de regiões enquanto é criada.

Gerenciar Endpoints#

Modos de Visualização#

A lista de implantações suporta três modos de visualização:

Cartão de Implantação (Visualização de Cartões)#

Cada cartão de implantação na visualização de cartões mostra:

• Cabeçalho: Nome, bandeira da região, crachá de estado e os botões de ação disponíveis para o estado atual — substituir e parar quando estiver Ready, iniciar quando estiver Stopped, eliminar a qualquer momento
• URL do Endpoint: URL copiável com uma ligação para a referência da API própria do endpoint
• Métricas: Contagem de pedidos (24h), latência P95, taxa de erro ou "No traffic yet"
• Verificação de integridade: Indicador de integridade ao vivo com latência e atualização manual
• Abas: Logs, Code e Predict
• Rodapé: O prefixo da chave de API associada à implementação e a data em que ficou pronta
• Mensagem de estado: O motivo da falha, quando uma implementação falha

O URL, as métricas, a verificação de estado de saúde e as abas aparecem apenas enquanto a implementação estiver Ready. A aba Logs mostra entradas de registo recentes com filtragem de gravidade (All / Errors). A aba Code mostra exemplos de código prontos a usar em Python, JavaScript e cURL com o teu URL de endpoint, além da chave de API associada para os proprietários do espaço de trabalho (consulta Monitoring). A aba Predict disponibiliza um painel de previsão em linha para testar diretamente na implementação.

Substituir um Modelo#

Substitua o modelo por trás de um endpoint pronto sem alterar a URL dele:

1. Abra o deploy na visualização Cards
2. Clique em Replace model
3. Selecione outro modelo concluído do mesmo workspace
4. Opcionalmente, edite o nome do deploy
5. Clique em Replace Model

O modelo atual continua a servir enquanto a substituição é iniciada. Assim que a substituição estiver pronta, o tráfego é direcionado para o novo modelo. O ID da implementação, o URL, a região e a chave de API permanecem inalterados; o nome de apresentação só muda se introduzires um novo. Se a substituição falhar, o modelo e o nome anteriores continuam ativos.

A substituição requer todos os pontos seguintes e é rejeitada caso contrário:

• A implementação está Ready e não tem nenhuma outra operação do ciclo de vida em curso
• O modelo de substituição tem pesos e pertence ao mesmo espaço de trabalho da implementação
• O modelo de substituição não é aquele que já está implementado

Status de Implantação#

URL do Endpoint#

Cada endpoint possui uma URL única, por exemplo:

https://predict-<deployment-id>-<hash>-<region>.a.run.app

Clica no botão de cópia para copiar o URL. Clica no ícone de documentação para abrir a referência da API própria do endpoint. O endpoint serve estes caminhos:

Gerenciamento de Ciclo de Vida#

Controle o estado do seu endpoint:

graph LR
    R[Ready]:::out -->|Stop| S[Stopped]:::extern
    S -->|Start| R
    R -->|Delete| D[Deleted]:::error
    S -->|Delete| D

    classDef out fill:#9C27B0,color:#fff
    classDef error fill:#F44336,color:#fff
    classDef extern fill:#607D8B,color:#fff

Parar Endpoint#

Para um endpoint quando não quiseres que ele aceite pedidos:

1. Clique no ícone de pausa no cartão de implantação
2. O status do endpoint muda para "Parando" e depois para "Parado"

Endpoints parados:

• Não aceitar pedidos e não reportar métricas nem estado de saúde
• Mantêm o seu URL, região e chave de API associada, e podem ser reiniciados a qualquer momento
• Continuam a contar para a quota de implementação do teu plano — elimina um endpoint para libertar o seu espaço

Excluir Endpoint#

Remover permanentemente um endpoint:

1. Clique no ícone de exclusão (lixeira) no cartão de implantação
2. Confirme a exclusão na caixa de diálogo

As implementações também são removidas quando o respetivo modelo ou projeto é eliminado permanentemente, ou quando um modelo ou projeto colocado no lixo atinge o fim da sua janela de retenção.

Usando Endpoints#

Autenticação#

Cada implementação está associada a uma única chave de API do espaço de trabalho proprietário do modelo. Inclui-a nos pedidos:

Authorization: Bearer YOUR_API_KEY

O endpoint aceita apenas a chave associada na criação, pelo que nenhuma outra chave o abre — nem mesmo outra chave ativa no mesmo espaço de trabalho. Para controlares qual a chave associada, implementa através da API autenticada com a chave do proprietário do espaço de trabalho: essa exata chave fica associada e tu já a possuis. As implementações criadas de qualquer outra forma (a interface da Plataforma ou uma chamada de API autenticada como membro de equipa) associam automaticamente uma das chaves ativas do espaço de trabalho proprietário — identifica-a pelo prefixo da chave apresentado no rodapé do cartão de implementação e pede o valor ao proprietário do espaço de trabalho, uma vez que apenas o proprietário pode ver os valores das chaves (consulta API Keys). Os membros de equipa sem a chave associada ainda podem executar inferências através do proxy de previsão da Plataforma no navegador.

Pedidos Diretos de Endpoint#

Envia pedidos de produção diretamente para o URL apresentado no cartão de implementação. Estes pedidos não passam pelo limitador de taxa da API da Plataforma, pelo que o limite de previsão de 20 pedidos/minuto não se aplica. O endpoint ainda tem o seu próprio limite de capacidade:

• Uma única instância serve cada endpoint, processando um número limitado de pedidos de cada vez
• Os pedidos que não possam ser servidos prontamente devolvem 429 com um cabeçalho Retry-After
• Um único pedido pode ser executado durante até 1 hora, o que permite que a inferência de vídeo seja concluída
• As respostas superiores a 1 KB são comprimidas com gzip e são permitidos pedidos de navegador de origem cruzada

Exemplo de solicitação#

import requests

# Deployment endpoint
url = "https://YOUR_DEPLOYMENT_URL.run.app/predict"

# Headers with your deployment API key
headers = {"Authorization": "Bearer YOUR_API_KEY"}

# Inference parameters
data = {"conf": 0.25, "iou": 0.7, "imgsz": 640}

# Send image for inference
with open("image.jpg", "rb") as f:
    response = requests.post(url, headers=headers, data=data, files={"file": f})

print(response.json())

Parâmetros de solicitação#

Consulta Depth responses para saberes como o bits altera o mapa de profundidade devolvido e como decodificá-lo.

Formato de Resposta#

O mesmo que shared inference com campos específicos de tarefas.

FAQ#