Endpoints dedicados#

Ultralytics Platform permite a implementação de modelos YOLO em endpoints dedicados em 42 regiões globais. Cada endpoint é um serviço de locatário único com um URL de endpoint exclusivo e monitoramento independente. O tamanho de recurso padrão é reduzido a zero quando ocioso; tamanhos personalizados mantêm uma instância ativa e são faturados pelo tempo de atividade.

Criar endpoint#

A partir do separador Deploy#

Implementa um modelo a partir do respetivo separador Deploy:

1. Navega até ao teu modelo
2. Clica no separador Deploy
3. Consulta o mapa-mundo e a tabela de regiões, ordenada pela latência medida a partir da tua localização
4. Clica em Deploy na linha da região que queres utilizar
5. Na caixa de diálogo, reveja a CPU, a memória, os preços e o nome da implementação e, em seguida, clique em Create Deployment

O nome sugerido combina o nome do modelo e a cidade da região (por exemplo, yolo26n-iowa) e pode ser editado antes da implementação. O modelo tem de ter pesos, caso contrário, o separador apresenta um estado vazio em vez da tabela de regiões.

A partir da página Deployments#

Cria uma implementação a partir da página global Deploy na barra lateral:

1. Clica em New Deployment
2. Seleciona um modelo no seletor de modelos, que apresenta os teus modelos concluídos
3. Seleciona uma região no minimapa ou na tabela de latência
4. Escolhe a CPU e a memória, reveja os preços e edite o nome da implementação sugerido, se necessário
5. Clica em Create Deployment

Ciclo de Vida da Implementação#

stateDiagram-v2
    [*] --> Creating: Deploy
    Creating --> Deploying: Service starting
    Deploying --> Ready: Service URL published
    Ready --> Stopping: Stop
    Ready --> Deploying: Replace model
    Stopping --> Stopped: Stopped
    Stopped --> Deploying: Start
    Deploying --> Stopped: Start failed
    Ready --> [*]: Delete
    Stopped --> [*]: Delete
    Creating --> Failed: Error
    Deploying --> Failed: Error
    Failed --> [*]: Delete

    classDef proc fill:#2196F3,color:#fff
    classDef out fill:#9C27B0,color:#fff
    classDef error fill:#F44336,color:#fff
    classDef extern fill:#607D8B,color:#fff
    class Creating,Deploying,Stopping proc
    class Ready out
    class Failed error
    class Stopped extern

Liga os alertas do Slack para receberes uma mensagem quando uma implementação ficar pronta ou não conseguir iniciar.

Seleção da região#

Escolhe entre 42 regiões em todo o mundo. O mapa interativo de regiões e a tabela apresentam:

• Pins de regiões: codificados por cores de acordo com a latência, num gradiente de verde a vermelho (as regiões mais rápidas são mais verdes e as mais lentas são mais vermelhas)
• Regiões implementadas: destacadas com um emblema "Deployed" na tabela
• Regiões em implementação: indicador de pulsação animado no pin e na linha da tabela
• Realce bidirecional: passar o cursor sobre o mapa realça a linha correspondente na tabela, e vice-versa

A tabela de regiões no separador do modelo Deploy inclui:

A tabela permite pesquisar por cidade, país e zona e, por predefinição, está ordenada por latência.

Regiões disponíveis#

Configuração do endpoint#

Caixa de diálogo New Deployment#

A caixa de diálogo New Deployment permite selecionar um modelo, região, recursos e nome de implementação:

Escolhe o tamanho da CPU e da memória nos controlos de recursos e reveja os preços apresentados antes de criar a implementação. O tamanho padrão pode utilizar uma quota de implementação gratuita disponível; os tamanhos personalizados utilizam preços baseados no consumo. O tamanho padrão é reduzido a zero quando ocioso. Os tamanhos personalizados mantêm uma instância ativa e são cobrados desde a prontidão até parar o endpoint, incluindo o tempo de ociosidade. Os Agents reutilizam esta caixa de diálogo quando seleciona New deployment….

Separador Deploy (implementação rápida)#

A implementação a partir do separador Deploy do modelo abre a mesma caixa de diálogo com o modelo e a região pré-selecionados. Reveja o tamanho do recurso, os preços e o nome gerado automaticamente antes de criar o endpoint. A implementação aparece na lista Active Deployments enquanto é criada.

Gerir endpoints#

Modos de vista#

A lista de implementações suporta três modos de visualização:

Cartão da implementação (vista de cartões)#

Cada cartão de implementação na vista de cartões apresenta:

• Cabeçalho: Nome, bandeira da região, selo de status e os botões de ação disponíveis para o status atual — atualizar configuração, substituir e parar quando Pronto, iniciar quando Parado, excluir a qualquer momento
• URL do endpoint: URL copiável com uma ligação para a própria referência da API do endpoint
• Métricas: Número de pedidos (24 h), latência P95, taxa de erros ou "Ainda sem tráfego"
• Verificação de estado: Indicador de estado em tempo real com latência e atualização manual
• Guias: Logs, Code e Predict; os endpoints pagos também mostram Monitoring
• Rodapé: O prefixo da chave de API associado à implementação e a data em que ficou pronta
• Mensagem de estado: O motivo da falha, quando uma implementação falhou

O URL, as métricas, a verificação de estado e os separadores aparecem apenas enquanto a implementação está Ready. O separador Logs apresenta entradas de registo recentes com filtragem por gravidade (Todas / Erros). O separador Code apresenta exemplos de código prontos a utilizar em Python, JavaScript e cURL com o URL do teu endpoint, além da chave de API associada para os proprietários do workspace (consulta Monitorização). O separador Predict disponibiliza um painel de previsão integrado para testar diretamente na implementação.

Atualizar CPU e Memória#

1. Abra um endpoint Pronto na visualização de Cartões.
2. Clique em Atualizar configuração de implantação.
3. Escolha CPU e Memória e reveja o custo por hora exibido.
4. Clique em Atualizar Configuração. A configuração atual continua a servir até que a nova esteja pronta.

Recursos personalizados usam faturamento por tempo de atividade e mantêm uma instância ativa. Retornar aos recursos padrão restaura o comportamento de escala para zero e remove a guia de Monitoramento paga.

Substituir um modelo#

Substitui o modelo por trás de um endpoint pronto sem alterar o respetivo URL:

1. Abre a implementação na vista Cartões
2. Clica em Replace model
3. Seleciona outro modelo concluído do mesmo workspace
4. Opcionalmente, edita o nome da implementação
5. Clica em Replace Model

O modelo atual continua a servir pedidos enquanto o substituto é iniciado. Quando o substituto estiver pronto, o tráfego passa para o novo modelo. O ID da implementação, o URL, a região e a chave de API permanecem inalterados; o nome apresentado só muda quando introduzes um novo nome. Se a substituição falhar, o modelo e o nome anteriores permanecem ativos.

A substituição exige todas as condições seguintes e é rejeitada caso contrário:

• A implementação está Ready e não tem outra operação do ciclo de vida em curso
• O modelo substituto tem pesos e pertence ao mesmo workspace que a implementação
• O modelo substituto não é o que já está implementado

Estados da implementação#

URL do endpoint#

Cada endpoint tem um URL exclusivo, por exemplo:

https://predict-<deployment-id>-<hash>-<region>.a.run.app

Clica no botão de cópia para copiar o URL. Clica no ícone de documentação para abrir a referência da API própria do endpoint. O endpoint serve estes caminhos:

Gestão do ciclo de vida#

Controla o estado do teu endpoint:

graph LR
    R[Ready]:::out -->|Stop| S[Stopped]:::extern
    S -->|Start| R
    R -->|Delete| D[Deleted]:::error
    S -->|Delete| D

    classDef out fill:#9C27B0,color:#fff
    classDef error fill:#F44336,color:#fff
    classDef extern fill:#607D8B,color:#fff

Parar o endpoint#

Para um endpoint quando não quiser que aceite pedidos:

1. Clica no ícone de pausa no cartão da implementação
2. O estado do endpoint muda para "A parar" e depois para "Parado"

Os endpoints parados:

• Não aceitam solicitações e não relatam métricas ao vivo nem status de integridade
• Param de acumular cobranças por tempo de atividade
• Perdem estatísticas temporárias de monitoramento e imagens de exemplo quando a instância de atendimento é encerrada
• Mantêm o URL, a região e a chave API associada, e podem ser reiniciados a qualquer momento
• Continuam a contar para a quota de implementações do teu plano — elimina um endpoint para libertar o seu lugar

Eliminar o endpoint#

Remover permanentemente um endpoint:

1. Clica no ícone de eliminação (caixote do lixo) no cartão da implementação
2. Confirma a eliminação na caixa de diálogo

As implementações também são removidas quando o respetivo modelo ou projeto é eliminado permanentemente, ou quando um modelo ou projeto enviado para o lixo chega ao fim do seu período de retenção.

Utilizar endpoints#

Autenticação#

Cada implementação está associada a uma única chave API da área de trabalho que detém o modelo. Inclui-a nos pedidos:

Authorization: Bearer YOUR_API_KEY

O endpoint aceita apenas a chave associada aquando da criação, por isso nenhuma outra chave o abre — nem sequer outra chave ativa na mesma área de trabalho. Para controlares qual chave é associada, faz a implementação através da API autenticada com a chave do proprietário da área de trabalho: essa chave exata fica associada e já a tens. As implementações criadas de qualquer outra forma (através da Platform ou de uma chamada à API autenticada como membro da equipa) associam automaticamente uma das chaves ativas da área de trabalho proprietária — identifica-a pelo prefixo da chave apresentado no rodapé do cartão da implementação e pede o respetivo valor ao proprietário da área de trabalho, uma vez que só o proprietário pode consultar os valores das chaves (consulta Chaves API). Os membros da equipa sem a chave associada ainda podem executar inferência através do proxy de previsão da Platform no navegador.

Pedidos diretos ao endpoint#

Envia pedidos de produção diretamente para o URL apresentado no cartão da implementação. Estes pedidos não passam pelo limitador de taxa da API da Platform, por isso o limite de previsão de 20 pedidos/minuto não se aplica. O endpoint continua a ter o seu próprio limite de capacidade:

• Uma única instância serve cada endpoint, processando um número limitado de pedidos em simultâneo
• Os pedidos que não possam ser processados prontamente devolvem 429 com um cabeçalho Retry-After
• Um único pedido pode ser executado durante até 1 hora, permitindo concluir a inferência de vídeo
• As respostas superiores a 1 KB são comprimidas com gzip e os pedidos do navegador entre origens são permitidos

Exemplo de pedido#

import requests

# Deployment endpoint
url = "https://YOUR_DEPLOYMENT_URL.run.app/predict"

# Headers with your deployment API key
headers = {"Authorization": "Bearer YOUR_API_KEY"}

# Inference parameters
data = {"conf": 0.25, "iou": 0.7, "imgsz": 640}

# Send image for inference
with open("image.jpg", "rb") as f:
    response = requests.post(url, headers=headers, data=data, files={"file": f})

print(response.json())

Parâmetros do pedido#

Consulta Respostas de profundidade para saberes como bits altera o mapa de profundidade devolvido e como o descodificar.

Formato da resposta#

Igual à inferência partilhada, com campos específicos da tarefa.

Perguntas frequentes#