Endpoints dedicados#

A Plataforma Ultralytics permite implementar modelos YOLO em endpoints dedicados em 42 regiões do mundo. Cada endpoint é um serviço de inquilino único, com um URL exclusivo e monitorização independente. O tamanho de recurso predefinido é reduzido a zero quando está inativo; os tamanhos personalizados mantêm uma instância ativa e são cobrados pelo tempo de atividade.

Criar endpoint#

Na aba Deploy#

Implementa um modelo a partir da respetiva aba Deploy:

1. Navega até ao teu modelo
2. Clica na aba Deploy
3. Consulta o mapa-múndi e a tabela de regiões, ordenada pela latência medida a partir da tua localização
4. Clica em Deploy na linha da região que pretendes utilizar
5. Na caixa de diálogo, consulta a CPU, a memória, o preço e o nome da implementação; depois, clica em Create Deployment

O nome sugerido combina o nome do modelo e a cidade da região (por exemplo, yolo26n-iowa) e pode ser editado antes da implementação. O modelo tem de ter pesos; caso contrário, a aba apresenta um estado vazio em vez da tabela de regiões.

Na aba Deployments#

Cria uma implementação a partir da aba Deployments do teu perfil ou da barra lateral:

1. Clica em New Deployment na aba Deployments ou em + junto a Deployments na barra lateral
2. Seleciona um modelo no seletor de modelos, que apresenta os modelos concluídos
3. Seleciona uma região no minimapa ou na tabela de latência
4. Escolhe a CPU e a memória, consulta o preço e, se necessário, edita o nome de implementação sugerido
5. Clica em Create Deployment

Ciclo de vida da implementação#

stateDiagram-v2
    [*] --> Creating: Deploy
    Creating --> Deploying: Service starting
    Deploying --> Ready: Service URL published
    Ready --> Stopping: Stop
    Ready --> Deploying: Replace model or resize
    Stopping --> Stopped: Stopped
    Stopped --> Deploying: Start
    Deploying --> Stopped: Start failed
    Ready --> [*]: Delete
    Stopped --> [*]: Delete
    Creating --> Failed: Error
    Deploying --> Failed: Error
    Failed --> [*]: Delete

    classDef proc fill:#2196F3,color:#fff
    classDef out fill:#9C27B0,color:#fff
    classDef error fill:#F44336,color:#fff
    classDef extern fill:#607D8B,color:#fff
    class Creating,Deploying,Stopping proc
    class Ready out
    class Failed error
    class Stopped extern

Liga os alertas do Slack para receber uma mensagem quando uma implementação ficar pronta ou não conseguir iniciar.

Seleção de região#

Escolhe entre 42 regiões em todo o mundo. O mapa interativo de regiões e a tabela mostram:

• Marcadores de região: codificados por cores segundo a latência, num gradiente do verde ao vermelho (as regiões mais rápidas são mais verdes e as mais lentas são mais vermelhas)
• Regiões implementadas: destacadas com um emblema «Deployed» na tabela
• Regiões em implementação: indicador de pulso animado no marcador e na linha da tabela
• Realce bidirecional: ao passar o cursor sobre o mapa, a linha correspondente da tabela fica realçada, e vice-versa

A tabela de regiões na aba Deploy do modelo inclui:

A tabela pode ser pesquisada por cidade, país e zona e, por predefinição, está ordenada por latência.

Regiões disponíveis#

Configuração do endpoint#

Caixa de diálogo de nova implantação#

A caixa de diálogo New Deployment permite selecionar um modelo, uma região, recursos e um nome para a implantação:

Escolhe o tamanho da CPU e da memória nos controles de recursos e consulta os preços exibidos antes de criar a implantação. As opções de CPU são 1, 2, 4, 6 ou 8 vCPU, e as opções de memória vão de 2 a 32 GiB; tamanhos de memória maiores precisam de mais vCPU (por exemplo, 16 GiB requer pelo menos 4 vCPU), e a caixa de diálogo explica qualquer combinação inválida. O tamanho padrão (1 vCPU, 2 GiB) é gratuito e reduz a zero quando fica inativo. Os tamanhos personalizados mantêm uma instância aquecida e são cobrados pela tarifa horária regional exibida desde que ficam prontas até interromperes o endpoint, incluindo o tempo ocioso. Criar, iniciar ou redimensionar para um tamanho personalizado requer créditos disponíveis, e os endpoints de tamanho personalizado são interrompidos automaticamente quando o espaço de trabalho fica sem créditos. Agentes reutiliza esta caixa de diálogo quando selecionas Nova implantação….

Separador Deploy (implantação rápida)#

A implantação a partir do separador Deploy do modelo abre a mesma caixa de diálogo, com o modelo e a região pré-selecionados. Consulta o tamanho dos recursos, os preços e o nome gerado automaticamente antes de criares o endpoint. A implantação aparece na lista de implantações do modelo, abaixo da tabela de regiões, enquanto está a ser criada.

Gerir endpoints#

Modos de visualização#

A lista de implantações permite três modos de visualização:

Página da implantação#

Cada implantação tem a sua própria página em /{username}/deploy/{deployment}, que mostra:

• Cabeçalho: bandeira da região, nome de apresentação (clica nele para o renomear; o URL da página e o caminho da API mudam para um slug do novo nome, mas o URL do endpoint não muda), indicador de estado, localização e tamanho da CPU e da memória
• Ações: Atualizar configuração, Substituir modelo e Interromper implantação quando está Pronta; Iniciar implantação quando está Interrompida; e um menu Mais ações (…) com Informações, Atualizar e Eliminar implantação
• Métricas: pedidos HTTP, taxa de erros HTTP e latência P95 HTTP ao longo de 24 horas, com minigráficos, além de um cartão com uma ligação para o modelo implantado
• Separadores: Overview, Monitoring, Predict e Logs
• Mensagem de estado: o motivo da falha, quando uma implantação falha

O separador Overview mostra o mapa de localização, o cartão Endpoint com o URL do endpoint que podes copiar, uma ligação para a documentação da API e uma verificação de estado, além de um cartão Informações da implantação com preços, região, CPU e memória. O separador Logs mostra as entradas de registo recentes, com filtragem por gravidade (Todas / Erros). O separador Predict disponibiliza um painel de previsão em linha para testar diretamente na implantação; o separador de resultados Docs contém exemplos de código prontos a utilizar em Python, JavaScript e cURL, preenchidos com o URL do endpoint e, para os proprietários do espaço de trabalho, com a chave de API associada (consulta Monitorização). A caixa de diálogo Informações apresenta as propriedades da implantação e permite-te editar metadados personalizados.

Atualizar CPU e memória#

1. Abre a página da implantação de um endpoint Pronto.
2. Clica em Atualizar configuração.
3. Escolhe CPU e Memória e consulta o custo horário apresentado.
4. Clica em Atualizar configuração. A configuração atual continua a servir pedidos até a nova estar pronta.

Os recursos personalizados são cobrados pelo tempo de atividade e mantêm uma instância ativa, o que também permite manter uma câmara IP em execução sem custos adicionais (consulta Câmara em segundo plano). Regressar aos recursos predefinidos restaura o comportamento de redução a zero e remove a câmara em segundo plano.

Substituir um modelo#

Substitui o modelo associado a um endpoint pronto sem alterar o respetivo URL:

1. Abre a página da implantação
2. Clica em Substituir modelo
3. Seleciona outro modelo concluído do mesmo espaço de trabalho
4. Se quiseres, edita o nome da implantação
5. Clica em Substituir modelo

O modelo atual continua a servir pedidos enquanto o modelo de substituição é iniciado. Quando o modelo de substituição fica pronto, o tráfego passa para o novo modelo. O ID da implantação, o URL, a região e a chave de API mantêm-se inalterados; o nome de apresentação só muda se introduzires um novo. Se a substituição falhar, o modelo e o nome anteriores continuam ativos.

A substituição requer todos os seguintes requisitos; caso contrário, é rejeitada:

• A implantação está Pronta e não há nenhuma outra operação de ciclo de vida em andamento
• O modelo de substituição tem pesos e pertence ao mesmo espaço de trabalho que a implantação
• O modelo de substituição não é o que já está implantado

Status das implantações#

Em uma implantação Pronta, o selo da página exibe Iniciando até o endpoint responder à primeira verificação de integridade e Sem resposta se a verificação falhar.

URL do endpoint#

Cada endpoint tem uma URL exclusiva, por exemplo:

https://predict-<deployment-id>-<hash>-<region>.a.run.app

Clique no botão de copiar para copiar a URL. Clique em Documentação da API para abrir a referência da API do próprio endpoint. O endpoint oferece estes caminhos:

Gerenciamento do ciclo de vida#

Controle o estado do endpoint:

graph LR
    R[Ready]:::out -->|Stop| S[Stopped]:::extern
    S -->|Start| R
    R -->|Delete| D[Deleted]:::error
    S -->|Delete| D

    classDef out fill:#9C27B0,color:#fff
    classDef error fill:#F44336,color:#fff
    classDef extern fill:#607D8B,color:#fff

Parar endpoint#

Pare um endpoint quando não quiser que ele aceite solicitações:

1. Clique em Parar implantação na página da implantação
2. O status do endpoint muda para "Parando" e, em seguida, para "Parado"

Endpoints parados:

• Não aceitam solicitações nem informam métricas em tempo real ou o status de integridade
• Deixam de acumular cobranças por tempo de atividade
• Perdem as estatísticas temporárias de monitoramento e as imagens de exemplo quando a instância de atendimento é encerrada
• Mantêm a URL, a região e a chave de API vinculada, e podem ser reiniciados a qualquer momento
• Continuam contando para a cota de implantações do seu plano — exclua um endpoint para liberar sua vaga

Excluir endpoint#

Remova um endpoint permanentemente:

1. Abra Mais ações (…) na página da implantação e clique em Excluir implantação, ou clique no ícone da lixeira ao lado da implantação na barra lateral
2. Confirme com Excluir

As implantações também são removidas quando o modelo ou projeto é excluído permanentemente, ou quando um modelo ou projeto na lixeira chega ao fim do período de retenção.

Usar endpoints#

Autenticação#

Cada implantação é vinculada a uma única chave de API do espaço de trabalho que contém o modelo. Inclua essa chave nas solicitações:

Authorization: Bearer YOUR_API_KEY

O endpoint aceita apenas a chave vinculada na criação, então nenhuma outra chave dá acesso a ele — nem mesmo outra chave ativa no mesmo espaço de trabalho. Para controlar qual chave será vinculada, faça a implantação pela API autenticada com a chave do proprietário do espaço de trabalho: essa chave específica será vinculada, e você já terá acesso a ela. As implantações criadas de qualquer outra forma (pela interface da Platform ou por uma chamada à API autenticada como membro da equipe) vinculam automaticamente uma das chaves ativas do espaço de trabalho proprietário — peça o valor ao proprietário do espaço de trabalho, pois só ele pode consultar os valores das chaves (consulte Chaves de API). Os membros da equipe sem a chave vinculada ainda podem executar inferências pelo proxy de previsão da Platform no navegador.

Solicitações diretas ao endpoint#

Envie solicitações de produção diretamente à URL exibida na página da implantação. Essas solicitações não passam pelo limitador de taxa da API da Platform, então o limite de previsão de 20 solicitações por minuto não se aplica. O endpoint ainda tem seu próprio limite de capacidade:

• Uma única instância atende cada endpoint, processando um número limitado de solicitações simultâneas
• Solicitações que não podem ser atendidas prontamente retornam 429 com um cabeçalho Retry-After
• Uma única solicitação pode levar até 1 hora, o que permite concluir a inferência de vídeo
• O corpo das solicitações tem limite de 32 MB; uploads maiores são rejeitados com 413
• Respostas maiores que 1 KB são compactadas com gzip, e solicitações do navegador entre origens diferentes são permitidas

Exemplo de solicitação#

import requests

# Endpoint da implantação
url = "https://YOUR_DEPLOYMENT_URL.run.app/predict"

# Cabeçalhos com sua chave de API da implantação
headers = {"Authorization": "Bearer YOUR_API_KEY"}

# Parâmetros de inferência
data = {"conf": 0.25, "iou": 0.7, "imgsz": 640}

# Envie uma imagem para inferência
with open("image.jpg", "rb") as f:
    response = requests.post(url, headers=headers, data=data, files={"file": f})

print(response.json())

Parâmetros do pedido#

Um endpoint mantém o ambiente de execução de inferência da última implantação, então comportamentos mais recentes, como o padrão de tamanho de treinamento imgsz ou o vid_stride acima, chegam ao endpoint quando uma nova revisão é implantada, por exemplo, depois que você substitui o modelo ou altera a CPU ou a memória. Passe imgsz explicitamente para fixar o tamanho da entrada.

Consulte Respostas de profundidade para saber como bits altera o mapa de profundidade retornado e como interpretá-lo.

Formato da resposta#

Igual à inferência compartilhada, com campos específicos da tarefa.

Perguntas frequentes#