Monitorização#

Ultralytics Platform fornece monitoramento para endpoints implantados. Acompanha solicitações de endpoint, latência, erros e logs. Endpoints dedicados pagos também fornecem estatísticas de previsão em tempo real e exemplos temporários que podes inspecionar e salvar em conjuntos de dados.

Painel de implementações#

A página Deploy na barra lateral funciona como painel de monitorização de todas as tuas implementações. Combina o mapa-múndi, as métricas de visão geral e a gestão de implementações numa única vista. Consulta Dedicated Endpoints para criar e gerir implementações.

graph TB
    subgraph Dashboard
        Map[World Map]:::proc --- Cards[Overview Cards]:::proc
        Cards --- List[Deployments List]:::decide
    end
    subgraph "Per Ready Deployment"
        Monitoring[Monitoring Tab: Paid Endpoints]:::out
        Metrics[Metrics Row]:::out
        Health[Health Check]:::out
        Logs[Logs Tab]:::out
        Code[Code Tab]:::out
        Predict[Predict Tab]:::out
    end
    List --> Monitoring
    List --> Metrics
    List --> Health
    List --> Logs
    List --> Code
    List --> Predict

    classDef proc fill:#2196F3,color:#fff
    classDef decide fill:#FF9800,color:#fff
    classDef out fill:#9C27B0,color:#fff

Cartões de visão geral#

Os quatro cartões de resumo no topo da página mostram:

É comunicada a latência P95, em vez da latência mediana, porque as verificações de funcionamento demoram alguns milissegundos e, caso contrário, dominariam a representação da latência real de inferência.

Mapa-múndi#

O mapa-múndi interativo mostra:

• Marcadores de região para todas as 42 regiões disponíveis
• Marcadores verdes para regiões com uma implementação pronta
• Marcadores azuis animados para regiões com implementações ativas em curso
• O tamanho do marcador varia consoante o estado da implementação e a latência

Clica em qualquer região para abrir a caixa de diálogo New Deployment. O mapa fica oculto em ecrãs pequenos.

Lista de implementações#

Abaixo dos cartões de visão geral, a lista de implementações mostra todos os endpoints dos teus projetos. Usa o seletor do modo de visualização para alternar entre:

Métricas por implementação#

Cada cartão de implementação (na vista de cartões) mostra métricas em tempo real. A linha de métricas, a verificação de funcionamento e os separadores Logs, Code e Predict descritos abaixo aparecem apenas enquanto a implementação estiver Ready:

Linha de métricas#

As métricas são atualizadas automaticamente. Os endpoints que ainda não processaram nenhum pedido mostram "Ainda sem tráfego" e as métricas só são recolhidas para implementações no estado Ready. No painel de implementações, as métricas são obtidas para as 20 implementações mais recentes.

Verificação de integridade#

As implementações em execução mostram um indicador de verificação de funcionamento:

As verificações de funcionamento são repetidas automaticamente enquanto o endpoint não está saudável e param assim que o endpoint responde. Clica no ícone de atualização para acionar manualmente uma verificação de funcionamento, que também funciona como forma de aquecer um endpoint reduzido a zero antes de enviar tráfego.

Guia de Monitoramento#

Abre Deploy, muda para a visualização de Cartões e seleciona Monitoramento em um endpoint dedicado pago que esteja Pronto. Envia uma imagem através da guia Predict ou da API do endpoint para preencher Exemplos Temporários e Estatísticas de Previsão. Antes da primeira imagem processada, a guia mostra Nenhuma imagem processada.

Exemplos Temporários#

A galeria contém uma amostra rotativa de imagens processadas com sobreposições de previsão. Abre uma imagem para inspecionar as previsões no visualizador em tela cheia e usa os controles de visibilidade para ajustar as sobreposições. A galeria inicialmente mostra até 12 exemplos; Mostrar tudo expande a galeria.

• Amostragem: Até dois exemplos inicialmente, depois até uma imagem adicional por minuto. A captura é feita com base no melhor esforço; a inferência não espera pela codificação do exemplo.
• Capacidade: No máximo 100 imagens dentro de um orçamento de memória compartilhado de 100 MiB para imagens compactadas, metadados de previsão e ativos associados. A interface rotula este orçamento como 100 MB.
• Substituição: Exemplos mais antigos são substituídos quando qualquer um dos limites é atingido. Um exemplo pode ficar indisponível enquanto o estás a visualizar.
• Armazenamento: Exemplos temporários permanecem na memória do endpoint. Salvá-los em um conjunto de dados usa limites normais de armazenamento e processamento do espaço de trabalho.

Salvar Exemplos em um Conjunto de Dados#

Membros do espaço de trabalho com permissão de edição de conteúdo podem salvar exemplos em um conjunto de dados no espaço de trabalho do endpoint:

1. Seleciona exemplos individuais usando as caixas de seleção correspondentes ou clica em Selecionar tudo.
2. Clica em Salvar no conjunto de dados.
3. Escolhe um conjunto de dados existente com a mesma tarefa do modelo implantado. Conjuntos de dados de origem conectada são excluídos; cria um conjunto de dados compatível primeiro se nenhum estiver disponível.
4. Clica no botão Salvar, que mostra a contagem de imagens selecionadas, e depois abre o conjunto de dados para acompanhar o processamento.

As imagens e previsões selecionadas são copiadas através do fluxo de trabalho padrão de upload e ingestão de conjuntos de dados. Aplicam-se cotas normais, mapeamento de classes e tratamento de duplicatas. Salvar deixa os exemplos temporários na galeria; imagens de conjuntos de dados ingeridas com sucesso sobreviviam a reinicializações e exclusões de endpoints. Revé os rótulos previstos antes de usá-los para treinamento.

Para remover exemplos temporários, usa o controle de lixeira ao passar o cursor sobre uma imagem ou seleciona exemplos e clica no botão de lixeira em massa, depois confirma Excluir. A exclusão de exemplos deixa as estatísticas agregadas de previsão e as imagens já salvas em conjuntos de dados inalteradas.

Estatísticas de Previsão#

As estatísticas agregam imagens processadas independentemente da amostragem da galeria. Excluir ou substituir um exemplo não subtrai sua contribuição. O resumo mostra imagens, previsões e imagens sem previsões para o período selecionado; modelos de profundidade mostram contagens de imagens.

O seletor de datas assume como padrão os últimos 30 dias e aceita intervalos de até 365 dias. As datas selecionadas usam limites UTC; os carimbos de data/hora do gráfico são exibidos no horário local. Intervalos recentes de até três dias usam histórico por hora quando todo o intervalo cai dentro das últimas 72 horas; outros intervalos usam histórico diário. O intervalo de datas filtra as estatísticas, enquanto a galeria continua a mostrar os exemplos temporários atuais.

O histórico é limitado a 72 intervalos de hora e 365 intervalos diários, e está disponível apenas desde que a instância atual foi iniciada. Um período selecionado sem imagens processadas mostra Nenhuma imagem processada neste período.

Os gráficos disponíveis dependem da tarefa e das previsões coletadas:

O monitoramento é atualizado a cada 2 segundos aproximadamente enquanto o painel estiver aberto e visível. A sondagem pausa quando o painel está fora da tela ou a guia do navegador está oculta. A inferência bem-sucedida através da guia Predict do deployment também aciona uma atualização de estatísticas.

Registos#

Cada cartão de implementação inclui um separador Logs para consultar as entradas de registo recentes:

Entradas de registo#

Cada entrada de registo mostra:

A interface mostra as 20 entradas mais recentes e oculta as vazias. Por predefinição, a API devolve 50 entradas por pedido (máximo de 200) e retorna um nextPageToken para paginar mais para trás.

Exemplos de código#

Cada cartão de implementação inclui um separador Code que mostra código de API pronto a utilizar, com o URL do endpoint preenchido. Para os proprietários do workspace, a chave de API associada à implementação é inserida, pronta para copiar e executar. Os não proprietários veem um marcador de posição YOUR_API_KEY:

import requests

# Deployment endpoint
url = "https://YOUR_DEPLOYMENT_URL.run.app/predict"

# Headers with your deployment API key
headers = {"Authorization": "Bearer YOUR_API_KEY"}

# Inference parameters
data = {"conf": 0.25, "iou": 0.7, "imgsz": 640}

# Send image for inference
with open("image.jpg", "rb") as f:
    response = requests.post(url, headers=headers, data=data, files={"file": f})

print(response.json())

Previsão da implementação#

O separador Predict em cada cartão de implementação fornece um painel de previsão integrado — a mesma interface do separador Predict do modelo, mas executando a inferência através do endpoint de implementação em vez do serviço partilhado. Isto é útil para testar um endpoint implementado diretamente a partir do navegador. Consulta Inferência para obter detalhes sobre os parâmetros e os formatos das respostas.

Endpoints da API#

Cada implementação é identificada pelo seu proprietário e nome, e cada rota requer uma chave de API. Consulta a referência da API para obter detalhes sobre a autenticação.

Métricas da implementação#

GET /api/deployments/{owner}/{deployment}/metrics?range=24h

SDK Python: client.deployments.metrics(owner, deployment, range="24h")

Devolve o payload completo de métricas de uma implementação: um bloco summary com o total de pedidos, a contagem e a taxa de erros e as latências média, P50, P95 e P99, além de matrizes timeSeries para pedidos, erros e latências P50 e P95, utilização de CPU e memória e contagem de instâncias.

Com sparkline=true, a resposta apresenta o formato compacto utilizado pelos cartões de implementação — 24 contagens horárias de pedidos, além do total de pedidos, da taxa de erros e da latência média. Esta é a chamada que é atualizada a cada 60 segundos.

Registos da implementação#

GET /api/deployments/{owner}/{deployment}/logs?limit=50&severity=ERROR,WARNING

SDK Python: client.deployments.logs(owner, deployment, limit=50, severity="ERROR,WARNING")

Devolve entradas de registo recentes com filtro de gravidade e paginação opcionais.

Estado da implementação#

GET /api/deployments/{owner}/{deployment}/health

SDK Python: client.deployments.health(owner, deployment)

Faz ping à implementação e devolve o respetivo estado de funcionamento com a latência de ida e volta medida:

{
    "healthy": true,
    "status": 200,
    "latencyMs": 142
}

Uma resposta de estado não saudável omite status quando não foi possível alcançar o endpoint, e adiciona uma mensagem error.

Otimização do desempenho#

Utiliza os dados de monitorização para otimizar as tuas implementações:

Perguntas frequentes#