Distribuzione#

Ultralytics Platform offre opzioni di distribuzione dei modelli complete per mettere in produzione i tuoi modelli YOLO. Testa i modelli con l'inferenza basata su browser, distribuisci su endpoint dedicati in 42 regioni globali e monitora le prestazioni in tempo reale.

Panoramica#

La sezione Distribuzione ti aiuta a:

• Testa i modelli direttamente nel browser con la scheda Predict
• Distribuisci su endpoint dedicati in 42 regioni globali
• Monitorare metriche delle richieste, log e controlli di integrità
• Ridurre a zero quando inattivo (le distribuzioni attualmente eseguono una singola istanza attiva)

Opzioni di distribuzione#

Ultralytics Platform offre molteplici percorsi di distribuzione:

Workflow#

graph LR
    A[✅ Test]:::start --> B[⚙️ Configure]:::proc
    B --> C[🌐 Deploy]:::proc
    C --> D[📊 Monitor]:::out

    classDef start fill:#4CAF50,color:#fff
    classDef proc fill:#2196F3,color:#fff
    classDef out fill:#9C27B0,color:#fff

Architettura#

Inferenza condivisa#

Il servizio di inferenza condiviso viene eseguito in 3 regioni chiave. Le richieste a un modello vengono instradate al servizio in quella data region del modello, in modo che i risultati rimangano all'interno della regione in cui il modello è memorizzato:

graph TB
    User[User Request]:::start --> API[Platform API]:::proc
    API --> Router{Model Data Region}:::decide
    Router -->|US models| US["US Predict Service<br/>Iowa"]:::out
    Router -->|EU models| EU["EU Predict Service<br/>Belgium"]:::out
    Router -->|AP models| AP["AP Predict Service<br/>Taiwan"]:::out

    classDef start fill:#4CAF50,color:#fff
    classDef proc fill:#2196F3,color:#fff
    classDef decide fill:#FF9800,color:#fff
    classDef out fill:#9C27B0,color:#fff

Endpoint dedicati#

Distribuisci in 42 regioni in tutto il mondo su Ultralytics Cloud:

• Americhe: 14 regioni
• Europa: 13 regioni
• Asia-Pacifico: 12 regioni
• Medio Oriente e Africa: 3 regioni

Ogni endpoint è un servizio single-tenant con:

• Dimensionamento gestito dalla piattaforma (non configurabile al momento)
• Riduzione a zero quando inattivo
• URL di endpoint univoco con il proprio riferimento API interattivo su /docs
• Associazione di una chiave API dedicata, in modo che solo quella chiave possa chiamare l'endpoint
• Monitoraggio, log e controlli di integrità indipendenti

Pagina Distribuzioni#

Accedi alla pagina delle distribuzioni globali dalla barra laterale sotto Deploy. Questa pagina mostra:

• World map con i pin delle regioni distribuite; fai clic su una regione per aprire la finestra di dialogo New Deployment
• Schede di panoramica: Richieste totali (24h), Distribuzioni attive, Tasso di errore (24h), Latenza P95 (24h)
• Elenco distribuzioni con tre modalità di visualizzazione: schede, compatta e tabella
• Pulsante Nuova distribuzione per creare endpoint da qualsiasi modello completato
• Pulsante Refresh e un timestamp Updated nell'intestazione della pagina

Caratteristiche principali#

Copertura globale#

Distribuisci vicino ai tuoi utenti con 42 regioni che coprono:

• Nord America, Sud America
• Europa, Medio Oriente, Africa
• Asia Pacifico, Oceania

Comportamento di scalabilità#

Gli endpoint attualmente si comportano come segue:

• Scale to zero: gli endpoint inattivi si riducono a zero e subiscono un cold-start alla richiesta successiva
• Single active instance: ciascun endpoint attualmente risponde da una singola istanza su tutti i piani
• Load shedding: le richieste ricevono risposte 429 quando l'endpoint è temporaneamente a piena capacità — vedi Direct Endpoint Requests
• Request timeout: ogni richiesta può durare fino a 1 ora, il che è sufficiente per l'inferenza video

Deployment Regionale#

Usa la latenza misurata della regione per posizionare un endpoint vicino ai suoi chiamanti. La latenza effettiva dell'inferenza dipende dal modello, dalla dimensione dell'input, dallo stato dell'endpoint e dal percorso di rete.

Controlli di integrità#

Ogni distribuzione in esecuzione include un controllo di integrità automatico con:

• Indicatore di stato in tempo reale (sano/non sano)
• Visualizzazione della latenza di risposta
• Nuovo tentativo automatico in caso di malfunzionamento, che si interrompe non appena torna attivo
• Pulsante di aggiornamento manuale

Avvio rapido#

Crea un deployment:

1. Addestra o carica un modello in un progetto
2. Vai alla scheda Deploy del modello
3. Seleziona una regione dalla tabella della latenza
4. Fai clic su Deploy e attendi che lo stato del deployment diventi Ready

Model → Deploy tab → Select region → Click Deploy → Endpoint URL ready

Link rapidi#

• Inferenza: Testa i modelli nel browser
• Endpoint: Distribuisci endpoint dedicati
• Monitoring: Traccia le prestazioni del deployment

FAQ#