Distribuzione#

Ultralytics Platform offre opzioni complete per la distribuzione dei modelli per portare in produzione i tuoi modelli YOLO. Prova i modelli con l'inferenza nel browser, distribuiscili su endpoint dedicati in 42 regioni globali e monitora le prestazioni in tempo reale.

Panoramica#

La sezione Distribuzione ti aiuta a:

• Provare i modelli direttamente nel browser con la scheda Predict
• Distribuire su endpoint dedicati in 42 regioni globali
• Monitorare le metriche delle richieste, i log, i controlli di integrità e le previsioni temporanee su ogni endpoint dedicato
• Scegliere le risorse: gli endpoint predefiniti si ridimensionano fino a zero; le dimensioni personalizzate mantengono un'istanza attiva con fatturazione basata sul tempo di attività

Opzioni di distribuzione#

Ultralytics Platform offre diversi metodi di distribuzione:

Flusso di lavoro#

graph LR
    A[✅ Test]:::start --> B[⚙️ Configure]:::proc
    B --> C[🌐 Deploy]:::proc
    C --> D[📊 Monitor]:::out

    classDef start fill:#4CAF50,color:#fff
    classDef proc fill:#2196F3,color:#fff
    classDef out fill:#9C27B0,color:#fff

Architettura#

Inferenza condivisa#

Il servizio di inferenza condivisa viene eseguito in 3 regioni principali. Le richieste a un modello vengono instradate al servizio nella regione dati di quel modello, così i risultati rimangono nella regione in cui è archiviato il modello:

graph TB
    User[User Request]:::start --> API[Platform API]:::proc
    API --> Router{Model Data Region}:::decide
    Router -->|US models| US["US Predict Service<br/>Iowa"]:::out
    Router -->|EU models| EU["EU Predict Service<br/>Belgium"]:::out
    Router -->|AP models| AP["AP Predict Service<br/>Taiwan"]:::out

    classDef start fill:#4CAF50,color:#fff
    classDef proc fill:#2196F3,color:#fff
    classDef decide fill:#FF9800,color:#fff
    classDef out fill:#9C27B0,color:#fff

Endpoint dedicati#

Distribuisci in 42 regioni nel mondo su Ultralytics Cloud:

• Americhe: 14 regioni
• Europa: 13 regioni
• Asia-Pacifico: 12 regioni
• Medio Oriente e Africa: 3 regioni

Ogni endpoint è un servizio single-tenant con:

• CPU e memoria configurabili, con prezzi mostrati prima della distribuzione
• Ridimensionamento fino a zero per le risorse predefinite; un'istanza attiva per le risorse personalizzate, con addebito basato sul tempo di attività
• URL univoco dell'endpoint con un riferimento API interattivo dedicato all'indirizzo /docs
• Associazione a una chiave API dedicata, in modo che solo quella chiave possa chiamare l'endpoint
• Monitoraggio, log e controlli di integrità indipendenti

Scheda Distribuzioni#

Tutte le tue distribuzioni sono elencate nella scheda Distribuzioni del tuo profilo (/{username}?tab=deployments), accanto a Dataset e Progetti. La sezione Distribuzioni della barra laterale elenca le tue distribuzioni, ciascuna con un collegamento alla relativa pagina, un pulsante + per crearne una e un collegamento alla scheda completa. La scheda mostra:

• Mappa mondiale con indicatori delle regioni di distribuzione; fai clic su una regione per aprire la finestra di dialogo New Deployment
• Schede di panoramica: distribuzioni attive, richieste HTTP (24 ore), percentuale di errori HTTP (24 ore), latenza HTTP P95 (24 ore)
• Elenco delle distribuzioni con ricerca, ordinamento e tre modalità di visualizzazione: schede, compatta e tabella; ogni distribuzione rimanda alla propria pagina con le schede Overview, Monitoring, Predict e Logs
• Pulsante Nuova distribuzione per creare endpoint da qualsiasi modello completato

Funzionalità principali#

Copertura globale#

Distribuisci vicino ai tuoi utenti con 42 regioni che coprono:

• Nord America, Sud America
• Europa, Medio Oriente, Africa
• Asia-Pacifico, Oceania

Comportamento di ridimensionamento#

Attualmente, gli endpoint si comportano così:

• Risorse predefinite: gli endpoint inattivi si ridimensionano fino a zero e si avviano a freddo alla richiesta successiva
• Risorse personalizzate: un'istanza rimane attiva e accumula addebiti per il tempo di attività finché non viene arrestata
• Una sola istanza attiva: attualmente, ogni endpoint gestisce le richieste da un'unica istanza con tutti i piani
• Limitazione del carico: le richieste ricevono risposte 429 quando l'endpoint raggiunge temporaneamente la capacità massima — consulta Richieste dirette agli endpoint
• Timeout delle richieste: le richieste dirette agli endpoint hanno una durata massima di 1 ora; consulta Inferenza per gli input supportati

Distribuzione regionale#

Usa la latenza misurata per regione per posizionare un endpoint vicino ai suoi chiamanti. La latenza effettiva dell'inferenza dipende dal modello, dalle dimensioni dell'input, dallo stato dell'endpoint e dal percorso di rete.

Controlli di integrità#

Ogni distribuzione in esecuzione include un controllo automatico di integrità con:

• Indicatore di stato attuale (integro/non integro)
• Visualizzazione della latenza di risposta
• Nuovi tentativi automatici quando lo stato non è integro, che si interrompono quando torna integro
• Pulsante per ripetere manualmente il controllo

Avvio rapido#

Crea una distribuzione:

1. Addestra o carica un modello in un progetto
2. Vai alla scheda Distribuisci del modello
3. Fai clic su Distribuisci per una regione nella tabella della latenza
4. Controlla CPU, memoria, prezzi e nome nella finestra di dialogo della distribuzione
5. Fai clic su Crea distribuzione e attendi che lo stato della distribuzione diventi Pronto

Model → Deploy tab → Deploy in a region → Review configuration → Create Deployment

Link rapidi#

• Inferenza: prova i modelli nel browser
• Endpoint: distribuisci endpoint dedicati
• Monitoraggio: monitora le prestazioni della distribuzione

Domande frequenti#