Distribuzione#
Ultralytics Platform offre opzioni complete di distribuzione dei modelli per portare in produzione i tuoi modelli YOLO. Prova i modelli con l'inferenza nel browser, distribuiscili su endpoint dedicati in 42 regioni del mondo e monitora le prestazioni in tempo reale.
Guarda: Inizia a usare la piattaforma Ultralytics - Distribuzione
Panoramica#
La sezione Deployment ti aiuta a:
- Testare i modelli direttamente nel browser con la scheda
Predict - Distribuire su endpoint dedicati in 42 regioni del mondo
- Monitorare metriche delle richieste, log, controlli di integrità e previsioni temporanee su ogni endpoint dedicato
- Scegliere le risorse: gli endpoint predefiniti riducono la scalabilità fino a zero; le dimensioni personalizzate mantengono un'istanza sempre attiva con fatturazione basata sul tempo di attività
Opzioni di distribuzione#
Ultralytics Platform offre diverse modalità di distribuzione:
| Opzione | Descrizione | Ideale per |
|---|---|---|
| Scheda Predict | Immagine, webcam, esempi; telecamera IP sui propri endpoint | Sviluppo, validazione |
| Inferenza condivisa | Servizio multi-tenant in 3 aree geografiche | Utilizzo limitato, test |
| Endpoint dedicati | Servizi single-tenant in 42 regioni | Produzione, bassa latenza |
| Esportazione | Scarica i pesi in 22 formati per runtime locali o edge | Offline, sul dispositivo |
Workflow#
| Fase | Descrizione |
|---|---|
| Test | Convalida il modello con la scheda Predict |
| Configura | Seleziona un modello, una regione, una CPU e la memoria; controlla i prezzi e il nome della distribuzione |
| Distribuisci | Crea un endpoint dedicato dalla scheda Deploy |
| Monitora | Esamina le metriche dell'endpoint e le previsioni temporanee in Monitoring |
Architettura#
Inferenza condivisa#
Il servizio di inferenza condivisa opera in 3 regioni principali. Le richieste a un modello vengono instradate al servizio nella regione dei dati del modello, così i risultati rimangono nella regione in cui il modello è archiviato:
| Regione | Etichetta | Posizione | Ideale per |
|---|---|---|---|
| US | Americhe | Iowa, USA | Utenti delle Americhe, prestazioni ottimali per le Americhe |
| EU | Europa, Medio Oriente e Africa | Belgio, Europa | Utenti europei, conformità al GDPR |
| AP | Asia-Pacifico | Taiwan, Asia-Pacifico | Utenti dell'Asia-Pacifico, latenza minima nell'area APAC |
Endpoint dedicati#
Distribuisci in 42 regioni del mondo su Ultralytics Cloud:
- Americhe: 14 regioni
- Europa: 13 regioni
- Asia-Pacifico: 12 regioni
- Medio Oriente e Africa: 3 regioni
Ogni endpoint è un servizio single-tenant con:
- CPU e memoria configurabili, con prezzi mostrati prima della distribuzione
- Riduzione della scalabilità fino a zero per le risorse predefinite; un'istanza sempre attiva con fatturazione basata sul tempo di attività per le risorse personalizzate
- URL univoco dell'endpoint con un riferimento API interattivo dedicato in
/docs - Associazione a una chiave API dedicata, in modo che solo quella chiave possa chiamare l'endpoint
- Monitoraggio, log e controlli di integrità indipendenti
Scheda Deployments#
Tutte le tue distribuzioni sono elencate nella scheda Deployments del tuo profilo (/{username}?tab=deployments), accanto a Datasets e Projects. La sezione Deployments della barra laterale elenca le tue distribuzioni, ognuna con un link alla relativa pagina, con un pulsante + per crearne una e un link alla scheda completa. La scheda mostra:
- Mappa mondiale con indicatori delle regioni in cui hai distribuito; fai clic su una regione per aprire la finestra di dialogo
New Deployment - Schede di riepilogo: Active Deployments, HTTP Requests (24h), HTTP Error Rate (24h), HTTP P95 Latency (24h)
- Elenco delle distribuzioni con ricerca, ordinamento e tre modalità di visualizzazione: schede, compatta e tabella; ogni distribuzione rimanda alla propria pagina con le schede
Overview,Monitoring,PredicteLogs - Pulsante New Deployment per creare endpoint da qualsiasi modello completato
La scheda si aggiorna automaticamente, più rapidamente quando una distribuzione cambia stato (creating, deploying o stopping). Per i dettagli, consulta Monitoring.
Ogni endpoint dedicato pronto fornisce grafici e immagini di esempio conservati solo nella memoria dell'istanza che esegue il servizio. L'arresto, il riavvio, la nuova distribuzione, il ridimensionamento o la sostituzione del modello possono cancellare questi dati. Per conservarli, salva gli esempi in un dataset e attendi il completamento dell'importazione. Consulta Monitoring.
Funzionalità principali#
Copertura globale#
Distribuisci vicino ai tuoi utenti in 42 regioni che coprono:
- America del Nord, America del Sud
- Europa, Medio Oriente, Africa
- Asia-Pacifico, Oceania
Comportamento della scalabilità#
Al momento, gli endpoint si comportano così:
- Risorse predefinite: gli endpoint inattivi riducono la scalabilità fino a zero e si avviano a freddo alla richiesta successiva
- Risorse personalizzate: un'istanza rimane attiva e accumula costi in base al tempo di attività finché non viene arrestata
- Una sola istanza attiva: al momento ogni endpoint elabora le richieste tramite una sola istanza, indipendentemente dal piano
- Limitazione del carico: le richieste ricevono risposte
429quando l'endpoint raggiunge temporaneamente la capacità massima — consulta Richieste dirette agli endpoint - Timeout delle richieste: le richieste dirette agli endpoint hanno una durata massima di 1 ora; consulta Inferenza per gli input supportati
Distribuzione regionale#
Usa la latenza misurata per regione per posizionare un endpoint vicino ai suoi chiamanti. La latenza effettiva dell'inferenza dipende dal modello, dalle dimensioni dell'input, dallo stato dell'endpoint e dal percorso di rete.
Controlli di integrità#
Ogni distribuzione in esecuzione include un controllo automatico di integrità con:
- Indicatore di stato in tempo reale (integro/non integro)
- Visualizzazione della latenza di risposta
- Nuovo tentativo automatico in caso di stato non integro, con arresto quando lo stato torna integro
- Pulsante per ripetere manualmente il ping
Guida rapida#
Crea una distribuzione:
- Addestra o carica un modello in un progetto
- Vai alla scheda Deploy del modello
- Fai clic su Deploy per una regione nella tabella della latenza
- Controlla CPU, memoria, prezzi e nome nella finestra di dialogo di distribuzione
- Fai clic su Create Deployment e attendi che lo stato della distribuzione diventi Ready
Model → Deploy tab → Deploy in a region → Review configuration → Create DeploymentIl nome della distribuzione viene generato dal nome del modello e dalla città della regione e può essere modificato prima della distribuzione. Una volta completata la distribuzione, usa l'URL dell'endpoint con la tua chiave API per inviare richieste di inferenza da qualsiasi applicazione.
Link rapidi#
- Inferenza: testa i modelli nel browser
- Endpoint: distribuisci endpoint dedicati
- Monitoraggio: monitora le prestazioni del deployment
Domande frequenti#
La distribuzione rimane nello stato di creazione o distribuzione mentre il servizio si avvia. Diventa utilizzabile quando lo stato passa a Ready; i tempi variano in base al modello e alla regione e in genere sono di pochi minuti.
Sì, ogni modello può avere più endpoint in regioni diverse. Il numero di distribuzioni è limitato dal piano: Free
3, Pro10, Enterpriseunlimited. La quota viene addebitata all'area di lavoro proprietaria del modello e un endpoint serve esattamente un modello alla volta: usa la sostituzione del modello per cambiarlo senza modificare l'URL.Gli endpoint con risorse predefinite scalano fino a zero quando sono inattivi:
- L'endpoint riduce la propria capacità dopo un periodo di inattività
- La prima richiesta avvia un avvio a freddo
- Le richieste successive sono rapide
Le prime richieste dopo un periodo di inattività avviano un avvio a freddo. Aprendo la pagina della distribuzione viene eseguito un controllo di integrità che riscalda l'endpoint, così una previsione di test subito dopo risponde rapidamente.
Gli endpoint con risorse personalizzate restano attivi e vengono addebitati in base al tempo di attività, compreso il tempo di inattività. Arresta un endpoint per interrompere l'addebito del tempo di attività.