Ultralytics için Docker Hızlı Başlangıç Kılavuzu
Bu kılavuz, Ultralytics projelerin için Docker ortamının nasıl kurulacağını gösterir. Docker, uygulamaları konteynerlerde geliştirme, dağıtma ve çalıştırma platformudur; yazılımın dağıtıldığı konumdan bağımsız olarak aynı şekilde çalışmasını sağlar.
Öğreneceklerin#
- Docker'ı NVIDIA desteğiyle kurma
- Ultralytics Docker görüntülerini yükleme
- Ultralytics'i CPU veya GPU desteğiyle Docker kapsayıcısında çalıştırma
- Ultralytics algılama sonuçlarını göstermek için Docker ile bir görüntü sunucusu kullanma
- Yerel dizinleri kapsayıcıya bağlama
İzle: Docker'ı Kullanmaya Nasıl Başlanır | Docker İçinde Ultralytics Python Paketinin Kullanımı Canlı Demo 🎉
Ön koşullar#
- Docker'ın sisteminde kurulu olduğundan emin ol. Kurulu değilse Docker'ın web sitesinden indirip yükleyebilirsin.
- GPU hızlandırması için sisteminde bir NVIDIA GPU bulunduğundan ve NVIDIA sürücülerinin yüklü olduğundan emin ol. CPU görüntüleri NVIDIA donanımı gerektirmez.
- NVIDIA Jetson cihazları kullanıyorsan uygun JetPack sürümünün yüklü olduğundan emin ol. Daha fazla bilgi için NVIDIA Jetson kılavuzuna bak.
Docker'ı NVIDIA Desteğiyle Kurma (İsteğe Bağlı)#
Önce şu komutu çalıştırarak NVIDIA sürücülerinin doğru şekilde yüklendiğini doğrula:
nvidia-smiNVIDIA Container Toolkit'i yükleme#
Docker konteynerlerinde GPU desteğini etkinleştirmek için NVIDIA Container Toolkit'i yükle:
curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg \
&& curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list \
| sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' \
| sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.listPaket listelerini güncelle ve NVIDIA Container Toolkit'i yükle:
sudo apt-get updatesudo apt-get install -y nvidia-container-toolkitCDI Aygıtlarını Docker ile Doğrulama#
GPU CDI aygıtlarının kullanılabilir olduğunu doğrulamak için nvidia-ctk cdi list komutunu çalıştır (toolkit'in nvidia-cdi-refresh hizmeti, toolkit >= 1.18 olduğunda belirtimi otomatik olarak oluşturur ve yönetir):
nvidia-ctk cdi listnvidia.com/gpu=0 ve nvidia.com/gpu=all gibi girdiler görmelisin. Bulunan CDI aygıtları docker info içinde de görünür.
Ultralytics Docker Görüntülerini Yükleme#
Ultralytics aşağıdaki görüntüleri Docker Hub'da yayımlar. Her görüntü, bağlantılı Dockerfile'dan Docker yayımlama iş akışı kullanılarak derlenir.
| Etiket | Platform ve kullanım amacı | Kaynak |
|---|---|---|
latest | GPU eğitimi ve çıkarımı için CUDA destekli Linux AMD64 | Dockerfile |
latest-export | Dönüştürme ve kıyaslama için CUDA ve dışa aktarma bağımlılıklarını içeren Linux AMD64 | Dockerfile-export |
latest-amd | AMD GPU eğitimi ve çıkarımı için ROCm ve MIGraphX içeren Linux AMD64 | Dockerfile-amd |
latest-python | CPU çıkarımı için hafif Linux AMD64 Python 3.14 imajı | Dockerfile-python |
latest-python-export | Dışa aktarma bağımlılıklarını içeren Linux AMD64 Python 3.13 CPU imajı | Dockerfile-python-export |
latest-cpu | Varsayılan komutu Bash olan Linux AMD64 CPU görüntüsü | Dockerfile-cpu |
latest-jupyter | JupyterLab ve Ultralytics eğitim not defterlerini içeren Linux AMD64 CPU görüntüsü | Dockerfile-jupyter |
latest-arm64 | Apple silicon, Raspberry Pi ve diğer ARM64 sistemler için Linux ARM64 Python 3.13 CPU imajı | Dockerfile-arm64 |
latest-nvidia-arm64 | DGX Spark (DGX OS) ve Thor üzerinde PyTorch (JetPack 7.1) için Linux ARM64; pakete dahil TensorRT JetPack'i desteklemez | Dockerfile-nvidia-arm64 |
latest-jetson-jetpack6 | JetPack 6 kullanan NVIDIA Jetson cihazları için Linux ARM64 | Dockerfile-jetson-jetpack6 |
latest-jetson-jetpack5 | JetPack 5 kullanan NVIDIA Jetson cihazları için Linux ARM64 | Dockerfile-jetson-jetpack5 |
latest-jetson-jetpack4 | JetPack 4 kullanan NVIDIA Jetson cihazları için Linux ARM64 | Dockerfile-jetson-jetpack4 |
latest-runner | Kendi barındırdığı GitHub Actions GPU çalıştırıcısı için Linux AMD64 CUDA görüntüsü | Dockerfile-runner |
latest-runner-cpu | Kendi barındırdığı GitHub Actions CPU çalıştırıcısı için Linux AMD64 görüntüsü | Dockerfile-runner-cpu |
AMD64 GPU imajları (latest, latest-export ve latest-runner) PyTorch 2.15 ve CUDA 13.2 kullanır. Bu imajları başlatmadan önce ana makine sürücüsünün CUDA desteğini nvidia-smi ile kontrol et; daha yeni bir konteyner yüklemek ana makine sürücüsünü yükseltmez. CUDA 13'ün artık desteklemediği Maxwell, Pascal ve Volta GPU'ları arasında Tesla P100 ve V100 da bulunur.
NVIDIA ARM64 imajı, CUDA 13.4 ve TensorRT 11.4 içeren NVIDIA PyTorch 26.10 kullanır. Thor için PyTorch desteği TensorRT'yi kapsamaz: NVIDIA, JetPack üzerinde TensorRT 11.4'ü desteklemez. Jetson TensorRT dışa aktarımları için JetPack sürümünün desteklediği TensorRT 10.x çalışma zamanını kullan. Jetson kılavuzundaki veya DGX Spark kılavuzundaki platform gereksinimlerini izle. JetPack 4, 5 ve 6 imajları, cihazlara özgü ayrı yazılım yığınlarını korur.
Conda Dockerfile'ı yerel derlemeler için kullanılabilir; latest-conda öğesinin otomatik yayımlanması devre dışı olduğundan bu kayıt defteri etiketi bu güncellemeleri içermez.
Python, CPU, Jupyter ve CPU runner imajları Python 3.14 kullanır. Python dışa aktarma imajı, TensorFlow, CoreML ve PaddlePaddle henüz Python 3.14'ü desteklemediği için aynı Dockerfile-python tabanından --build-arg PYTHON_VERSION=3.13 ile oluşturulan latest-python-3.13 tabanını kullanır.
latest ile başlayan etiketler, main dalında en son yayımlanan derlemeyi izler. Sürümlü etiketlerde latest öneki, VERSION, VERSION-cpu veya VERSION-jetson-jetpack6 gibi bir Ultralytics sürümüyle değiştirilir. Tekrarlanabilir bir ortam için sürümlü etiket kullan.
En son görüntüyü çekmek için:
# Pull the latest Ultralytics image from Docker Hub
sudo docker pull ultralytics/ultralytics:latestBunun yerine görüntüyü kendin derlemek için depoyu klonla ve derleme bağlamı olarak depo kökünü kullanarak yukarıdaki tablodaki uygun Dockerfile'ı belirt:
# Build the CPU image locally from docker/Dockerfile-cpu
sudo docker build -t ultralytics/ultralytics:latest-cpu -f docker/Dockerfile-cpu .Ultralytics'i Docker Kapsayıcısında Çalıştırma#
Ultralytics Docker konteynerini şu şekilde çalıştırabilirsin:
Yalnızca CPU kullanma#
# Run without GPU
sudo docker run -it --ipc=host ultralytics/ultralytics:latest-cpuGPU kullanma#
# Run with all GPUs
sudo docker run -it --ipc=host --device nvidia.com/gpu=all ultralytics/ultralytics:latest
# Run specifying which GPUs to use
sudo docker run -it --ipc=host --device nvidia.com/gpu=2 --device nvidia.com/gpu=3 ultralytics/ultralytics:latest-it bayrağı sözde bir TTY atar ve standart girdi akışını açık tutarak kapsayıcıyla etkileşim kurmanı sağlar. --ipc=host bayrağı, işlemler arasında bellek paylaşımı için gerekli olan ana makinenin IPC ad alanının paylaşılmasını sağlar. NVIDIA GPU'larda --device nvidia.com/gpu=... bayrağı CDI üzerinden erişim verir. AMD GPU'larda --device bayrakları GPU çekirdek sürücüsüne (/dev/kfd) ve görüntü oluşturma düğümlerine (/dev/dri) erişim verir.
Linux'ta CDI aygıt istekleri için Docker >= 28.2.0 (CDI varsayılan olarak etkindir) ve nvidia-container-toolkit >= 1.18 (CDI belirtiminin otomatik oluşturulması) gerekir. GPU kapsayıcılarını çalıştırmadan önce eski Linux ana makinelerini yükselt. Eski --gpus all bayrağı, rutin paket güncellemeleri sırasında ana makine systemd'yi yeniden yüklediğinde GPU erişimini (Failed to initialize NVML: Unknown Error) kaybettirebilir (nvidia-container-toolkit#48). CDI --device istekleri aygıt düğümlerini kapsayıcı yapılandırmasına eklediğinden eğitim işçileri veya CI çalıştırıcıları gibi uzun süre çalışan kapsayıcılar yeniden yüklemeler sırasında GPU erişimini korur.
Windows'ta Docker Desktop GPU desteği, NVIDIA CDI aygıtları burada kullanılamadığından şu anda WSL 2 arka ucuyla --gpus all kullanıyor. Windows Linux systemd kullanmadığı için yukarıdaki hizmet arka plan programını yeniden yükleme hatası burada geçerli değildir.
Dosya Erişilebilirliği Hakkında Not#
Yerel makinenizdeki dosyalarla kapsayıcı içinden çalışmak için Docker birimlerini kullanabilirsin:
# Mount a local directory into the container
sudo docker run -it --ipc=host --device nvidia.com/gpu=all -v /path/on/host:/path/in/container ultralytics/ultralytics:latest/path/on/host yerine yerel makinenizdeki dizin yolunu, /path/in/container yerine Docker kapsayıcısının içindeki istediğin yolu yaz.
Eğitim Çıktılarını Kalıcı Hale Getirme#
Eğitim çıktıları varsayılan olarak kapsayıcının içindeki /ultralytics/runs/<task>/<name>/ konumuna kaydedilir. Ana makinedeki bir dizini bağlamazsan kapsayıcı kaldırıldığında çıktılar kaybolur.
Eğitim çıktılarını kalıcı hale getirmek için:
# Recommended: mount workspace and specify project path
sudo docker run --rm -it -v "$(pwd)":/w -w /w ultralytics/ultralytics:latest \
yolo train model=yolo26n.pt data=coco8.yaml project=/w/runsBu işlem, tüm eğitim çıktılarını ana makinenizdeki ./runs konumuna kaydeder.
Docker Kapsayıcısında Grafik Kullanıcı Arayüzü (GUI) Uygulamalarını Çalıştırma#
Aşağıdaki talimatlar deneyseldir. X11 soketini Docker konteyneriyle paylaşmak potansiyel güvenlik riskleri taşır. Bu nedenle, bu çözümü yalnızca kontrollü bir ortamda test etmen önerilir.
Docker çoğunlukla arka plan uygulamalarını ve CLI programlarını kapsayıcıya almak için kullanılır, ancak grafik programları da çalıştırabilir. Linux dünyasında grafik görüntülemeyi iki ana grafik sunucusu yönetir: X11 (X Pencere Sistemi olarak da bilinir) ve Wayland. Başlamadan önce hangi grafik sunucusunu kullandığını belirlemen önemlidir. Öğrenmek için şu komutu çalıştır:
env | grep -E -i 'x11|xorg|wayland'X11 veya Wayland görüntü sunucusunun kurulumu ve yapılandırılması bu kılavuzun kapsamı dışındadır. Yukarıdaki komut hiçbir sonuç döndürmezse devam etmeden önce bu sunuculardan birini sisteminde çalışır hâle getirmen gerekir.
GUI ile Docker Kapsayıcısı Çalıştırma#
GPU'ları kullanma
GPU'ları kullanıyorsan komuta --device nvidia.com/gpu=all bayrağını ekleyebilirsin.
X11 kullanıyorsan Docker kapsayıcısının X11 soketine erişmesine izin vermek için şu komutu çalıştırabilirsin:
xhost +local:docker && docker run -e DISPLAY=$DISPLAY \
-v /tmp/.X11-unix:/tmp/.X11-unix \
-v ~/.Xauthority:/root/.Xauthority \
-it --ipc=host ultralytics/ultralytics:latestBu komut, DISPLAY ortam değişkenini ana makinenin ekranına ayarlar, X11 soketini bağlar ve .Xauthority dosyasını konteynere eşler. xhost +local:docker komutu, Docker konteynerinin X11 sunucusuna erişmesini sağlar.
Docker'ı GUI ile kullanma#
Ultralytics imajları headless OpenCV içerir; bu nedenle önce kapsayıcı içinde OpenCV'nin GUI sürümünü ve sistem kitaplıklarını yükle:
apt-get update && apt-get install -y --no-install-recommends libgl1 libglib2.0-0 libsm6
pip uninstall -y opencv-python-headless && pip install opencv-pythonArtık Docker kapsayıcının içinde grafik uygulamaları görüntüleyebilirsin. Örneğin, bir YOLO26 modelinin tahminlerini görselleştirmek için şu CLI komutunu çalıştırabilirsin:
yolo predict model=yolo26n.pt show=TrueTest
Docker grubunun X11 sunucusuna erişebildiğini doğrulamanın basit bir yolu, xclock veya xeyes gibi bir GUI programını konteynerde çalıştırmaktır. Alternatif olarak, GNU/Linux görüntü sunucunun X11 sunucusuna erişimi sınamak için bu programları Ultralytics Docker konteynerine de yükleyebilirsin. Sorun yaşarsan -e QT_DEBUG_PLUGINS=1 ortam değişkenini ayarlamayı düşün. Bu ortam değişkenini ayarlamak hata ayıklama bilgilerinin çıktılanmasını sağlayarak sorun giderme sürecine yardımcı olur.
Docker GUI kullanımını bitirdiğinde#
Her iki durumda da işin bittiğinde Docker grubunun erişimini iptal etmeyi unutma.
xhost -local:dockerGörüntü sonuçlarını doğrudan Terminal'de görmek ister misin?
Linux ve macOS'ta sixel protokolünü kullanarak görüntü sonuçlarını VSCode tümleşik terminalinde görüntüleyebilirsin.
Artık Docker ile Ultralytics'i kullanmaya hazırsın. Ultralytics web uygulamasını kendi sunucunda barındırmak için Şirket İçi Platform kılavuzuna bak.
Sık Sorulan Sorular#
Ultralytics'i Docker ile kurmak için önce Docker'ın sisteminde yüklü olduğundan emin ol. NVIDIA GPU'n varsa GPU desteğini etkinleştirmek için NVIDIA Container Toolkit'i yükle. Ardından aşağıdaki komutla Docker Hub'dan en yeni Ultralytics Docker imajını çek:
sudo docker pull ultralytics/ultralytics:latestUltralytics Docker görüntülerini kullanmak, aynı yazılımı ve bağımlılıkları çoğaltarak farklı makinelerde tutarlı bir ortam sağlar. Bu özellik, ekipler arası iş birliği yapmak, modelleri çeşitli donanımlarda çalıştırmak ve model dağıtımlarını yeniden üretilebilir tutmak için özellikle kullanışlıdır. Genel NVIDIA GPU eğitimi için
latestkullan veya NVIDIA Jetson cihazı için JetPack sürümüne uygun görüntüyü seç.Öncelikle NVIDIA Container Toolkit paketinin yüklü ve yapılandırılmış olduğundan emin ol. Ardından Ultralytics YOLO'yu GPU desteğiyle çalıştırmak için şu komutu kullan:
sudo docker run -it --ipc=host --device nvidia.com/gpu=all ultralytics/ultralytics:latest # all GPUsBu komut, belirli GPU'larla sınırlandırabileceğin veya AMD ROCm'a geçirebileceğin GPU erişimine sahip bir Docker konteyneri kurar.
YOLO tahmin sonuçlarını Docker kapsayıcısında GUI ile görselleştirmek için Docker'ın görüntü sunucuna erişmesine izin vermen gerekir. X11 kullanan sistemlerde komut şöyledir:
xhost +local:docker && docker run -e DISPLAY=$DISPLAY \ -v /tmp/.X11-unix:/tmp/.X11-unix \ -v ~/.Xauthority:/root/.Xauthority \ -it --ipc=host ultralytics/ultralytics:latestWayland kullanan sistemlerde şu komutu kullan:
xhost +local:docker && docker run -e DISPLAY=$DISPLAY \ -v $XDG_RUNTIME_DIR/$WAYLAND_DISPLAY:/tmp/$WAYLAND_DISPLAY \ --net=host -it --ipc=host ultralytics/ultralytics:latestKapsayıcı içinde
show=Truekullanmadan önce, Docker Kapsayıcısında grafik kullanıcı arayüzü (GUI) uygulamalarını çalıştırma bölümünde açıklandığı gibi OpenCV'nin GUI sürümünü yükle.Evet, yerel dizinleri
-vbayrağını kullanarak Ultralytics Docker kapsayıcısına bağlayabilirsin:sudo docker run -it --ipc=host --device nvidia.com/gpu=all -v /path/on/host:/path/in/container ultralytics/ultralytics:latest/path/on/hostyerine yerel makinenin dizinini,/path/in/containeryerine de kapsayıcı içindeki istediğin yolu yaz. Bu yapılandırma, kapsayıcı içinde yerel dosyalarınla çalışmanı sağlar. Daha fazla bilgi için Dosyalara Erişilebilirlik Hakkında Not bölümüne başvur.
Yorumlar14
Bir soru sor, sonuçlarını paylaş veya başka birine yardım et.
Letícia RamaHello,
Is this workflow suitable for other YOLO families, such as YOLO26?
Glenn JocherUltralyticsYes, the same workflow supports YOLO26 and other model families available in the
ultralyticspackage—use an up-to-date official image and specify the appropriate weights, such asmodel=yolo26n.pt. See the Docker Quickstart Guide for current image options, and feel free to drop any follow-up questions here so the Ultralytics team can help.1
Letícia RamaRight Glenn, thanks
lauravchrobak
It looks like the, "Running Ultralytics in Docker Container" section is duplicated here
HellaPinot
Hello! I have been testing running yolov8 inside a container, things seem to work well however after a somewhat random amount of time the inference hangs with no error output.
I know the container hasn't crashed as I am reading events from a processing queue and I can see new partitions are being allocated on another thread.
I'm running two models one after the other (different sizes and detection classes), so I'm wondering if this could be the root of the issue? At no point would they be running at the same time.
I believe it is happening exactly when I call predict. Its hard to debug as again it happens very randomly and there is not output from the container, it seems like there might be an infinite loop somewhere thats stopping it from continuing.
Curious if anything like this has been encountered before?
Glenn JocherUltralyticsHello! 👋
It sounds like a tricky issue, especially since it occurs randomly. Here are a few suggestions that might help you isolate or resolve the problem:
-
Logging and Monitoring: Enhance the logging within your container. Consider logging the input sizes and other relevant data before the prediction call, and make sure you're logging any exceptions that could be silently caught.
-
Resource Checks: Ensure that there are no resource starvation issues, such as GPU memory not being freed up properly. Tools like
nvidia-smican help monitor GPU usage. -
Sequential Model Loading: Although the models are run sequentially and not in parallel, it could be beneficial to explicitly clear the memory after each model's predictions are done. This can be done by deleting model objects and calling
torch.cuda.empty_cache()if you are using PyTorch. -
Hardware Testing: Run your container pointing the inference to CPU only for a time to see if the problem persists. This could help determine if the issue is related to GPU computation or not.
-
Reproducibility Tactic: Since the issue is sporadic, try to determine if there’s a specific type of input or specific conditions under which this occurs more frequently.
If these suggestions don't help, please provide more details or code snippets, and I’d be happy to dive deeper into this!
Let me know how it goes!
-
HWKevinhwk
I want to install ultralytics using docker on top of NVIDIA TX2, is there a detailed procedure? The reason for this question is that after entering the command nvidia-smi in the TX2 terminal, the output is command not found, and I'm worried that the steps in the document above are not applicable to TX2.
Paula DerrengerUltralytics(düzenlendi)@HWKevinhwk hey there! 🚀 Setting up Ultralytics on NVIDIA TX2 with Docker can be a bit tricky if
nvidia-smiis missing, but no worries.For NVIDIA Jetson platforms like TX2,
nvidia-smiis typically not available, and you'll usetegrastatsinstead to monitor the GPU. The Jetson TX2 is supported on JetPack 4, so install JetPack 4 first, as it includes the NVIDIA drivers and libraries needed for GPU acceleration. Jetson devices use the Docker integration provided through JetPack with--runtime=nvidiarather than--gpus all. Then pull and run the Ultralytics Docker image for JetPack 4:t=ultralytics/ultralytics:latest-jetson-jetpack4 sudo docker pull $t && sudo docker run -it --ipc=host --runtime=nvidia $tSee the NVIDIA Jetson guide for details. If you encounter any specific issues, feel free to drop them here. Happy detecting! 🎉
HWKevinhwk
Is there a detailed tutorial on deploying yolov8 on jetson TX2 using docker? I am pulling images docker pull ultralytics/ultralytics:latest-jetson terminal will downloading pause, long time pulling images unsuccessful, repeated attempts still so, any solution please?
Paula DerrengerUltralytics(düzenlendi)@HWKevinhwk hey there! 😊
It sounds like you're facing issues with the Docker image pull for the Jetson TX2. This might be due to network issues or Docker Hub delays, or to using a tag that does not exist.
Here's a simplified breakdown to get you started on the TX2 using Docker:
-
Ensure JetPack is installed: The TX2 is supported on JetPack 4, which includes the GPU drivers necessary for Docker integration with the Jetson GPU.
-
Install Docker:
sudo apt-get install docker.io -
NVIDIA runtime support (JetPack should handle this):
nvidia-smidoesn't work on Jetson, so verify thenvidiaruntime withdocker info | grep -i runtime. -
Pull the Docker image for Jetson. Pulling large Docker images can be challenging on slower networks:
sudo docker pull ultralytics/ultralytics:latest-jetson-jetpack4If you keep facing issues while pulling the image, try restarting your Docker service or check your network settings. Sometimes, using a different network can help too!
-
Run the Image:
sudo docker run -it --ipc=host --runtime=nvidia ultralytics/ultralytics:latest-jetson-jetpack4
This should set you on the right path to running Ultralytics YOLO on your Jetson TX2. If the problem persists, it might be worth checking Docker's log or discussing this issue further with your network admin or on Docker forums! 😄
Happy coding! 🚀
-
Peter-coding
Hey! I trained a YOLOv8 model on my local computer. I have the best.pt file, and I can use it in CLI (conda) for predict. I want to make a python app, which uses this best.pt file, and I want to containerize it. Is it possible to write the full python app (it is just a few lines of code, which runs the detection, then writes the detection result to a database), then containerize it, and able to use it anywhere? Thank you! :D
Paula DerrengerUltralyticsHey there! 😊
Absolutely, you can absolutely containerize your Python app that uses the
best.ptmodel! Here's a quick guide:-
Create Your Python App: Just like you mentioned, write your Python code that performs the detection and interacts with the database.
-
Dockerize Your Application:
-
Dockerfile: Create a Dockerfile in your project directory. Here's a simple example that uses Ultralytics' Docker image as a base:
FROM ultralytics/ultralytics:latest WORKDIR /app COPY . /app RUN pip install -r requirements.txt # Assuming you have a requirements.txt CMD ["python", "your_script.py"] -
Build Your Docker Image: Run the following command in your project directory:
sudo docker build -t your-app-name . -
Run Your Container: To run your container, especially if you're planning to use GPU, you might want to specify
--gpus all:sudo docker run -it --ipc=host --gpus all your-app-nameFor accessing local files, consider mounting a volume as described in the Docker Quickstart Guide.
-
-
Deployment: With your Docker image built, you can now deploy and run it anywhere that Docker is supported. If using a GPU, ensure the host machine supports NVIDIA GPUs and has the necessary drivers and Docker configured correctly.
That's it! You should be able to use your model within a containerized app now. If you hit any snags, double-check the Docker Quickstart Guide for Ultralytics for more details. Happy coding! 😄
-
udayzee05
DEPRECATION NOTICE The nvidia-docker wrapper is no longer supported, and the NVIDIA Container Toolkit has been extended to allow users to configure Docker to use the NVIDIA Container Runtime. For further instructions, see the NVIDIA Container Toolkit documentation and specifically the install guide.22 Jan 2024
Paula DerrengerUltralytics(düzenlendi)Hey there! 👋 Thanks for bringing up the deprecation notice regarding the nvidia-docker wrapper. You're right; use the NVIDIA Container Toolkit for GPU support in Docker containers. Here's how to set it up on Ubuntu/Debian, as described in our Docker Quickstart Guide:
# Add the NVIDIA Container Toolkit repository curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg \ && curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list \ | sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' \ | sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list # Install the NVIDIA Container Toolkit sudo apt-get update sudo apt-get install -y nvidia-container-toolkitAnd to verify that the GPU devices are available to Docker:
nvidia-ctk cdi listThis should list entries such as
nvidia.com/gpu=all, indicating that your Docker setup can leverage GPU acceleration. 🚀For more detailed instructions and tips on using Ultralytics with Docker, including mounting local directories and running containers, check out our Docker Quickstart Guide. Happy coding!