콘텐츠로 건너뛰기

Ultralytics YOLO11과 함께 사용하는 Triton Inference Server

Triton Inference Server(이전의 TensorRT Inference Server)는 NVIDIA에서 개발한 오픈 소스 소프트웨어 솔루션입니다. NVIDIA GPU에 최적화된 클라우드 추론 솔루션을 제공합니다. Triton은 프로덕션 환경에서 AI 모델의 대규모 배포를 간소화합니다. Ultralytics YOLO11을 Triton Inference Server와 통합하면 확장 가능하고 고성능의 딥 러닝 추론 워크로드를 배포할 수 있습니다. 이 가이드에서는 통합을 설정하고 테스트하는 단계를 제공합니다.



참고: NVIDIA Triton Inference Server 시작하기.

Triton Inference Server는 무엇입니까?

Triton Inference Server는 다양한 AI 모델을 프로덕션 환경에 배포하도록 설계되었습니다. TensorFlow, PyTorch, ONNX Runtime 등 광범위한 딥러닝 및 머신러닝 프레임워크를 지원합니다. 주요 사용 사례는 다음과 같습니다.

  • 단일 서버 인스턴스에서 여러 모델 제공
  • 서버 재시작 없이 동적 모델 로딩 및 언로딩
  • 앙상블 추론을 통해 여러 모델을 함께 사용하여 결과를 얻을 수 있습니다.
  • A/B 테스트 및 롤링 업데이트를 위한 모델 버전 관리

Triton Inference Server의 주요 이점

Ultralytics YOLO11과 Triton Inference Server를 함께 사용하면 다음과 같은 여러 이점이 있습니다.

  • 자동 일괄 처리: AI 요청을 처리하기 전에 함께 그룹화하여 대기 시간을 줄이고 추론 속도를 향상시킵니다.
  • Kubernetes 통합: 클라우드 네이티브 디자인은 AI 애플리케이션 관리 및 확장을 위해 Kubernetes와 원활하게 작동합니다.
  • 하드웨어별 최적화: NVIDIA GPU를 최대한 활용하여 성능을 극대화합니다.
  • 프레임워크 유연성: TensorFlow, PyTorch, ONNX, TensorRT를 포함한 다양한 AI 프레임워크를 지원합니다.
  • 오픈 소스 및 사용자 정의 가능: 특정 요구 사항에 맞게 수정할 수 있어 다양한 AI 애플리케이션에 대한 유연성을 보장합니다.

필수 조건

계속하기 전에 다음 필수 구성 요소가 있는지 확인하십시오.

  • 머신에 Docker가 설치되어 있습니다.
  • 설치 tritonclient: 
    pip install tritonclient[all]

YOLO11을 ONNX 형식으로 내보내기

Triton에 모델을 배포하기 전에 ONNX 형식으로 내보내야 합니다. ONNX(Open Neural Network Exchange)는 서로 다른 딥 러닝 프레임워크 간에 모델을 전송할 수 있는 형식입니다. export 다음의 함수 YOLO 클래스:

from ultralytics import YOLO

# Load a model
model = YOLO("yolo11n.pt")  # load an official model

# Retrieve metadata during export. Metadata needs to be added to config.pbtxt. See next section.
metadata = []


def export_cb(exporter):
    metadata.append(exporter.metadata)


model.add_callback("on_export_end", export_cb)

# Export the model
onnx_file = model.export(format="onnx", dynamic=True)

Triton 모델 저장소 설정

Triton 모델 저장소는 Triton이 모델에 접근하여 로드할 수 있는 저장 위치입니다.

  1. 필요한 디렉토리 구조를 만듭니다.

    from pathlib import Path

# Define paths
model_name = "yolo"
triton_repo_path = Path("tmp") / "triton_repo"
triton_model_path = triton_repo_path / model_name

# Create directories
(triton_model_path / "1").mkdir(parents=True, exist_ok=True)

  2. 내보낸 ONNX 모델을 Triton 저장소로 이동합니다.

    from pathlib import Path

# Move ONNX model to Triton Model path
Path(onnx_file).rename(triton_model_path / "1" / "model.onnx")

# Create config file
(triton_model_path / "config.pbtxt").touch()

data = """
# Add metadata
parameters {
  key: "metadata"
  value {
    string_value: "%s"
  }
}

# (Optional) Enable TensorRT for GPU inference
# First run will be slow due to TensorRT engine conversion
optimization {
  execution_accelerators {
    gpu_execution_accelerator {
      name: "tensorrt"
      parameters {
        key: "precision_mode"
        value: "FP16"
      }
      parameters {
        key: "max_workspace_size_bytes"
        value: "3221225472"
      }
      parameters {
        key: "trt_engine_cache_enable"
        value: "1"
      }
      parameters {
        key: "trt_engine_cache_path"
        value: "/models/yolo/1"
      }
    }
  }
}
""" % metadata[0]  # noqa

with open(triton_model_path / "config.pbtxt", "w") as f:
    f.write(data)

Triton 추론 서버 실행

Docker를 사용하여 Triton 추론 서버를 실행합니다:

import contextlib
import subprocess
import time

from tritonclient.http import InferenceServerClient

# Define image https://catalog.ngc.nvidia.com/orgs/nvidia/containers/tritonserver
tag = "nvcr.io/nvidia/tritonserver:24.09-py3"  # 8.57 GB

# Pull the image
subprocess.call(f"docker pull {tag}", shell=True)

# Run the Triton server and capture the container ID
container_id = (
    subprocess.check_output(
        f"docker run -d --rm --gpus 0 -v {triton_repo_path}:/models -p 8000:8000 {tag} tritonserver --model-repository=/models",
        shell=True,
    )
    .decode("utf-8")
    .strip()
)

# Wait for the Triton server to start
triton_client = InferenceServerClient(url="localhost:8000", verbose=False, ssl=False)

# Wait until model is ready
for _ in range(10):
    with contextlib.suppress(Exception):
        assert triton_client.is_model_ready(model_name)
        break
    time.sleep(1)

그런 다음 Triton Server 모델을 사용하여 추론을 실행합니다.

from ultralytics import YOLO

# Load the Triton Server model
model = YOLO("http://localhost:8000/yolo", task="detect")

# Run inference on the server
results = model("path/to/image.jpg")

컨테이너 정리:

# Kill and remove the container at the end of the test
subprocess.call(f"docker kill {container_id}", shell=True)

TensorRT 최적화 (선택 사항)

성능을 더욱 향상시키려면 Triton Inference Server와 함께 TensorRT를 사용할 수 있습니다. TensorRT는 추론 속도를 크게 향상시킬 수 있는 NVIDIA GPU용으로 특별히 제작된 고성능 딥 러닝 최적화 도구입니다.

Triton에서 TensorRT를 사용할 때의 주요 이점:

  • 최적화되지 않은 모델에 비해 최대 36배 빠른 추론
  • 최대 GPU 활용을 위한 하드웨어별 최적화
  • 정확도를 유지하면서 감소된 정밀도 형식(INT8, FP16) 지원
  • 계산 오버헤드를 줄이기 위한 레이어 융합

TensorRT를 직접 사용하려면 YOLO11 모델을 TensorRT 형식으로 내보내면 됩니다.

from ultralytics import YOLO

# Load the YOLO11 model
model = YOLO("yolo11n.pt")

# Export the model to TensorRT format
model.export(format="engine")  # creates 'yolo11n.engine'

TensorRT 최적화에 대한 자세한 내용은 TensorRT 통합 가이드를 참조하십시오.

위의 단계를 따르면 Ultralytics YOLO11 모델을 Triton Inference Server에 효율적으로 배포하고 실행하여 딥 러닝 추론 작업을 위한 확장 가능하고 고성능 솔루션을 제공할 수 있습니다. 문제가 발생하거나 추가 질문이 있는 경우 공식 Triton 설명서를 참조하거나 Ultralytics 커뮤니티에 문의하여 지원을 받으십시오.

FAQ

NVIDIA Triton Inference Server로 Ultralytics YOLO11을 어떻게 설정합니까?

Ultralytics YOLO11을(를) NVIDIA Triton Inference Server와(과) 함께 설정하는 데에는 몇 가지 주요 단계가 있습니다.

  1. YOLO11을 ONNX 형식으로 내보내기:

    from ultralytics import YOLO

# Load a model
model = YOLO("yolo11n.pt")  # load an official model

# Export the model to ONNX format
onnx_file = model.export(format="onnx", dynamic=True)

  2. Triton 모델 저장소 설정:

    from pathlib import Path

# Define paths
model_name = "yolo"
triton_repo_path = Path("tmp") / "triton_repo"
triton_model_path = triton_repo_path / model_name

# Create directories
(triton_model_path / "1").mkdir(parents=True, exist_ok=True)
Path(onnx_file).rename(triton_model_path / "1" / "model.onnx")
(triton_model_path / "config.pbtxt").touch()

  3. Triton 서버 실행:

    import contextlib
import subprocess
import time

from tritonclient.http import InferenceServerClient

# Define image https://catalog.ngc.nvidia.com/orgs/nvidia/containers/tritonserver
tag = "nvcr.io/nvidia/tritonserver:24.09-py3"

subprocess.call(f"docker pull {tag}", shell=True)

container_id = (
    subprocess.check_output(
        f"docker run -d --rm --gpus 0 -v {triton_repo_path}:/models -p 8000:8000 {tag} tritonserver --model-repository=/models",
        shell=True,
    )
    .decode("utf-8")
    .strip()
)

triton_client = InferenceServerClient(url="localhost:8000", verbose=False, ssl=False)

for _ in range(10):
    with contextlib.suppress(Exception):
        assert triton_client.is_model_ready(model_name)
        break
    time.sleep(1)

이 설정은 고성능 AI 모델 추론을 위해 Triton Inference Server에서 YOLO11 모델을 대규모로 효율적으로 배포하는 데 도움이 될 수 있습니다.

Ultralytics YOLO11과 NVIDIA Triton Inference Server를 함께 사용하면 어떤 이점이 있습니까?

NVIDIA Triton Inference Server와 Ultralytics YOLO11을 통합하면 다음과 같은 여러 가지 이점이 있습니다.

  • 확장 가능한 AI 추론: Triton은 단일 서버 인스턴스에서 여러 모델을 제공할 수 있으며, 동적 모델 로딩 및 언로딩을 지원하므로 다양한 AI 워크로드에 매우 적합합니다.
  • 높은 성능: NVIDIA GPU에 최적화된 Triton Inference Server는 객체 감지와 같은 실시간 애플리케이션에 적합한 고속 추론 작업을 보장합니다.
  • 앙상블 및 모델 버전 관리: Triton의 앙상블 모드를 사용하면 여러 모델을 결합하여 결과를 개선할 수 있으며, 모델 버전 관리는 A/B 테스트 및 롤링 업데이트를 지원합니다.
  • 자동 일괄 처리: Triton은 여러 추론 요청을 자동으로 그룹화하여 처리량을 크게 향상시키고 대기 시간을 줄입니다.
  • 단순화된 배포: 전체 시스템을 점검할 필요 없이 AI 워크플로우를 점진적으로 최적화하여 효율적으로 확장하기가 더 쉽습니다.

Triton을 사용하여 YOLO11을 설정하고 실행하는 방법에 대한 자세한 지침은 설정 가이드를 참조하십시오.

Triton Inference Server를 사용하기 전에 YOLO11 모델을 ONNX 포맷으로 내보내야 하는 이유는 무엇인가요?

NVIDIA Triton Inference Server에 배포하기 전에 Ultralytics YOLO11 모델에 ONNX(Open Neural Network Exchange) 형식을 사용하면 다음과 같은 주요 이점이 있습니다.

  • 상호 운용성: ONNX 형식은 다양한 딥 러닝 프레임워크(예: PyTorch, TensorFlow) 간의 전송을 지원하여 더 넓은 호환성을 보장합니다.
  • 최적화: Triton을 포함한 많은 배포 환경에서 ONNX에 대해 최적화하여 더 빠른 추론과 더 나은 성능을 제공합니다.
  • 쉬운 배포: ONNX는 다양한 프레임워크 및 플랫폼에서 널리 지원되므로 다양한 운영 체제 및 하드웨어 구성에서 배포 프로세스를 간소화합니다.
  • 프레임워크 독립성: ONNX로 변환되면 모델은 더 이상 원래 프레임워크에 종속되지 않아 이식성이 향상됩니다.
  • 표준화: ONNX는 표준화된 표현을 제공하여 다양한 AI 프레임워크 간의 호환성 문제를 해결하는 데 도움을 줍니다.

모델을 내보내려면 다음을 사용하십시오:

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
onnx_file = model.export(format="onnx", dynamic=True)

이 프로세스를 완료하려면 ONNX 통합 가이드의 단계를 따르십시오.

Triton Inference Server에서 Ultralytics YOLO11 모델을 사용하여 추론을 실행할 수 있습니까?

예, Ultralytics YOLO11 모델을 사용하여 NVIDIA Triton Inference Server에서 추론을 실행할 수 있습니다. Triton Model Repository에 모델이 설정되고 서버가 실행 중이면 다음과 같이 모델을 로드하고 추론을 실행할 수 있습니다.

from ultralytics import YOLO

# Load the Triton Server model
model = YOLO("http://localhost:8000/yolo", task="detect")

# Run inference on the server
results = model("path/to/image.jpg")

이 방법을 사용하면 익숙한 Ultralytics YOLO 인터페이스를 사용하면서 Triton의 최적화를 활용할 수 있습니다. YOLO11을 사용하여 Triton Server를 설정하고 실행하는 방법에 대한 자세한 가이드는 Triton 추론 서버 실행 섹션을 참조하십시오.

Ultralytics YOLO11은 TensorFlow 및 PyTorch 모델과 비교하여 배포 시 어떤 차이가 있습니까?

Ultralytics YOLO11은(는) 배포를 위해 TensorFlow 및 PyTorch 모델과 비교하여 다음과 같은 몇 가지 고유한 이점을 제공합니다.

  • 실시간 성능: 실시간 객체 감지 작업에 최적화된 YOLO11은 최첨단 정확도와 속도를 제공하므로 라이브 비디오 분석이 필요한 애플리케이션에 이상적입니다.
  • 사용 편의성: YOLO11은 Triton Inference Server와 원활하게 통합되고 다양한 내보내기 형식(ONNX, TensorRT, CoreML)을 지원하므로 다양한 배포 시나리오에 유연하게 적용할 수 있습니다.
  • 고급 기능: YOLO11에는 동적 모델 로딩, 모델 버전 관리 및 앙상블 추론과 같은 기능이 포함되어 있으며, 이는 확장 가능하고 안정적인 AI 배포에 매우 중요합니다.
  • 단순화된 API: Ultralytics API는 다양한 배포 대상에서 일관된 인터페이스를 제공하여 학습 곡선과 개발 시간을 줄여줍니다.
  • 엣지 최적화: YOLO11 모델은 엣지 배포를 염두에 두고 설계되었으며, 리소스가 제한된 장치에서도 뛰어난 성능을 제공합니다.

자세한 내용은 모델 내보내기 가이드에서 배포 옵션을 비교해 보세요.



📅 1년 전에 생성됨 ✏️ 5개월 전에 업데이트됨
glenn-jocher Y-T-G UltralyticsAssistant leonnil

댓글