YOLO26에서 TF SavedModel 형식으로 내보내는 방법 알아보기
머신러닝 모델을 배포하는 일은 까다로울 수 있습니다. 하지만 효율적이고 유연한 모델 형식을 사용하면 작업을 더 쉽게 수행할 수 있습니다. TF SavedModel은 머신러닝 모델을 일관된 방식으로 저장하고 로드하기 위한 TensorFlow의 표준 직렬화 형식입니다. TensorFlow 모델을 패키징하여 다양한 장치와 시스템 간에 이동하고 사용할 수 있게 합니다.
Ultralytics YOLO26 모델을 TF SavedModel로 내보내면 다양한 플랫폼과 환경에 배포하는 데 도움이 됩니다. 이 가이드에서는 모델을 TF SavedModel 형식으로 변환하는 방법을 설명하여 다양한 장치에서 모델을 사용한 추론을 간소화합니다.
TF SavedModel로 내보내야 하는 이유#
아래에 나온 것처럼 TensorFlow SavedModel 형식은 Google이 개발한 TensorFlow 에코시스템의 일부입니다. TensorFlow 모델을 저장하고 직렬화하도록 설계되었습니다. 이 형식은 아키텍처, 가중치, 컴파일 정보 등 모델의 전체 세부 정보를 포함합니다. 따라서 다양한 환경에서 모델을 쉽게 공유하고 배포하며 학습을 이어갈 수 있습니다.
TF SavedModel의 주요 장점은 호환성입니다. TensorFlow Serving, LiteRT(이전 명칭 TensorFlow Lite), TensorFlow.js와 원활하게 작동합니다. 이러한 호환성 덕분에 웹 및 모바일 애플리케이션을 포함한 다양한 플랫폼에서 모델을 쉽게 공유하고 배포할 수 있습니다. TF SavedModel 형식은 연구와 프로덕션 모두에 유용합니다. 애플리케이션 전반에서 모델을 관리하는 통합된 방법을 제공합니다.
TF SavedModel의 주요 기능#
TF SavedModel이 AI 개발자에게 유용한 선택지가 되는 주요 기능은 다음과 같습니다:
-
이식성: TF SavedModel은 언어 중립적이고 복구 가능하며 독립적인 직렬화 형식을 제공합니다. 이를 통해 상위 수준 시스템과 도구가 TensorFlow 모델을 생성하고, 사용하고, 변환할 수 있습니다. SavedModel은 다양한 플랫폼과 환경에서 쉽게 공유하고 배포할 수 있습니다.
-
간편한 배포: TF SavedModel은 연산 그래프, 학습된 매개변수, 필요한 메타데이터를 단일 패키지로 묶습니다. 모델을 만든 원본 코드가 없어도 쉽게 로드하여 추론에 사용할 수 있습니다. 따라서 다양한 프로덕션 환경에서 TensorFlow 모델을 간단하고 효율적으로 배포할 수 있습니다.
-
에셋 관리: TF SavedModel은 어휘집, 임베딩, 조회 테이블과 같은 외부 에셋을 포함할 수 있습니다. 이러한 에셋은 그래프 정의 및 변수와 함께 저장되므로 모델을 로드할 때 사용할 수 있습니다. 이 기능은 외부 리소스에 의존하는 모델의 관리와 배포를 간소화합니다.
TF SavedModel을 사용한 배포 옵션#
YOLO26 모델을 TF SavedModel 형식으로 내보내기 전에 이 형식이 사용되는 일반적인 배포 시나리오를 소개합니다.
TF SavedModel은 머신러닝 모델을 배포할 수 있는 다양한 옵션을 제공합니다.
-
TensorFlow Serving: TensorFlow Serving은 프로덕션 환경을 위해 설계된 유연한 고성능 서빙 시스템입니다. TF SavedModel을 기본적으로 지원하므로 클라우드 플랫폼, 온프레미스 서버 또는 Raspberry Pi와 같은 엣지 장치에 모델을 쉽게 배포하고 서빙할 수 있습니다.
-
클라우드 플랫폼: Google Cloud Platform (GCP), Amazon Web Services (AWS), Microsoft Azure와 같은 주요 클라우드 제공업체는 TF SavedModel을 포함한 TensorFlow 모델의 배포 및 실행 서비스를 제공합니다. 이러한 서비스는 확장 가능하고 관리되는 인프라를 제공하므로 모델을 쉽게 배포하고 확장할 수 있습니다.
-
모바일 및 임베디드 장치: 모바일, 임베디드, IoT 장치에서 머신러닝 모델을 실행하기 위한 경량 솔루션인 LiteRT(이전 명칭: TensorFlow Lite)는 TF SavedModel을 LiteRT 형식으로 변환하는 기능을 지원합니다. 이를 통해 스마트폰과 태블릿부터 마이크로컨트롤러와 엣지 장치까지 다양한 장치에 모델을 배포할 수 있습니다.
-
TensorFlow Runtime: TensorFlow Runtime(
tfrt)은 TensorFlow 그래프를 실행하기 위한 고성능 런타임입니다. C++ 환경에서 TF SavedModel을 로드하고 실행하는 저수준 API를 제공합니다. TensorFlow Runtime은 표준 TensorFlow 런타임보다 뛰어난 성능을 제공합니다. 지연 시간이 짧은 추론과 기존 C++ 코드베이스와의 긴밀한 통합이 필요한 배포 시나리오에 적합합니다.
지원 작업#
TF SavedModel 내보내기는 Ultralytics의 7개 작업을 모두 지원합니다. 시맨틱 세그멘테이션과 깊이 추정은 해당 헤드를 탑재한 유일한 제품군인 YOLO26에서만 사용할 수 있습니다.
YOLO26 모델을 TF SavedModel로 내보내기#
YOLO26 모델을 TF SavedModel 형식으로 내보내면 다양한 플랫폼에서 모델의 적응성과 배포 편의성을 높일 수 있습니다.
설치#
필수 패키지를 설치하려면 다음을 실행하세요:
# Install the required package for YOLO26
pip install ultralytics설치 절차에 대한 자세한 지침과 모범 사례는 Ultralytics 설치 가이드를 참조하세요. YOLO26에 필요한 패키지를 설치하는 중 문제가 발생하면 해결 방법과 팁을 확인할 수 있는 일반적인 문제 가이드를 참조하세요.
Python 3.13 이상을 사용하는 macOS에서는 TF SavedModel 내보내기를 지원하지 않습니다.
사용법#
모든 Ultralytics YOLO26 모델은 별도의 설정 없이 내보내기를 지원하도록 설계되어 있어 원하는 배포 워크플로에 쉽게 통합할 수 있습니다. 애플리케이션에 가장 적합한 설정을 선택하려면 지원되는 내보내기 형식 및 구성 옵션 전체 목록을 확인하세요.
TF SavedModel 형식은 내보내기, 예측, 검증 모드를 지원합니다. 모델을 내보낸 다음 내보낸 모델을 로드하여 추론을 실행하거나 정확도를 검증하세요.
from ultralytics import YOLO
# YOLO26 모델 로드
model = YOLO("yolo26n.pt")
# 모델을 TF SavedModel 형식으로 내보내기
model.export(format="saved_model") # creates 'yolo26n_saved_model'from ultralytics import YOLO
# 내보낸 TF SavedModel 모델 로드
model = YOLO("./yolo26n_saved_model")
# 추론 실행
results = model("https://ultralytics.com/images/bus.jpg")from ultralytics import YOLO
# 내보낸 TF SavedModel 모델 로드
model = YOLO("./yolo26n_saved_model")
# COCO8 데이터셋에서 정확도 검증
metrics = model.val(data="coco8.yaml")내보내기 인수#
| 인수 | 유형 | 기본값 | 설명 |
|---|---|---|---|
format | str | 'saved_model' | 내보낸 모델의 대상 형식으로, 다양한 배포 환경과의 호환성을 정의합니다. |
imgsz | int 또는 tuple | 640 | 모델 입력에 사용할 이미지 크기입니다. 정사각형 이미지에는 정수를 사용하고, 특정 크기에는 튜플 (height, width)을 사용할 수 있습니다. |
quantize | int 또는 str | None | 양자화 정밀도: 8은 SavedModel을 FP32로 유지하고, INT8 .tflite 파일을 같은 위치에 추가합니다(data/fraction으로 보정). 또는 32를 사용하거나 설정하지 않으면 FP32가 적용됩니다. SavedModel 내보내기에서는 FP16을 지원하지 않습니다. 더 이상 사용되지 않는 int8 플래그를 대체합니다. |
opset | int | None | 중간 ONNX 그래프의 ONNX opset 버전을 지정합니다. 설정하지 않으면 opset 18을 사용하며(PyTorch < 2.4에서는 더 낮은 버전), 설치된 onnx 버전으로 제한됩니다. RT-DETR은 19를 사용합니다. |
nms | bool, 선택 사항 | None | 원시 출력(None, 기본값), 내장 NMS(True) 또는 NMS가 없는 head(False)를 선택합니다. |
batch | int | 1 | 내보내기 모델의 배치 추론 크기 또는 predict 모드에서 내보낸 모델이 동시에 처리할 최대 이미지 수를 지정합니다. |
data | str | None | 양자화에 필수적인 데이터셋 YAML 경로입니다. 분류 작업의 경우 데이터셋 디렉터리 또는 기본 제공 데이터셋 이름을 사용합니다. quantize=8이 지정되지 않으면 Ultralytics가 모델 작업에 맞는 기본 보정 데이터셋을 선택합니다. |
fraction | float, int 또는 list | 1.0 | 비율, 이미지 수 또는 [train, val, test] 비율/개수로 지정하는 보정 하위 집합입니다. 항목이 두 개인 목록에서는 test이 전체로 설정되고, 0는 건너뜁니다. |
device | str | None | 내보내기에 사용할 디바이스를 지정합니다. CPU는 device=cpu, Apple 실리콘용 MPS는 device=mps입니다. |
내보내기 프로세스에 관한 자세한 내용은 내보내기에 관한 Ultralytics 문서 페이지를 참조하세요.
내보낸 YOLO26 TF SavedModel 모델 배포#
YOLO26 모델을 TF SavedModel 형식으로 내보냈다면 다음 단계는 모델을 배포하는 것입니다. 앞서 사용 예제 코드에서 보여 준 것처럼 TF SavedModel 모델을 실행하는 가장 기본적이고 권장되는 첫 단계는 YOLO("yolo26n_saved_model/") 메서드를 사용하는 것입니다.
TF SavedModel 모델 배포에 관한 자세한 지침은 다음 리소스를 참조하세요:
-
TensorFlow Serving: TensorFlow Serving을 사용하여 TF SavedModel 모델을 배포하는 개발자 문서입니다.
-
Node.js에서 TensorFlow SavedModel 실행: 변환 없이 Node.js에서 TensorFlow SavedModel을 직접 실행하는 방법을 다루는 TensorFlow 블로그 게시물입니다.
-
클라우드에 배포하기: TensorFlow SavedModel 모델을 Cloud AI Platform에 배포하는 방법을 다룬 TensorFlow 블로그 게시물입니다.
요약#
이 가이드에서는 Ultralytics YOLO26 모델을 TF SavedModel 형식으로 내보내는 방법을 살펴보았습니다. TF SavedModel로 내보내면 다양한 플랫폼에서 YOLO26 모델을 유연하게 최적화하고 배포하며 확장할 수 있습니다.
사용 방법에 관한 자세한 내용은 TF SavedModel 공식 문서를 참조하세요.
자주 묻는 질문#
Ultralytics YOLO 모델을 TensorFlow SavedModel 형식으로 간편하게 내보낼 수 있습니다. Python 또는 CLI를 사용하면 됩니다:
YOLO26을 TF SavedModel로 내보내기from ultralytics import YOLO # YOLO26 모델 로드 model = YOLO("yolo26n.pt") # 모델을 TF SavedModel 형식으로 내보내기 model.export(format="saved_model") # creates 'yolo26n_saved_model' # 추론을 위해 내보낸 TF SavedModel 로드 tf_savedmodel_model = YOLO("./yolo26n_saved_model") results = tf_savedmodel_model("https://ultralytics.com/images/bus.jpg")자세한 내용은 Ultralytics 내보내기 문서를 참조하세요.
TensorFlow SavedModel 형식은 모델 배포에 여러 이점을 제공합니다:
- 이식성: 언어에 구애받지 않는 형식이므로 다양한 환경에서 모델을 쉽게 공유하고 배포할 수 있습니다.
- 호환성: TensorFlow Serving, LiteRT, TensorFlow.js와 같은 도구를 지원하며, 이러한 도구는 웹 및 모바일 애플리케이션을 비롯한 다양한 플랫폼에 모델을 배포하는 데 필수적입니다.
- 완전한 캡슐화: 모델 아키텍처, 가중치, 컴파일 정보를 인코딩하므로 모델을 간편하게 공유하고 학습을 이어갈 수 있습니다.
더 많은 이점과 배포 옵션은 Ultralytics YOLO 모델 배포 옵션을 확인하세요.
TF SavedModel은 다음을 비롯한 다양한 환경에 배포할 수 있습니다:
- TensorFlow Serving: 확장성과 고성능 모델 서빙이 필요한 프로덕션 환경에 적합합니다.
- 클라우드 플랫폼: 확장 가능한 모델 배포를 위해 Google Cloud Platform(GCP), Amazon Web Services(AWS), Microsoft Azure와 같은 주요 클라우드 서비스를 지원합니다.
- 모바일 및 임베디드 장치: TF SavedModel을 LiteRT(이전 명칭: TensorFlow Lite)로 변환하면 모바일 장치, IoT 장치, 마이크로컨트롤러에 배포할 수 있습니다.
- TensorFlow 런타임: 더 높은 성능과 낮은 지연 시간의 추론이 필요한 C++ 환경에 적합합니다.
자세한 배포 옵션은 TensorFlow 모델 배포에 관한 공식 가이드를 참조하세요.
YOLO26 모델을 내보내려면
ultralytics패키지를 설치해야 합니다. 터미널에서 다음 명령어를 실행하세요:pip install ultralytics자세한 설치 안내와 모범 사례는 Ultralytics 설치 가이드를 참조하세요. 문제가 발생하면 일반적인 문제 가이드를 확인하세요.
TF SavedModel 형식은 다음과 같은 기능을 제공하므로 AI 개발자에게 유용합니다:
- 이식성: 다양한 환경에서 모델을 공유하고 배포할 수 있습니다.
- 간편한 배포: 계산 그래프, 학습된 파라미터, 메타데이터를 하나의 패키지에 캡슐화하여 로드와 추론을 간소화합니다.
- 에셋 관리: 어휘와 같은 외부 에셋을 지원하여 모델을 로드할 때 해당 에셋을 사용할 수 있도록 합니다.
자세한 내용은 TensorFlow 공식 문서를 참조하세요.
댓글
질문을 하거나 결과를 공유하거나 다른 사람을 도와주세요.