Bảo mật sẵn sàng cho doanh nghiệp: Tuân thủ ISO 27001 + SOC 2 Type I.

Link to this sectionOn Premise#

On Premise kết nối các worker CPU và tùy chọn GPU NVIDIA trên máy chủ Linux, Apple Silicon macOS hoặc Windows của bạn với Ultralytics Platform. Platform vẫn là lớp điều khiển được lưu trữ (hosted control plane) cho giao diện người dùng, xác thực, metadata, chú thích và điều phối công việc, trong khi mọi pixel và artifact của model được huấn luyện đều nằm tại cơ sở của bạn.

Máy chủ của bạn cần Docker và quyền truy cập HTTPS ra bên ngoài đến Platform. Trình cài đặt sẽ thêm Docker tự động nếu thiếu, vì vậy quá trình thiết lập thông thường chỉ cần một câu lệnh.

Link to this sectionYêu cầu hệ thống#

Tối thiểuKhuyến nghị
Hệ điều hànhLinux 64-bit, Apple Silicon macOS, hoặc Windows x86-64 với WSL 2Các bản phát hành OS và Docker mới nhất
CPU4 nhân8 nhân trở lên cho việc huấn luyện trên CPU
Bộ nhớ8 GB RAM16 GB trở lên
Lưu trữ20 GB trống cộng với không gian cho các dataset và modelSSD với dung lượng trống ít nhất gấp đôi kích thước dataset đang làm việc cộng với các model artifact
MạngHTTPS ra bên ngoài đến Platform và các container registryBăng thông rộng ổn định để tải image ban đầu

Việc tiếp nhận và huấn luyện trên CPU hoạt động trên cả ba hệ điều hành. Trình cài đặt chọn image arm64 gốc chính thức trên Apple Silicon và ARM Linux, vì vậy các tác vụ nhỏ như YOLO26n trên COCO8 chạy mà không cần giả lập x86. Tăng tốc NVIDIA là tùy chọn; khi không khả dụng, việc huấn luyện sẽ chạy trên CPU.

Link to this sectionRanh giới dữ liệu#

Nằm tại cơ sở của bạnĐược lưu trữ trong Platform
Ảnh và video nguồnTên, đường dẫn, kích thước và các bản sửa đổi của dataset
Các tệp lưu trữ đã giải nén, ảnh NDJSON đã tải xuống, các khung hình videoCác lớp (classes), nhãn, chú thích và phân chia tập dữ liệu
Dữ liệu huấn luyện, checkpoint, trọng số và run artifactTrạng thái công việc, chỉ số vô hướng (scalar metrics) và tình trạng worker

Các thư mục dataset được gắn ở chế độ chỉ đọc. Platform và các worker được lưu trữ của nó không bao giờ nhận được pixel nguồn hoặc pixel dẫn xuất, và các công việc On Premise không bao giờ chuyển sang sử dụng tài nguyên tính toán của Ultralytics hoặc RunPod.

Kết nối On Premise

Platform, xác thực và metadata vẫn được lưu trữ trên cloud. Các worker khởi tạo kết nối HTTPS ra bên ngoài để nhận công việc và báo cáo metadata. On Premise không phải là cài đặt Platform tách biệt hoàn toàn (air-gapped) hay tự lưu trữ toàn bộ, và nó không yêu cầu một instance MongoDB cục bộ.

Link to this sectionKết nối máy chủ#

  1. Mở Ultralytics Platform trên máy chủ Linux, Apple Silicon macOS hoặc Windows có quyền truy cập vào các dataset của bạn.
  2. Đi tới Settings > Integrations và chọn Connect trên thẻ On Premise.
  3. Platform chọn câu lệnh Linux, macOS hoặc Windows được phát hiện. Apple Silicon là bắt buộc trên macOS. Giữ nguyên các giá trị được điền sẵn hoặc thay đổi chúng:
    • Tên máy: On Premise host
    • Thư mục dataset: /datasets trên Linux hoặc ~/Ultralytics/datasets trên macOS và Windows
    • Thư mục model: /models trên Linux hoặc ~/Ultralytics/models trên macOS và Windows
  4. Chọn Create install command. Hộp thoại sẽ cho biết terminal nào cần mở cho hệ điều hành đã chọn.
  5. Sao chép toàn bộ câu lệnh, dán vào terminal đó và chạy. Câu lệnh bao gồm token đăng ký một lần, cài đặt và khởi động Docker khi cần, đồng thời tạo các thư mục đã chọn.
  6. Giữ nguyên hộp thoại. Platform kiểm tra mỗi 500 mili giây và hiển thị máy chủ là đã kết nối khi worker CPU bắt đầu. Worker GPU tự động khởi động khi Docker cung cấp runtime NVIDIA được hỗ trợ.

Token đăng ký hết hạn sau 10 phút và chỉ có thể sử dụng một lần. Worker được cài đặt lưu trữ khóa worker có thể thu hồi trong một tệp môi trường ở chế độ 0600. Nó không bao giờ nhận thông tin xác thực MongoDB của Platform hoặc lưu trữ đám mây. Compose tự động khởi động lại các worker, và thiết lập cấu hình Docker để khởi động khi bật máy trên Linux hoặc khi đăng nhập trên macOS và Windows.

Phần cứng huấn luyện

Việc tiếp nhận và huấn luyện trên CPU chỉ cần Docker. Tăng tốc GPU tùy chọn cũng yêu cầu driver NVIDIA và container runtime được hỗ trợ trên máy chủ.

Link to this sectionTạo một On Premise Dataset#

  1. Đặt dataset bên dưới thư mục dataset đã kết nối. Ví dụ: /datasets/warehousewarehouse bên trong thư mục gốc mặc định.
  2. Trong Platform, chọn New Dataset > On Premise.
  3. Duyệt qua máy chủ được kết nối bằng trình duyệt thư mục giống như cách dùng cho Google Cloud Storage, Amazon S3 và Azure Blob Storage, chọn một thư mục, chọn tác vụ và tạo dataset riêng tư.
  4. Máy chủ lập chỉ mục dataset và báo cáo metadata. Platform không bao giờ tải lên các hình ảnh.

On Premise sử dụng cùng mã tiếp nhận CPU như các lượt tải lên được lưu trữ. Nó hỗ trợ:

  • các tệp ảnh và video riêng lẻ;
  • các tệp lưu trữ ZIP, TAR, TAR.GZ và TGZ;
  • Ultralytics NDJSON và COCO JSON;
  • các dataset YOLO và cấu trúc thư mục phân loại; và
  • các tác vụ detect, segment, pose, OBB và classify, bao gồm cùng cơ chế ánh xạ lớp, suy luận tác vụ, xác thực và xử lý phân chia tập dữ liệu.

Đầu ra lưu trữ là điểm khác biệt duy nhất. Việc tiếp nhận trên cloud có thể thay đổi kích thước hoặc chuẩn hóa hình ảnh và tạo hình thu nhỏ trong bộ nhớ của Platform. On Premise không bao giờ thay đổi kích thước, mã hóa lại, chỉnh sửa hoặc xóa các tệp gốc được gắn. Nội dung lưu trữ, tệp NDJSON từ xa và các khung hình video được lấy mẫu ở tốc độ 1 FPS lên đến 100 khung hình, sau đó đều đặn hơn trên các video dài hơn, chỉ được ghi vào một Docker volume trên máy chủ.

Link to this sectionXem trước và Chú thích#

Platform ủy quyền cho mỗi lần xem trước, sau đó trình duyệt của bạn tải tệp bị ràng buộc bởi bản sửa đổi trực tiếp từ http://localhost:8765 trên cùng máy tính. Không yêu cầu tên máy chủ, chứng chỉ, VPN, proxy hoặc cài đặt xem trước nào.

Các chú thích được lưu trữ dưới dạng metadata của Platform. Việc chỉnh sửa hoặc xóa một hình ảnh trong Platform chỉ thay đổi tham chiếu và chú thích của Platform; nó không bao giờ thay đổi tệp gốc hoặc tệp nhãn đi kèm.

Link to this sectionHuấn luyện cục bộ#

Bắt đầu huấn luyện từ hộp thoại huấn luyện dự án thông thường. Một dataset được gắn với máy chủ On Premise chỉ có thể được nhận bởi máy chủ đó. Platform sử dụng worker GPU của nó khi khả dụng và nếu không sẽ chạy cùng mã huấn luyện trên worker CPU của nó. Việc huấn luyện đọc các tệp được gắn, ghi checkpoint và trọng số bên dưới thư mục model đã cấu hình, và trả về trạng thái công việc, chỉ số vô hướng và tham chiếu checkpoint bất biến cho Platform. Việc tải xuống model sử dụng kết nối localhost đã ký tương tự như xem trước, vì vậy trọng số di chuyển trực tiếp từ máy chủ của bạn đến trình duyệt.

Huấn luyện On Premise không tiêu tốn tín dụng tính toán của Platform. Các worker được lưu trữ của Ultralytics và RunPod không thể nhận công việc hoặc đọc các pixel hoặc artifact của nó.

Link to this sectionQuản lý Worker#

Sử dụng thẻ On Premise trong Settings > Integrations để xem khả năng khả dụng của CPU/GPU, kết nối lại máy chủ hoặc ngắt kết nối. Việc kết nối lại sẽ xoay vòng khóa bí mật của worker mà không thay đổi danh tính dataset hiện có. Ngắt kết nối sẽ thu hồi các yêu cầu trong tương lai và quyền truy cập xem trước; nó không xóa dataset, tệp gốc, pixel đã lưu trong bộ nhớ đệm hoặc model artifact khỏi máy chủ.

Để kiểm tra hoặc dừng cài đặt trên Linux:

cd /opt/ultralytics-worker
docker compose logs -f
docker compose down

Trên macOS và Windows, trình cài đặt in câu lệnh tương đương sử dụng ~/.ultralytics/worker.

Xem thêm Datasets, AnnotationCloud Training.

Những người đóng góp