Link to this sectionExportação RKNN da Rockchip para modelos Ultralytics YOLO26#

Ao implantar modelos de visão computacional em dispositivos embarcados, especialmente naqueles equipados com processadores Rockchip, ter um formato de modelo compatível é essencial. Exportar modelos Ultralytics YOLO26 para o formato RKNN garante desempenho otimizado e compatibilidade com o hardware da Rockchip. Este guia irá orientar você na conversão de seus modelos YOLO26 para o formato RKNN, incluindo exportações de ponto flutuante e quantizadas INT8, permitindo uma implantação eficiente em plataformas Rockchip.

Link to this sectionO que é Rockchip?#

Conhecida por oferecer soluções versáteis e eficientes em energia, a Rockchip projeta System-on-Chips (SoCs) avançados que alimentam uma ampla gama de eletrônicos de consumo, aplicações industriais e tecnologias de IA. Com arquitetura baseada em ARM, Unidades de Processamento Neural (NPUs) integradas e suporte multimídia de alta resolução, os SoCs da Rockchip permitem um desempenho de ponta para dispositivos como tablets, smart TVs, sistemas IoT e aplicações de edge AI. Empresas como Radxa, ASUS, Pine64, Orange Pi, Odroid, Khadas e Banana Pi oferecem uma variedade de produtos baseados em SoCs Rockchip, estendendo ainda mais seu alcance e impacto em diversos mercados.

Link to this sectionRKNN Toolkit#

O RKNN Toolkit é um conjunto de ferramentas e bibliotecas fornecidas pela Rockchip para facilitar a implantação de modelos de aprendizado profundo em suas plataformas de hardware. RKNN, ou Rockchip Neural Network, é o formato proprietário usado por essas ferramentas. Os modelos RKNN são projetados para aproveitar ao máximo a aceleração de hardware fornecida pela NPU (Unidade de Processamento Neural) da Rockchip, garantindo alto desempenho em tarefas de IA em dispositivos como RK3588, RK3566, RV1103, RV1106 e outros sistemas equipados com Rockchip.

Link to this sectionPrincipais Recursos dos Modelos RKNN#

Os modelos RKNN oferecem várias vantagens para a implantação em plataformas Rockchip:

• Otimizado para NPU: Os modelos RKNN são especificamente otimizados para serem executados nas NPUs da Rockchip, garantindo desempenho e eficiência máximos.
• Baixa Latência: O formato RKNN minimiza a latência de inferência, o que é crítico para aplicações em tempo real em dispositivos de borda.
• Personalização Específica da Plataforma: Os modelos RKNN podem ser adaptados para plataformas Rockchip específicas, permitindo uma melhor utilização dos recursos de hardware.
• Eficiência Energética: Ao aproveitar o hardware dedicado da NPU, os modelos RKNN consomem menos energia do que o processamento baseado em CPU ou GPU, estendendo a vida útil da bateria para dispositivos portáteis.

Link to this sectionInstalar o SO no hardware Rockchip#

O primeiro passo após adquirir um dispositivo baseado em Rockchip é instalar um SO para que o hardware possa inicializar em um ambiente funcional. Neste guia, indicaremos os guias de início rápido dos dois dispositivos que testamos, que são o Radxa Rock 5B e o Radxa Zero 3W.

• Guia de Início Rápido do Radxa Rock 5B
• Guia de Início Rápido do Radxa Zero 3W

Link to this sectionExportar para RKNN: Convertendo seu modelo YOLO26#

Exporte um modelo Ultralytics YOLO26 para o formato RKNN e execute a inferência com o modelo exportado.

Link to this sectionInstalação#

Para instalar os pacotes necessários, execute:

# Install the required package for YOLO26
pip install ultralytics

Para obter instruções detalhadas e práticas recomendadas relacionadas ao processo de instalação, consulte nosso Guia de Instalação do Ultralytics. Ao instalar os pacotes necessários para o YOLO26, se você encontrar alguma dificuldade, consulte nosso Guia de Problemas Comuns para obter soluções e dicas.

Link to this sectionUso#

O formato RKNN suporta os modos Export, Predict e Validate. A inferência e a validação são executadas no hardware NPU da Rockchip. Exporte seu modelo e, em seguida, carregue o modelo exportado para executar a inferência ou validar sua precisão. Por padrão, a exportação para RKNN utiliza o caminho de compilação de ponto flutuante (quantize=16) para destinos Rockchip com suporte a FP16. Use quantize=8 para compilar um modelo RKNN quantizado em INT8 com dados de calibração. A exportação RKNN não expõe um modo FP32 separado; o padrão FP16 não solicita FP32.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to RKNN format
model.export(format="rknn", name="rk3588")  # creates '/yolo26n_rknn_model'

# Export an INT8-quantized RKNN model with calibration data
model.export(format="rknn", name="rk3588", quantize=8, data="coco8.yaml")

from ultralytics import YOLO

# Load the exported RKNN model
model = YOLO("./yolo26n_rknn_model")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported RKNN model
model = YOLO("./yolo26n_rknn_model")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

Link to this sectionArgumentos de Exportação#

Para mais detalhes sobre o processo de exportação, visite a página de documentação do Ultralytics sobre exportação.

Link to this sectionImplantando Modelos YOLO26 RKNN Exportados#

Depois de exportar com sucesso seus modelos Ultralytics YOLO26 para o formato RKNN, o próximo passo é implantar esses modelos em dispositivos baseados em Rockchip.

Link to this sectionInstalação#

Para instalar os pacotes necessários, execute:

# Install the required package for YOLO26
pip install ultralytics

Após a instalação, execute a inferência e a validação no seu dispositivo Rockchip exatamente como mostrado na seção Uso acima — o _rknn_model exportado carrega diretamente com YOLO(...).

Link to this sectionAplicações do Mundo Real#

Dispositivos equipados com Rockchip usando modelos YOLO26 RKNN podem ser usados em várias aplicações:

• Vigilância Inteligente: Implante sistemas eficientes de detecção de objetos para monitoramento de segurança com baixo consumo de energia.
• Automação Industrial: Implemente controle de qualidade e detecção de defeitos diretamente em dispositivos embarcados.
• Análise de Varejo: Rastreie o comportamento do cliente e o gerenciamento de inventário em tempo real sem dependência da nuvem.
• Agricultura Inteligente: Monitore a saúde das plantações e detecte pragas usando visão computacional na agricultura.
• Robótica Autônoma: Habilite navegação baseada em visão e detecção de obstáculos em plataformas com recursos limitados.

Link to this sectionBenchmarks#

Os benchmarks do YOLO26 abaixo foram executados pela equipe da Ultralytics no Radxa Rock 5B baseado no Rockchip RK3588 com formato de modelo rknn, medindo velocidade e precisão.

Link to this sectionResumo#

Neste guia, você aprendeu como exportar modelos Ultralytics YOLO26 para o formato RKNN para aprimorar sua implantação em plataformas Rockchip. Você também foi apresentado ao RKNN Toolkit e às vantagens específicas de usar modelos RKNN para aplicações de edge AI.

A combinação do Ultralytics YOLO26 e a tecnologia de NPU da Rockchip fornece uma solução eficiente para executar tarefas avançadas de visão computacional em dispositivos embarcados. Essa abordagem permite detecção de objetos em tempo real e outras aplicações de visão por IA com consumo mínimo de energia e alto desempenho.

Para mais detalhes sobre o uso, visite a documentação oficial do RKNN.

Além disso, se você quiser saber mais sobre outras integrações do Ultralytics YOLO26, visite nossa página de guia de integração. Você encontrará muitos recursos e insights úteis por lá.

Link to this sectionFAQ#

Link to this sectionComo exporto meu modelo Ultralytics YOLO para o formato RKNN?#

Você pode exportar facilmente seu modelo Ultralytics YOLO para o formato RKNN usando o método export() no pacote Python da Ultralytics ou via interface de linha de comando (CLI). Certifique-se de estar usando um PC Linux baseado em x86 para o processo de exportação, pois dispositivos ARM64 como Rockchip não são suportados para esta operação. Você pode especificar a plataforma Rockchip de destino usando o argumento name, como rk3588, rk3566 ou outros. Este processo gera um modelo RKNN otimizado pronto para implantação no seu dispositivo Rockchip, aproveitando sua Unidade de Processamento Neural (NPU) para inferência acelerada.

from ultralytics import YOLO

# Load your YOLO model
model = YOLO("yolo26n.pt")

# Export to RKNN format for a specific Rockchip platform
model.export(format="rknn", name="rk3588")

Link to this sectionQuais são os benefícios de usar modelos RKNN em dispositivos Rockchip?#

Os modelos RKNN são especificamente projetados para aproveitar as capacidades de aceleração de hardware das Unidades de Processamento Neural (NPUs) da Rockchip. Essa otimização resulta em velocidades de inferência significativamente mais rápidas e latência reduzida em comparação com a execução de formatos de modelo genéricos como ONNX ou TensorFlow Lite no mesmo hardware. Usar modelos RKNN permite um uso mais eficiente dos recursos do dispositivo, levando a um menor consumo de energia e melhor desempenho geral, o que é especialmente crítico para aplicações em tempo real em dispositivos de borda. Ao converter seus modelos Ultralytics YOLO para RKNN, você pode obter desempenho ideal em dispositivos equipados com SoCs Rockchip como o RK3588, RK3566 e outros.

Link to this sectionPosso implantar modelos RKNN em dispositivos de outros fabricantes, como NVIDIA ou Google?#

Os modelos RKNN são especificamente otimizados para plataformas Rockchip e seus NPUs integrados. Embora tecnicamente possas executar um modelo RKNN em outras plataformas usando emulação de software, não beneficiarás da aceleração de hardware fornecida pelos dispositivos Rockchip. Para um desempenho ideal em outras plataformas, recomenda-se exportar os teus modelos Ultralytics YOLO para formatos projetados especificamente para essas plataformas, como TensorRT para GPUs NVIDIA ou TensorFlow Lite para o Edge TPU do Google. O Ultralytics suporta a exportação para uma ampla gama de formatos, garantindo compatibilidade com vários aceleradores de hardware.

Link to this sectionQuais plataformas Rockchip são suportadas para implantação de modelos RKNN?#

A exportação do Ultralytics YOLO para o formato RKNN suporta plataformas Rockchip com compilações RKNN de ponto flutuante, incluindo RK3588, RK3576, RK3566, RK3568, RK3562, RK2118 e RV1126B. Também suporta a exportação RKNN quantizada em INT8 com quantize=8, o que é obrigatório para destinos apenas INT8, como RV1103, RV1106, RV1103B e RV1106B. Essas plataformas são encontradas comumente em dispositivos de fabricantes como Radxa, ASUS, Pine64, Orange Pi, Odroid, Khadas e Banana Pi, permitindo que você implemente seus modelos RKNN otimizados em uma variedade de dispositivos alimentados por Rockchip, desde computadores de placa única até sistemas industriais.

Link to this sectionComo o desempenho dos modelos RKNN se compara a outros formatos em dispositivos Rockchip?#

Os modelos RKNN geralmente superam outros formatos como ONNX ou TensorFlow Lite em dispositivos Rockchip devido à sua otimização para as NPUs da Rockchip. Por exemplo, os benchmarks no Radxa Rock 5B (RK3588) mostram que o YOLO26n no formato RKNN atinge um tempo de inferência de 65,7 ms/imagem, significativamente mais rápido do que outros formatos. Essa vantagem de desempenho é consistente em vários tamanhos de modelo YOLO26, como demonstrado na seção de benchmarks. Ao aproveitar o hardware dedicado da NPU, os modelos RKNN minimizam a latência e maximizam o throughput, tornando-os ideais para aplicações em tempo real em dispositivos de borda baseados em Rockchip.