Link to this sectionExportação RKNN da Rockchip para modelos Ultralytics YOLO26#

Ao implantar modelos de visão computacional em dispositivos embarcados, especialmente naqueles equipados com processadores Rockchip, ter um formato de modelo compatível é essencial. Exportar modelos Ultralytics YOLO26 para o formato RKNN garante desempenho otimizado e compatibilidade com o hardware da Rockchip. Este guia vai te mostrar como converter seus modelos YOLO26 para o formato RKNN, incluindo exportações de ponto flutuante e quantizadas INT8, permitindo uma implantação eficiente em plataformas Rockchip.

Link to this sectionO que é a Rockchip?#

Reconhecida por oferecer soluções versáteis e eficientes em termos de energia, a Rockchip projeta System-on-Chips (SoCs) avançados que alimentam uma ampla gama de eletrônicos de consumo, aplicações industriais e tecnologias de IA. Com arquitetura baseada em ARM, Unidades de Processamento Neural (NPUs) integradas e suporte a multimídia de alta resolução, os SoCs da Rockchip permitem um desempenho de ponta para dispositivos como tablets, smart TVs, sistemas IoT e aplicações de edge AI. Empresas como Radxa, ASUS, Pine64, Orange Pi, Odroid, Khadas e Banana Pi oferecem uma variedade de produtos baseados em SoCs Rockchip, ampliando ainda mais seu alcance e impacto em diversos mercados.

Link to this sectionRKNN Toolkit#

O RKNN Toolkit é um conjunto de ferramentas e bibliotecas fornecido pela Rockchip para facilitar a implantação de modelos de deep learning em suas plataformas de hardware. RKNN, ou Rockchip Neural Network, é o formato proprietário usado por essas ferramentas. Os modelos RKNN são projetados para tirar total proveito da aceleração de hardware fornecida pela NPU (Unidade de Processamento Neural) da Rockchip, garantindo alto desempenho em tarefas de IA em dispositivos como RK3588, RK3566, RV1103, RV1106 e outros sistemas equipados com Rockchip.

Link to this sectionPrincipais recursos dos modelos RKNN#

Os modelos RKNN oferecem várias vantagens para a implantação em plataformas Rockchip:

• Otimizado para NPU: Os modelos RKNN são especificamente otimizados para rodar nas NPUs da Rockchip, garantindo desempenho e eficiência máximos.
• Baixa latência: O formato RKNN minimiza a latência de inferência, o que é crítico para aplicações em tempo real em dispositivos de borda (edge devices).
• Personalização específica para a plataforma: Os modelos RKNN podem ser adaptados a plataformas Rockchip específicas, permitindo um melhor aproveitamento dos recursos de hardware.
• Eficiência energética: Ao aproveitar o hardware NPU dedicado, os modelos RKNN consomem menos energia do que o processamento baseado em CPU ou GPU, estendendo a vida útil da bateria para dispositivos portáteis.

Link to this sectionInstalar o SO no hardware Rockchip#

O primeiro passo após adquirir um dispositivo baseado em Rockchip é instalar um SO para que o hardware possa inicializar em um ambiente de trabalho. Neste guia, indicaremos os guias de início rápido dos dois dispositivos que testamos, que são o Radxa Rock 5B e o Radxa Zero 3W.

• Guia de Início Rápido do Radxa Rock 5B
• Guia de Início Rápido do Radxa Zero 3W

Link to this sectionExportar para RKNN: Convertendo seu modelo YOLO26#

Exporte um modelo Ultralytics YOLO26 para o formato RKNN e execute a inferência com o modelo exportado.

Link to this sectionInstalação#

Para instalar os pacotes necessários, execute:

# Install the required package for YOLO26
pip install ultralytics

Para obter instruções detalhadas e melhores práticas relacionadas ao processo de instalação, consulte nosso Guia de Instalação do Ultralytics. Se encontrar dificuldades ao instalar os pacotes necessários para o YOLO26, consulte nosso Guia de Problemas Comuns para soluções e dicas.

Link to this sectionUso#

O formato RKNN suporta os modos Export, Predict e Validate. A inferência e a validação são executadas no hardware NPU da Rockchip. Exporte seu modelo e, em seguida, carregue o modelo exportado para executar a inferência ou validar sua precisão. Por padrão, a exportação RKNN usa o caminho de compilação de ponto flutuante existente com half=True para alvos Rockchip capazes de FP16. Use int8=True para criar um modelo RKNN quantizado em INT8 com dados de calibração. A exportação RKNN não expõe um modo FP32 separado; deixar int8=False não solicita FP32.

from ultralytics import YOLO

# Load a YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to RKNN format
model.export(format="rknn", name="rk3588")  # creates '/yolo26n_rknn_model'

# Export an INT8-quantized RKNN model with calibration data
model.export(format="rknn", name="rk3588", int8=True, data="coco8.yaml")

from ultralytics import YOLO

# Load the exported RKNN model
model = YOLO("./yolo26n_rknn_model")

# Run inference
results = model("https://ultralytics.com/images/bus.jpg")

from ultralytics import YOLO

# Load the exported RKNN model
model = YOLO("./yolo26n_rknn_model")

# Validate accuracy on the COCO8 dataset
metrics = model.val(data="coco8.yaml")

Link to this sectionArgumentos de exportação#

Para mais detalhes sobre o processo de exportação, visite a página de documentação do Ultralytics sobre exportação.

Link to this sectionImplantando modelos YOLO26 RKNN exportados#

Uma vez que você tenha exportado com sucesso seus modelos Ultralytics YOLO26 para o formato RKNN, o próximo passo é implantar esses modelos em dispositivos baseados em Rockchip.

Link to this sectionInstalação#

Para instalar os pacotes necessários, execute:

# Install the required package for YOLO26
pip install ultralytics

Após instalado, execute a inferência e a validação no seu dispositivo Rockchip exatamente como mostrado na seção Uso acima — o _rknn_model exportado carrega diretamente com YOLO(...).

Link to this sectionAplicações no mundo real#

Dispositivos equipados com Rockchip usando modelos YOLO26 RKNN podem ser usados em várias aplicações:

• Monitoramento inteligente: Implante sistemas eficientes de detecção de objetos para monitoramento de segurança com baixo consumo de energia.
• Automação industrial: Implemente controle de qualidade e detecção de defeitos diretamente em dispositivos embarcados.
• Análise de varejo: Rastreie o comportamento do cliente e o gerenciamento de inventário em tempo real sem dependência da nuvem.
• Agricultura inteligente: Monitore a saúde das plantações e detecte pragas usando visão computacional na agricultura.
• Robótica autônoma: Habilite a navegação baseada em visão e detecção de obstáculos em plataformas com recursos limitados.

Link to this sectionBenchmarks#

Os benchmarks do YOLO26 abaixo foram executados pela equipe do Ultralytics no Radxa Rock 5B baseado no Rockchip RK3588, com o formato de modelo rknn medindo velocidade e precisão.

Link to this sectionResumo#

Neste guia, você aprendeu como exportar modelos Ultralytics YOLO26 para o formato RKNN para melhorar sua implementação em plataformas Rockchip. Você também foi apresentado ao RKNN Toolkit e às vantagens específicas de usar modelos RKNN para aplicações de IA de borda.

A combinação de Ultralytics YOLO26 e a tecnologia NPU da Rockchip oferece uma solução eficiente para executar tarefas avançadas de visão computacional em dispositivos embarcados. Essa abordagem possibilita detecção de objetos em tempo real e outras aplicações de IA visual com consumo mínimo de energia e alto desempenho.

Para mais detalhes sobre o uso, visite a documentação oficial do RKNN.

Além disso, se quiser saber mais sobre outras integrações do Ultralytics YOLO26, visite nossa página de guia de integração. Você encontrará muitos recursos e percepções úteis por lá.

Link to this sectionPerguntas Frequentes#

Link to this sectionComo exporto meu modelo Ultralytics YOLO para o formato RKNN?#

Você pode exportar facilmente seu modelo Ultralytics YOLO para o formato RKNN usando o método export() no pacote Python da Ultralytics ou via interface de linha de comando (CLI). Certifique-se de que está usando um PC Linux baseado em x86 para o processo de exportação, pois dispositivos ARM64 como o Rockchip não são suportados para essa operação. Você pode especificar a plataforma Rockchip alvo usando o argumento name, como rk3588, rk3566 ou outros. Este processo gera um modelo RKNN otimizado pronto para implementação em seu dispositivo Rockchip, aproveitando sua Neural Processing Unit (NPU) para inferência acelerada.

from ultralytics import YOLO

# Load your YOLO model
model = YOLO("yolo26n.pt")

# Export to RKNN format for a specific Rockchip platform
model.export(format="rknn", name="rk3588")

Link to this sectionQuais são os benefícios de usar modelos RKNN em dispositivos Rockchip?#

Modelos RKNN são projetados especificamente para aproveitar os recursos de aceleração de hardware das Neural Processing Units (NPUs) da Rockchip. Essa otimização resulta em velocidades de inferência significativamente mais rápidas e latência reduzida em comparação com a execução de formatos de modelo genéricos como ONNX ou TensorFlow Lite no mesmo hardware. O uso de modelos RKNN permite um uso mais eficiente dos recursos do dispositivo, levando a um menor consumo de energia e melhor desempenho geral, especialmente crítico para aplicações em tempo real em dispositivos de borda. Ao converter seus modelos Ultralytics YOLO para RKNN, você pode obter desempenho ideal em dispositivos equipados com SoCs Rockchip como o RK3588, RK3566 e outros.

Link to this sectionPosso implementar modelos RKNN em dispositivos de outros fabricantes como NVIDIA ou Google?#

Modelos RKNN são especificamente otimizados para plataformas Rockchip e suas NPUs integradas. Embora você possa tecnicamente executar um modelo RKNN em outras plataformas usando emulação de software, você não se beneficiará da aceleração de hardware fornecida pelos dispositivos Rockchip. Para um desempenho ideal em outras plataformas, é recomendado exportar seus modelos Ultralytics YOLO para formatos projetados especificamente para essas plataformas, como TensorRT para GPUs NVIDIA ou TensorFlow Lite para o Edge TPU do Google. A Ultralytics oferece suporte à exportação para uma ampla gama de formatos, garantindo compatibilidade com vários aceleradores de hardware.

Link to this sectionQuais plataformas Rockchip são suportadas para a implementação de modelos RKNN?#

A exportação do Ultralytics YOLO para o formato RKNN suporta plataformas Rockchip com builds RKNN de ponto flutuante, incluindo RK3588, RK3576, RK3566, RK3568, RK3562, RK2118 e RV1126B. Também suporta exportação RKNN quantizada INT8 com int8=True, que é necessária para alvos somente INT8, como RV1103, RV1106, RV1103B e RV1106B. Essas plataformas são comumente encontradas em dispositivos de fabricantes como Radxa, ASUS, Pine64, Orange Pi, Odroid, Khadas e Banana Pi, permitindo que você implemente seus modelos RKNN otimizados em uma variedade de dispositivos equipados com Rockchip, desde computadores de placa única até sistemas industriais.

Link to this sectionComo o desempenho dos modelos RKNN se compara a outros formatos em dispositivos Rockchip?#

Modelos RKNN geralmente superam outros formatos como ONNX ou TensorFlow Lite em dispositivos Rockchip devido à sua otimização para as NPUs da Rockchip. Por exemplo, benchmarks no Radxa Rock 5B (RK3588) mostram que o YOLO26n no formato RKNN atinge um tempo de inferência de 65,7 ms/imagem, significativamente mais rápido que outros formatos. Essa vantagem de desempenho é consistente em vários tamanhos de modelo YOLO26, conforme demonstrado na seção de benchmarks. Ao aproveitar o hardware NPU dedicado, os modelos RKNN minimizam a latência e maximizam o throughput, tornando-os ideais para aplicações em tempo real em dispositivos de borda baseados em Rockchip.