Améliorez votre Jetson Orin Nano vers le Super !

En tant que passionné de programmation ou fan de projets d'IA, NVIDIA a récemment annoncé une nouvelle passionnante.

Il s'agit de mettre à niveau le kit Jetson ORIN NANO vers Jetson Orin Nano Super via un logiciel, obtenant ainsi une énorme amélioration des performances.

La comparaison des performances de la carte de développement avant et après la mise à niveau est la suivante.

Presque tous les utilisateurs ont été très enthousiastes après avoir reçu cette nouvelle. Après tout, des performances plus élevées signifient davantage de possibilités et des scénarios d'application plus larges.

Qu'il s'agisse de raisonnement IA, de développement de robots, de modèles de langage à grande échelle ou de projets d'informatique de pointe, Jetson Orin Nano Super peut fournir une puissance de calcul puissante au-delà des attentes. Les développeurs peuvent non seulement optimiser davantage le code sur la base d'origine pour effectuer des tâches d'IA plus complexes, mais également obtenir un traitement en temps réel plus efficace grâce à des performances GPU et CPU améliorées.

Plus important encore, le Jetson Orin Nano Super mis à niveau est entièrement compatible avec l'écosystème ORIN NANO existant, permettant aux utilisateurs de profiter de nouvelles améliorations de performances sans changer de matériel. Qu'ils soient débutants ou développeurs expérimentés, ils peuvent utiliser cette puissante plateforme pour créer des projets plus intelligents, plus rapides et plus efficaces.

◆ ◆ ◆ Vidéo de la chaîne YouTube de NVIDIA

De nombreux utilisateurs se posent cette question. NVIDIA a officiellement annoncé que le Jetson Orin Nano Super n'était lancé que via des mises à jour logicielles.

Le kit officiel Jetson Orin NANO 8 Go que j'ai en main peut-il donc être directement mis à niveau vers Super ?

La réponse est oui.

Aujourd'hui, je vais partager un tutoriel détaillé pour expliquer étape par étape comment mettre à jour le kit officiel NVIDIA Jetson Orin NANO 8 Go existant vers Jetson Orin Nano Super en mettant à jour JetPack 6.1.

1. Préparation

Méthode 1 : écran d'affichage ; téléchargez et utilisez directement le fichier image système de la machine virtuelle fourni par Yahboom.

Méthode 2 : écran d’affichage ; si vous utilisez votre propre système, vous devez télécharger et installer la dernière version de SDK Manager.

Question : Comment déterminer si le SDK Manager que vous utilisez actuellement est la dernière version ?

Lorsque vous vous connectez au compte SDK Manager, la page affiche « invalid_request Le flux d'autorisation n'est pas autorisé », indiquant que vous devez mettre à jour la dernière version de SDK Manager.

Si vous ne pouvez pas mettre à jour le SDK Manager normalement.

Veuillez suivre le tutoriel suivant pour réinstaller le dernier SDK Manager sur votre carte de développement Jetson Orin NANO 8GB.

Remarque : avant cela, vous devez préparer une machine virtuelle ou un ordinateur Ubuntu, et vous ne pouvez pas opérer directement sur la carte mère.

1.1 Téléchargez la dernière version de SDK Manager

URL de téléchargement : https://developer.nvidia.com/sdk-manager

Comme indiqué dans la figure ci-dessous, attendez patiemment que le fichier soit téléchargé.

1.2 Installer le gestionnaire de SDK

Entrez dans le dossier dans lequel vous avez téléchargé SDK Manager, ouvrez le terminal et exécutez la commande d'installation du package deb.

Commandez comme indiqué ci-dessous.

sudo dpkg -i sdkmanager_2.2.0-12021_amd64.deb

1.3 Corriger les dépendances

Pour éviter les erreurs système, il est recommandé d'exécuter la commande suivante directement après l'installation du logiciel.

sudo apt --fix-broken install

1.4 Installation et utilisation

Cliquez sur l’icône SDK Manager ou entrez la commande suivante dans le terminal pour démarrer le SDK Manager.

Gestionnaire SDK

2. Mettez votre Jeston ORIN NANO en mode clignotant

2.1 Utilisez un capuchon de cavalier pour court-circuiter les broches FC REC et GND sous la carte principale et utilisez un adaptateur secteur pour alimenter la carte Jetson ORIN NANO, comme indiqué ci-dessous.

2.2 Ensuite, connectez la carte Jetson ORIN NANO à l’ordinateur avec la machine virtuelle installée via l’interface Type-C.

À ce stade, votre ordinateur affichera l'invite suivante, veuillez sélectionner « Connecter l'appareil à la machine virtuelle » , comme indiqué dans la figure ci-dessous.

3. Écrivez le système d'image original officiel de NVIDIA sur votre carte Jetson ORIN NANO 8G

3.1 ​Démarrez et connectez-vous à SDK Manager.

3.2 À ce stade, SDK Manager détecte la carte Jetson Orin NANO et l'interface suivante apparaîtra automatiquement, nous demandant de sélectionner le modèle de carte mère correspondant.

Remarque : si le gestionnaire SDK indique que la carte Jetson ORIN NANO ne peut pas être reconnue.

Veuillez déconnecter l'alimentation CC et le câble de données de type C de la carte Jetson, puis remettez la carte Jetson sous tension et réutilisez le câble de données de type C pour reconnecter la carte de développement Jetson Orin NANO 8 Go à l'ordinateur de la machine virtuelle.

3.3 Comme indiqué dans la figure ci-dessous, après avoir vérifié le contenu correspondant, cliquez sur « Continuer » dans le coin inférieur droit

3.4 Vérifiez comme indiqué dans la figure ci-dessous. Cliquez ensuite sur « Continuer » dans le coin inférieur droit

(Ici, nous installons uniquement le système. Une fois le système correctement installé et capable de démarrer normalement, envisagez d'installer d'autres environnements de composants)

3.4 Cochez « Créer », comme indiqué ci-dessous.

3.5 À ce stade, l'interface affichera la barre de progression ci-dessous. Attendez patiemment que l'installation soit terminée.

3.6 Lorsque la barre de progression atteint 50 %, le système affiche l'interface suivante. Nous devons terminer la sélection en fonction du cadre de ligne rouge.

Pendant tout le processus, SDK Manager contrôlera automatiquement l'éjection et le montage de la carte Jetson.

Étant donné que nous avons connecté la carte Jetson ORIN NANO à la machine virtuelle à l’étape 2.2, ces paramètres seront généralement montés automatiquement sur la machine virtuelle.

Lorsque l'écriture est sur le point d'être terminée, nous devons la monter manuellement sur la machine virtuelle en cliquant sur l'option de machine virtuelle. Comme indiqué ci-dessous.

3.7 Lorsque la barre de progression atteint 100 %, cliquez sur « Terminer » dans le coin inférieur droit.

4. Démarrez le système

Débranchez l'alimentation CC et le câble de données de type C de la carte Jetson ORIN NANO.
Court-circuitez les broches FC REC et GND sous la carte principale et retirez-les.

Ensuite, connectez le moniteur, le clavier et la souris, et enfin utilisez l'adaptateur secteur CC pour l'alimenter à nouveau, et la carte Jetson ORIN NANO peut être démarrée normalement.

5. Installer les composants Jetson

5.1 Utilisez l'adaptateur secteur pour alimenter la carte Jetson et connectez la carte Jetson ORIN NANO à l'ordinateur avec la machine virtuelle installée via l'interface Type-C.

Démarrez et connectez-vous au SDK Manager. Comme indiqué dans la figure ci-dessous, cliquez sur « Continuer » dans le coin inférieur droit.

5.2 Vérifiez l'environnement des composants que vous devez installer : SDK Manager téléchargera automatiquement tous les composants, cliquez sur « Continuer » dans le coin inférieur droit, comme indiqué ci-dessous.

5.3 Ensuite, le système affichera l'interface suivante. Ici, nous devons remplir les informations de nom d'utilisateur et de mot de passe que nous avons définies lors du démarrage du système.

Cliquez ensuite sur « Installer »

L’ensemble du processus prend beaucoup de temps, alors attendez patiemment.

5.4 Une fois l'installation terminée, cliquez sur « Terminer » dans le coin inférieur droit.

5.5 Réglez le mode d'alimentation sur MAXN

6. Utilisez la commande Jtop pour afficher les informations internes actuelles de la carte de développement

6.1 Entrez la commande suivante pour installer Jtop

sudo apt install python3-pip

sudo pip3 install -U jetson-stats

6.2 Redémarrer le système après l'installation

Utilisez ensuite la commande suivante pour afficher les informations système.

jtop

Après les étapes ci-dessus, votre Jetson ORIN NANO 8GB devient Jetson ORIN NANO Super.

Voici quelques projets vérifiés basés sur Jetson ORIN NANO Super.

(Le contenu suivant est tiré du site officiel de NVIDIA)

Lien : https://developer.nvidia.com/blog/nvidia-jetson-orin-nano-developer-kit-gets-a-super-boost/?ncid=so-twit-655509-vt48

LeRobot à visage câlin

NVIDIA s'est associé à Hugging Face pour accélérer la recherche robotique sur la plateforme d'IA ouverte LeRobot. Vous pouvez exécuter HuggingFace LeRobot sur Jetson Orin Nano Super Developer Kit, qui exécute des modèles d'IA génératifs pour prédire les actions pour une tâche particulière à partir d'entrées visuelles et de trajectoires antérieures.

Chatbot génératif piloté par l'IA avec Ollama

Exécutez un chatbot IA génératif sur Jetson Orin Nano Super Developer Kit. Ce chatbot intègre Ollama avec Open WebUI, une interface de serveur de chatbot open source largement utilisée qui se connecte aux LLM exécutés localement. Il utilise la génération augmentée par récupération (RAG) pour améliorer encore l'expérience et les capacités de l'utilisateur.

Faire progresser l'IA générative avec Jetson AI Lab

Le Jetson AI Lab est le centre de découverte et d'expérimentation des dernières technologies d'IA générative optimisées pour les appareils de pointe.

En favorisant un environnement ouvert, collaboratif et axé sur la communauté, NVIDIA travaille aux côtés des développeurs et des partenaires pour faire progresser l'IA de pointe et l'apprentissage robotique open source. Grâce à notre prise en charge complète des frameworks d'apprentissage automatique populaires et des microservices d'inférence optimisés sur les appareils Jetson, vous pouvez rapidement créer et déployer les dernières innovations et modèles de recherche sur vos ordinateurs Jetson pour suivre le rythme rapide de l'innovation.

Comme le montre ci-dessous, des exemples de détection d'objets en temps réel à vocabulaire ouvert NanoOWL ViT.

Comme le montre ci-dessous la base de données vectorielles multimodales NanoDB avec recherche de similarité interactive txt2img et img2img.

Jetson AI Lab propose près de 50 didacticiels faciles à suivre et conteneurs prédéfinis pour permettre aux développeurs de tout niveau d'expérience de démarrer rapidement avec les LLM, SLM et VLM multimodaux sur appareil, ainsi que des variantes pour les VLA, les politiques de diffusion et les modèles de parole. Ils sont tous déployés localement avec la même infrastructure d'inférence optimisée que celle utilisée dans le cloud.

Les didacticiels et ressources collaboratifs et axés sur la communauté du Jetson AI Lab réduisent considérablement les barrières à l'entrée pour le déploiement de l'IA générative avancée à la périphérie.

Remarque : cette solution n'est actuellement disponible que pour le kit officiel NVIDIA Jetson ORIN NANO 8 Go, comme indiqué ci-dessous.

La carte Jetson ORIN NX SUB ne prend actuellement pas en charge cette fonctionnalité.

Une autre nouvelle est que NVIDIA a également annoncé que la prise en charge et la documentation améliorées des performances des modules de base Jetson Orin Nano et Orin NX seront publiées avec JetPack 6.1.1 en janvier 2025. (Nous garderons un œil sur les actualités officielles de NVIDIA à tout moment, et toutes les dernières nouvelles seront partagées ici dès que possible)

Vous pouvez choisir de vous abonner et d’ajouter notre site Web à vos favoris pour obtenir des informations de première main.