Passer au contenu

Raspberry de l’IA : à quoi sert le mini PC IA pas cher de NVIDIA ?

NVIDIA a dévoilé cette semaine le Jetson Orin Nano Super, un mini-ordinateur puissant capable de faire tourner de l’IA générative localement pour seulement 249 dollars.

Reine de la course à l’IA, NVIDIA multiplie les projets et vient de présenter le Jetson Orin Nano Super Developer Kit. Derrière ce nom un peu barbare pour le commun des mortels, on trouve un kit de développement – ou plutôt un mini-supercalculateur – spécialisé dans le traitement IA. Le projet existe depuis des années chez les verts (2014 avec le Jetson TK1) et se renouvelle régulièrement, jusqu’au Nano en 2019 et Orin Nano en 2022. Comme son nom l’indique, ce dernier sert aujourd’hui de base à cette version Super qui est une mise à jour avec de nombreuses améliorations.

Un mini-PC puissant pour les développeurs et amateurs d’IA

Un peu comme le Raspberry Pi, le Jetson Orin Nano Super n’est pas un simple mini-PC capable de faire tourner vos applications. Il se destine plutôt aux bidouilleurs qui souhaitent faire tourner des IA génératives en local, dans un format très compact.

En plus d’augmenter les performances, le nouveau mini-PC augmente considérablement les performances pour les applications d’IA. NVIDIA affirme que ces dernières grimpent de 70 % dans certains cas d’usage d’IA générative, atteignant jusqu’à 67 TOPS de performance d’IA. À titre de comparaison, l’ancienne version s’arrête à 40 TOPS et un Mac mini avec puce M4 est capable de 38 TOPS. Le nouveau modèle dispose également d’une bande passante mémoire 50 % supérieure, à 102 Go/s.

Comme l’expliquent nos confrères du site spécialisé Hardware & Co, NVIDIA a utilisé une recette simple pour son Jetson Orin Nano Super : l’overclocking. Une mise à jour logicielle ajoute un profil 25 W au mini-PC pour faire grimper les performances, permettant à la partie CPU ARM (six cœurs Cortex-A78E) de gagner 200 Mhz pour atteindre 1,7 GHz. Surtout, le tour de passe-passe permet au GPU de quasiment doubler sa fréquence en passant de 635 MHz à 1 020 Mhz. L’iGPU de génération Ampère dispose de 1 024 cœurs et 32 cœurs Tensor.

Les caractéristiques des Jeston Orin Nano et Jetson Orin Nano Super :

Caractéristique NVIDIA Jetson Orin Nano NVIDIA Jetson Orin Nano Super
GPU Architecture NVIDIA Ampere

1 024 cœurs CUDA

32 cœurs Tensor

635 MHz

Architecture NVIDIA Ampere

1 024 cœurs CUDA

32 cœurs Tensor

1 020 MHz

CPU Processeur ARM Cortex A78AE v8.2 64 bits à 6 cœurs

1,5 GHz

Processeur ARM Cortex A78AE v8.2 64 bits à 6 cœurs

1,7 GHz

Mémoire 8 Go 128 bits LPDDR5 

68 Go/s

8 Go 128 bits LPDDR5 

102 Go/s

Performance d’IA 40 TOPS INT8 (éparses)

20 TOPS INT8 (denses)

10 TFLOP FP16

67 TOPS (épars)

33 TOPS (dense)

17 FP16 TFLOP 

Puissance 7 W | 15 W 7 W | 15 W | 25 W
Prix 499 dollars 249 dollars

Avec une telle puissance, l’idée est d’intégrer le mini-supercalculateur dans des objets connectés. Il peut servir de base pour de nombreux projets d’IA et ses performances sont impressionnantes, au regard de sa consommation de 25 watts. S’il ne remplace pas un PC, il fera le bonheur des bidouilleurs qui souhaitent travailler sur des projets d’IA. En l’état, sa puissance n’est pas suffisante pour faire tourne une version complète de Gemini Pro ou ChatGPT (comme GPT-3.5 ou GPT-4), mais il peut exécuter des modèles plus petits ou versions optimisées de modèles plus grands.

NVIDIA divise son prix en deux (et il y a une bonne raison)

NVIDIA cherche d’ailleurs à rendre son kit accessible en le proposant à 249 dollars, soit une réduction de moitié par rapport au modèle précédente (499 dollars). Une décision qui vise à aider le caméléon à continuer sa marche en avant pour rester le roi de l’intelligence artificielle. L’année 2024 a été particulièrement prolifique pour NVIDIA qui a véritablement changé de dimensions.

Nvidia Jetson Orin Nano Super Generative Ai Computer
© Capture d’écran / NVIDIA

La décision de « casser » le prix du Jetson Orin Nano Super est aussi liée au fait que ce mini-PC n’évolue pas sur le plan matériel. Il profite surtout d’une mise à jour que NVIDIA proposera gratuitement aux utilisateurs de l’ancien Jetson Orin Nano. Ces derniers pourront bénéficier des mêmes améliorations avec le profil 25 W, en plus des profils 7 W et 15 W. On peut cependant se demander pourquoi la marque a attendu avant de débrider son petit kit.

Partenaire de NVIDIA, Palit a profité de l’occasion pour présenter le Pandora. La firme ne le présente pas comme un « mini PC » mais plutôt comme un « mini AI Hardware » et ne le destine pas au grand public. Il est fait pour les passionnés et développeurs, dans plusieurs configurations (8 Go ou 16 Go de RAM) qui détermineront la vitesse TOPS maximale. En revanche, le prix et la disponibilité demeurent inconnus à l’heure de ces lignes.

De leurs côtés, les joueurs attendent les CES 2025 pour découvrir la nouvelle génération de cartes graphiques de la firme. La prochaine RTX 5090 sera le fer de lance de cette nouvelle gamme.

🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.

Mode