Nvidia jetson tx2 est le superordinateur qui va construire la prochaine grande idée

L'intelligence artificielle et les machines qui peuvent apprendre sont les moyens d'améliorer les choses que nous utilisons chaque jour. Google et Android maîtrisent l'intelligence artificielle via Google Assistant et l'apprentissage automatique. Il est donc important de savoir comment fonctionne le back-office, comment ils y sont arrivés et quels types d'équipement le permettent. Et c'est vraiment cool aussi!

Les personnes qui construiront cette technologie du futur auront besoin des outils pour le faire. En 2017, NVIDIA fait sa part et le Jetson TX2 incarne cette idée. Les développeurs ont besoin d'un matériel capable non seulement de faire de l'informatique et de penser (oui, je le dirai) dont notre futur plus intelligent aura besoin, mais également facile à utiliser et à déployer.

AI au bord.

NVIDIA appelle cela «livrer une intelligence artificielle sur le bord» et c'est une description appropriée. Le TX2 est un supercalculateur complet. Il est capable de traiter des données lui-même, au lieu et à l'heure, au lieu de passer à des milliers de kilomètres via Internet. Nous considérons la connectivité comme allant de soi en raison de la façon dont nous l’utilisons actuellement, mais il existe de nombreux cas dans lesquels l’attente d’un aller-retour de données depuis une machine intelligente est tout simplement trop longue à attendre. Et une grande partie de ce marbre bleu dans lequel nous vivons n’a pas de connexion Internet et ne l’aura pas pendant très longtemps.

Un petit ordinateur capable de faire à peu près n'importe quoi et de traiter toutes les données qu'il collecte lui-même est le meilleur moyen de résoudre ces problèmes. NVIDIA semble l'avoir cloué ici.

Quelle est cette chose?

Ce n’est pas quelque chose que vous pouvez trouver chez Best Buy et que vous pouvez utiliser pour tout ce que vous faites avec votre téléphone. Il ne fonctionne pas sous Android (mais ce ne serait certainement pas difficile à corriger) et c'est quelque chose que la plupart d'entre nous n'achèterons pas. Mais cela reste une partie très importante des choses que nous aimons.

Le Jetson TX2 est un outil de développement. Le Jetson TX2 est également un module prêt à l'emploi pour alimenter tout équipement basé sur l'IA. C'est un ordinateur de la taille d'une carte de crédit avec toutes les entrées et les sorties d'un ordinateur "normal". Lorsque vous connectez le module TX2 à son panneau spécialement conçu (compris dans le kit de développement), il se transforme généralement en un PC de petite taille avec tous les ports et prises que votre ordinateur possède.

Les développeurs peuvent l'utiliser pour créer du matériel et utiliser Jetson lui-même pour exécuter des démonstrations et des simulations. Il s’agit d’une petite machine capable de faire tous les calculs avec une puissance infime, ce qui est beaucoup plus gros. Les spécifications techniques sont impressionnantes.

• Série NVIDIA Parker Tegra X2: GPU Pascal à 256 cœurs et deux cœurs de processeur Denver 64 bits couplés à quatre processeurs Cortex-A57 dans une configuration HMP
• 8 Go de RAM LPDDR4 128 bits
• 32 Go de stockage embarqué eMMC 5.1
• 802.11b / g / n / ac 2x2 MIMO Wi-Fi
• Bluetooth 4.1
• USB 3.0 et USB 2.0
• Gigabit Ethernet
• Fente pour carte SD pour stockage externe
• SATA 2.0
• PMIC multicanal complet
• Connecteur d'E / S standard industriel à 400 et à haute vitesse et à basse vitesse

La meilleure spécification technique est que le Jetson TX2 est une épingle à broche qui remplace le Jetson TX1 de l'année dernière. Les développeurs qui utilisent les ordinateurs existants de NVIDIA TX1 pour alimenter les cerveaux situés derrière leur équipement seront en mesure de fermer les ordinateurs, d’extraire l’ancien tableau et d’installer le nouveau. Le logiciel du TX1 sera mis à jour avec le même logiciel que celui utilisé par le TX2, ce qui en fera un remplacement instantané. Si vous avez déjà effectué des travaux sur le terrain ou en usine avec des équipements coûteux en temps d’immobilisation, vous comprenez à quel point cela est important. Alors que le matériel de nouvelle génération est en cours de développement, il utilise un matériel qui fonctionne à 100% avec la génération existante.

Le secret réside dans les cœurs GPU Pascal de NVIDIA. La même raison pour laquelle les cœurs Pascal sont utilisés dans les cartes vidéo très haut de gamme conçues pour les jeux VR en 3D et 4K est la raison pour laquelle ils sont utilisés pour le Jetson TX2. Les cœurs GPU sont un moyen plus efficace de réduire les chiffres. Ils sont plus rapides et consomment beaucoup moins d'énergie.

L'intelligence artificielle (IA) est le saint graal de l'informatique: en construisant une machine si intelligente, elle peut apprendre toute seule, sans instruction explicite. L'apprentissage en profondeur est un ingrédient essentiel à la réalisation de l'IA moderne. L'apprentissage en profondeur permet au "cerveau" de l'IA de percevoir le monde qui l'entoure; la machine apprend et prend finalement les décisions par elle-même. Il est maintenant largement reconnu dans les milieux universitaires et industriels que les GPU constituent le nec plus ultra en matière de formation de réseaux neuronaux profonds (DNN), en raison de leurs avantages en termes de rapidité et d’efficacité énergétique par rapport aux plates-formes plus traditionnelles basées sur CPU.

Les ordinateurs GPU NVIDIA font déjà des choses incroyables. Ils développent l'apprentissage en profondeur utilisé pour les voitures autonomes, enseignant aux robots des habiletés motrices telles que la marche et la saisie, analysant la vidéo à grande vitesse pour fournir des légendes de texte et même jouant à Go. Et vaincre de très bons adversaires humains.

Les cœurs de processeur graphique peuvent effectuer le même travail en utilisant moins d’énergie que l’informatique traditionnelle.

Le véritable test de l'IA et des cerveaux qui peuvent la piloter se profile à l'horizon. Des robots et des drones autonomes sont en cours de développement pour des tâches telles que l'inspection industrielle, des appareils médicaux portables pouvant être utilisés sur le terrain pour aider les personnes dans le besoin sont désespérément nécessaires et même des caméras de sécurité intelligentes pouvant analyser ce qu'elles voient et prendre les mesures appropriées sont bientôt disponibles. être des réalités. Ces idées nécessitent une informatique capable de piloter l'intelligence artificielle avec des algorithmes d'apprentissage approfondis et la capacité d'analyser elles-mêmes les données collectées sur un réseau de neurones. Ils ne peuvent pas être reliés à un câble et seront utilisés dans des endroits où même Verizon n’a aucune couverture.

En plus d'être puissant, un ordinateur conçu pour être petit et portable doit être économe en énergie. Les tests montrent (fichier.pdf) que l’informatique basée sur un processeur graphique NVIDIA peut être équivalente à un processeur Intel Core i7 6700K et utiliser 6 watts de puissance contre 60. Pour les équipements qui ne sont pas connectés au réseau électrique, c’est important.

Nous avons effectué des tests de référence avec AlexNet et GoogLeNet - un logiciel de test de détection et de classification de catégories d’objets basé sur CV, et les résultats ont été fantastiques. En mode Max-P (haute puissance), le Jetson TX2 a été en mesure d’analyser une moyenne de 641 images par seconde à l’aide du réseau AlexNet, avec une consommation de seulement 13 watts. Les tests de GoogLeNet ont produit en moyenne 278 images par seconde avec une puissance de 14 watts. Les tests Max-Q (faible consommation) ont enregistré une moyenne de 481 images par seconde sur AlexNet et de 191 images par seconde sur GoogLeNet avec une consommation de seulement 7 watts. C'est à peu près le double de ce que le Jetson TX1 pouvait offrir l'an dernier, et il a été très bon aussi.

Lorsque vous pouvez traiter des informations aussi rapidement et aussi précisément sur site, une connexion au cloud n’était plus le facteur limitant qu’elle était.

Dans le laboratoire

Le Jetson TX2 devrait être très capable sur le terrain. C'est la première machine de la prochaine génération qui apprendra sans passer par une connexion au cloud et une mise à niveau substantielle des équipements existants. Mais il a aussi des fonctionnalités que les développeurs vont adorer.

Le module de calcul de la taille d'une carte de crédit peut être branché sur une carte opérateur complète disponible dans le kit de développement Jetson TX2. La carte opérateur utilise les 400 broches d’E / S du module Jetson pour fournir des connexions de bureau standard. Un développeur de logiciel peut utiliser un clavier et une souris USB standard, un moniteur standard et le Jetson TX2 pour créer un environnement de développement complet.

Fonctionnant sur un système d'exploitation Linux4Tegra basé sur Ubuntu 16.04, tous les outils dont vous pourriez avoir besoin pour développer et déboguer des applications d'intelligence d'apprentissage approfondies sont inclus dans le logiciel JetPack de NVIDIA. Les développeurs peuvent télécharger le package à partir de la zone de développement de NVIDIA, suivre les didacticiels et les connaissances de la communauté pour voir ce que Jetson peut faire, puis commencer à travailler sur ses propres idées. Le logiciel inclus dans le JetPack est préconfiguré pour une exécution optimisée sur le système de traitement TX2:

• cuDNN - une bibliothèque de primitives accélérées par GPU pour les réseaux de neurones profonds.
• NVIDIA VisionWorks est un package de développement logiciel pour Computer Vision (CV) et le traitement d'images.
• CUDA Toolkit - un environnement de développement complet pour les développeurs C et C ++ construisant des applications accélérées par GPU.
• TensorRT - une exécution d'inférence d'apprentissage en profondeur de haute performance pour la classification, la segmentation et la détection d'objets de réseaux neuronaux.
• NVIDIA Nsight Eclipse - Un IDE Eclipse complet et personnalisé pour le développement, le débogage et le profilage d'applications CUDA-C.
• Tegra System Profiler et Tegra Graphics Debugger - des outils pour profiler et échantillonner des applications utilisant OpenGL.
• Les garanties et les actifs nécessaires pour développer et concevoir du matériel à l'aide de NVIDIA Jetson TX2.

Utiliser la même plate-forme pour créer et déboguer n’importe quelle application est indispensable pour tout ce qui est complexe et complexe. C'est l'un des moyens par lesquels les développeurs peuvent simplifier le processus et tout ce qui peut aider à rendre les choses plus faciles rend les développeurs plus heureux. Bien que le Jetson TX2 ne soit pas conçu comme le seul ordinateur de développement et de construction qu'un groupe puisse utiliser, le fait de savoir qu'il est capable est une aubaine pour l'installation et le travail sur le terrain. Vous pouvez effectuer de petits ajustements et modifications sur l’Edge de la même manière que le traitement sans renvoyer les données à une autre banque d’ordinateurs pour les traiter et les renvoyer.

L'équipement peut être conçu à l'aide des ressources matérielles et des dessins disponibles, non seulement pour réduire la complexité, mais également pour permettre une interface simple, avec des périphériques et des logiciels immédiatement disponibles. Armé d'un ordinateur portable et d'un câble USB, un ingénieur ou un technicien de terrain dispose de tout le nécessaire pour reconstruire au complet, si nécessaire.

Le logiciel NVIDIA Jetpack signifie que les développeurs peuvent se concentrer sur leur travail et non sur la configuration d'un environnement de construction.

Même l'installation de Jetpack de NVIDIA est simplifiée. Les réviseurs ont reçu une version mise à jour à installer et, en suivant quelques instructions simples via une interface graphique intelligente, une reconstruction complète de tous les logiciels a été effectuée avec seulement quelques étapes et une tasse de café. Encore une fois, NVIDIA facilite les choses pour permettre aux développeurs de se concentrer sur leur travail plutôt que de maintenir l'environnement de construction lui-même.

Vous pouvez réellement créer et déboguer des logiciels sur Jetson TX2, tout en ayant un assortiment d'autres applications en cours d'exécution pour écrire un article de blog.

Après quelques jours à tout mettre en place et à tout tester, je suis reparti très impressionné par ce que NVIDIA livre ici. Le premier Jetson TX1 était un excellent produit qui répondait à un besoin de développement rapide utilisant des cœurs de processeur graphique pour faire le gros du travail en profondeur pour les applications de réseau neuronal à apprentissage en profondeur. En très peu de temps, NVIDIA a relevé la barre avec un successeur capable de mettre fin à la dépendance au cloud en utilisant les mêmes outils et techniques de développement bien connus.

La technologie du futur nous passionnera et nous inspirera tous. Des produits comme le Jetson TX2 sont ce qui rendra cet avenir possible. Le kit de développement NVIDIA Jetson TX2 est proposé au prix de 599 USD pour les commandes au détail et de 299 USD pour les étudiants.

Voir sur le portail NVIDIA Embedded Developers