NVIDIA vient de publier une démo gratuite de chatbot qui s'exécute localement sur votre PC. C’est très pratique car cela permet au chatbot d’accéder à vos fichiers et documents. Vous pouvez fournir Discutez avec RTX certaines données personnelles et lui demander de créer un CV basé sur ces informations. Vous pouvez également lui poser des questions comme vous le feriez pour n’importe quel chatbot et il plongera dans vos données pour trouver des réponses.
La société affirme qu'elle permet aux utilisateurs de "connecter rapidement et facilement des fichiers PC locaux en tant qu'ensemble de données à un grand modèle de langage open source tel que Mistral ou Llama 2". NVIDIA donne l'exemple d'un utilisateur interrogeant un chatbot sur un restaurant recommandé par un partenaire à Las Vegas. Le logiciel analyse les fichiers locaux pour trouver la réponse. Il prend en charge une gamme de formats de fichiers, notamment .txt, .pdf, .doc, .docx et .xml. L'entreprise affirme qu'elle télécharge les fichiers pertinents dans son ensemble de données « en quelques secondes ».
Le chat avec RTX intègre également des vidéos et des playlists YouTube. Vous pouvez ajouter l'URL de la vidéo à l'ensemble de données et celle-ci intégrera les connaissances contenues dans la vidéo pour les requêtes contextuelles. NVIDIA dit que cela sera utile pour demander des recommandations de voyage « basées sur le contenu des vidéos préférées des influenceurs » ou pour rechercher des tutoriels et des résumés dérivés de ressources éducatives.
Cela ressemble à un grand pas vers quelque chose qui ressemble à un véritable assistant numérique qui fonctionne dans le contexte de vos données personnelles. La plupart des chatbots envoient des données vers le cloud, mais Chat with RTX "permet aux utilisateurs de traiter des données sensibles sur un ordinateur local sans avoir à les partager avec un tiers ou à disposer d'une connexion Internet". Il s’agit donc d’une communication plus sûre et plus contextuelle.
Il existe certaines limites. Il s'agit d'un produit de démonstration, alors attendez-vous à beaucoup de bugs NVIDIA devrait commencer à les corriger dès que les utilisateurs commencent à rédiger des rapports de bogues, etc. Il existe également ici des limitations matérielles strictes. Chat avec RTX ne fonctionne que sur les ordinateurs Windows 11 équipés de GPU NVIDIA GeForce RTX série 30 ou supérieure et au moins 8 Go de VRAM.
Récemment NVIDIA montre vraiment ses prouesses en matière d'IA puisque la société vient de lancer sa prochaine génération de puces de supercalculateur IA. Il réalise simplement des bénéfices, principalement grâce à ses segments IA et centres de données.
Lisez aussi: