par 
Le média StorageReview exécute un chatbot IA sur un NAS alimenté par la carte graphique RTX A4000 de Nvidia, plaçant les capacités ChatGPT sur un serveur local. Les créateurs de matériel informatique YouTube ont généralement un penchant pour l'inhabituel et le ridicule, mais StorageReview a créé une solution dont le caractère unique correspond à son utilité.
Comme le montre la vidéo YouTube intégrée ci-dessus, Jordan de StorageReview a accompli cette tâche sans trop de bricolage rigoureux. La base du projet est un QNAP TS-h1290FX, un NAS pré-construit avec 12 emplacements NVMe, un processeur AMD Epyc et 256 Go de RAM prêts à l'emploi. La raison de ce NAS spécifique est double : il permet d'ajouter un GPU interne et il prend en charge le programme d'hyperviseur QNAP Virtualization Station pour la création de machines virtuelles (VM). A ce shell s'ajoute le Nvidia RTX A4000, un GPU Ampere qui est la carte graphique mono-slot la plus puissante de Nvidia.
Avec un NAS rempli de téraoctets de données et un cheval de bataille RTX prêt à l'emploi, Jordan pourrait utiliser le nouveau programme « Chat with RTX », une création de Nvidia qui met en place une expérience ChatGPT sur un PC alimenté par votre carte graphique, qui peut s'appuyer sur fichiers locaux pour les données.
Avoir un NAS avec une IA à l’intérieur peut sembler peu pratique, mais pour un monde de plus en plus dépendant de l’IA, cette solution a beaucoup de sens. L'utilisation de l'IA par le monde des entreprises inclut l'analyse et l'optimisation des données et des performances, qui sont potentiellement liées à des données sensibles dont on ne voudrait pas sur l'Internet ouvert. Le modèle ChatGPT en ligne s'entraîne sur sa propre utilisation, ce qui effrayerait à juste titre les utilisateurs disposant de données sensibles et les empêcherait de les divulguer dans une base de données d'IA. Disposer d'un chatbot IA local, déconnecté de l'Internet ouvert, mais connecté à vos données pour ces solutions, peut potentiellement changer la donne pour les entreprises axées sur la sécurité, et placer cet outil sur un NAS permet à tous les utilisateurs d'un réseau d'accéder aux outils d'IA.
Ce projet est d’une utilité rafraîchissante dans un environnement technologique YouTube de plus en plus axé sur la nouveauté. Ajouter les fonctionnalités ChatGPT à un NAS qui est déjà une centrale à part entière (les disques NVMe de 15 To sont de plus en plus courants dans les entreprises, et cette bête QNAP en convient à 12) est une évidence pour les entreprises qui souhaitent utiliser le puissance de l’IA pour devenir plus compétitifs dans un monde en évolution rapide. Certaines des préoccupations ou craintes morales liées aux modèles de langage d'IA sont également évitées : l'utilisation d'un modèle de langage entièrement hors réseau vous protège contre le vol de vos réponses par l'IA, et le fait que le robot soit formé uniquement sur vos données garantit l'absence de piratage ou de vol de données. des autres se perpétue après avoir téléchargé le modèle LLM pour alimenter l'application de chat.
Pour en savoir plus sur le projet et savoir comment le reproduire par vous-même, consultez l'article sur StorageReview. Pour vous aider à démarrer votre propre projet AI NAS, vous aurez besoin des meilleurs SSD et disques durs examinés par nos soins. Et si vous voulez vraiment faire du bricolage, pensez à imprimer en 3D votre propre boîtier NAS.
