L’objectif technique
L’objectif est d’étudier le déploiement d’agents LLM sur une infrastructure administrée personnellement. Docker fournit l’environnement d’exécution utilisé pour les expérimentations.
État des expérimentations
Une première instance Hermes a été déployée. Elle est devenue non fonctionnelle au cours des essais. Un test de Nemotron est également en cours. Ces éléments décrivent l’état du projet, qui reste expérimental.
Axes de travail et limites
Les essais portent sur les configurations, les contraintes d’hébergement et les conditions nécessaires au fonctionnement des modèles. Ils prolongent l’expérience en infrastructure vers la pratique de l’IA auto-hébergée, sans constituer un service d’inférence en production.