Guides pratiques

Agent IA hors ligne : des usages aux tests de réception

Par Matis Monseu · Publié le · Mis à jour le

Un assistant déconnecté peut aider à retrouver une procédure interne ou à préparer du code dans un environnement où les requêtes ne doivent pas partir vers un service distant. La difficulté ne se résume pourtant pas à télécharger un modèle. Il faut rendre les documents exploitables, respecter les habilitations et maintenir le dispositif sans réintroduire une dépendance réseau. Tera Node a construit un agent entièrement hors ligne qui répond sur les documents internes et aide à coder. Le client est sous NDA : son architecture, son matériel et ses performances ne sont pas publiés. Les choix ci-dessous sont donc une méthode de cadrage pour un nouveau projet, et non la description technique de ce client.

Définir ce qui doit fonctionner sans réseau

Distinguer poste déconnecté et réseau interne isolé

Écrivez le scénario exact : un poste individuel sans accès internet, plusieurs postes sur un réseau interne ou un environnement physiquement isolé. Ces situations ne demandent ni les mêmes installations ni les mêmes procédures d’administration. Listez ce qui doit rester disponible pendant une coupure : ouverture de session, recherche documentaire, génération de texte, historique et export. Un écran local ne prouve rien si son authentification ou sa recherche dépend d’un serveur extérieur.

Dessinez ensuite les échanges autorisés, y compris ceux des installateurs, des bibliothèques, des mises à jour et des journaux. Pour la réception, coupez réellement les sorties réseau et rejouez les tâches attendues après redémarrage. Toute fonction indisponible doit être signalée comme telle dans le périmètre livré. Si une orchestration n8n est envisagée, examinez chaque connecteur séparément : son hébergement interne ne transforme pas un appel à une API distante en opération hors ligne.

Séparer les droits avant de charger le corpus

Tester la confidentialité entre deux profils

Prenons un service technique qui consulte des notices et un responsable qui dispose aussi de contrats confidentiels. Donner accès au même assistant ne doit pas ouvrir le même corpus aux deux personnes. Construisez une matrice associant groupes, collections documentaires et actions permises. Appliquez ces restrictions au moment de rechercher les contenus, pas seulement dans une consigne demandant au modèle de rester discret. La CNIL recommande notamment des accès soumis à habilitation et une authentification adaptée dans sa fiche sur la sécurité des systèmes d’IA. Sécurité des systèmes IA, CNIL

Vérifiez la séparation avec des comptes de test distincts : demande directe sur un contrat, reformulation indirecte, consultation d’un historique et téléchargement d’une pièce jointe. Incluez les extraits, titres et métadonnées, qui peuvent déjà révéler une information. Sur un poste partagé, prévoyez la fermeture de session et la gestion des caches. Les sauvegardes du corpus et les journaux contenant des questions sensibles doivent suivre des règles de protection cohérentes avec celles des documents originaux.

Préparer des réponses documentaires vérifiables

Gérer versions, contradictions et pièces illisibles

Choisissez d’abord un ensemble réduit de documents dont un référent connaît la validité. Pour chacun, conservez titre, date, propriétaire et statut : actif, remplacé ou archivé. Contrôlez l’extraction des tableaux et des PDF numérisés sur quelques pages représentatives. Une procédure dont les colonnes ont été mélangées produit une mauvaise matière de recherche, même si le fichier a été importé sans erreur. Faites corriger l’entrée plutôt que de compter sur une formulation plus insistante de la question.

Une réponse utile doit permettre de retrouver le passage consulté et de distinguer une citation d’une synthèse. Demandez par exemple quelle procédure appliquer quand deux notices se contredisent : l’assistant devrait exposer le conflit et renvoyer au responsable désigné. Prévoyez aussi une réponse explicite lorsque le corpus ne contient pas l’information. Pour retirer une version périmée, vérifiez sa disparition dans la recherche et dans les extraits conservés, selon le fonctionnement retenu.

Évaluer le matériel avec une charge réaliste

Mesurer mémoire, latence et concurrence

Ne choisissez pas une machine sur la seule taille annoncée du modèle. La mémoire disponible, la longueur des documents, le nombre de demandes simultanées et les logiciels déjà présents modifient la faisabilité. Testez une configuration candidate avec les fichiers, les longueurs de réponse et la concurrence prévus. Relevez le temps avant le premier résultat, la durée totale, l’occupation mémoire et les échecs. Ces mesures permettent de discuter un compromis concret entre confort, coût et capacité.

Ajoutez une journée d’usage représentative : démarrage à froid, plusieurs sessions, recherche dans un document long et interruption d’un traitement. Pour un poste peu puissant, réduire le corpus ou limiter la simultanéité peut être plus raisonnable qu’annoncer une expérience interactive impossible à tenir. Documentez les prérequis et la marge restante. Aucun chiffre de performance ou équipement du projet confidentiel ne peut servir de référence publique sans éléments autorisés et vérifiables.

Encadrer les suggestions de code

Exécuter les essais dans un environnement limité

Pour l’aide au développement, commencez par des tâches réversibles : expliquer une fonction, proposer un test ou préparer une modification isolée. N’accordez pas d’emblée un accès en écriture aux dépôts de production. Les exemples doivent exclure les secrets et respecter les règles internes d’utilisation du code. Une proposition qui semble correcte peut appeler une dépendance absente du réseau isolé ou supposer une version différente de celle réellement installée.

Le développeur relit le changement, vérifie les dépendances disponibles et lance les tests dans l’environnement prévu. Constituez un jeu d’évaluation comprenant une erreur connue, un besoin ambigu et une demande incompatible avec les règles du dépôt. Notez autant les refus appropriés que les corrections réussies. L’objectif est de savoir quelles tâches déléguer à la préparation automatique, tout en laissant l’intégration et l’exécution sensible sous responsabilité humaine.

Maintenir un système sans accès internet

Organiser import contrôlé et retour arrière

Attribuez un responsable aux versions du modèle, aux composants et au corpus. Décrivez comment un correctif entre dans l’environnement : provenance identifiée, contrôles prévus par l’organisation, essai sur une copie et autorisation de déploiement. Conservez une version restaurable avant chaque changement. Un dispositif isolé peut rester vulnérable à un support amovible compromis, à une mauvaise permission ou à une action d’administration ; la déconnexion ne dispense pas de maintenance.

La réception doit produire une liste de questions validées, des limites connues et une procédure de secours, par exemple consulter directement les notices indexées. Fixez la fréquence des revues documentaires et la personne qui tranche une réponse contestée. Après une mise à jour, rejouez les cas de confidentialité et les questions critiques avant réouverture. Ce suivi permet de décider sur preuves si l’assistant reste adapté au travail demandé.

Passer à l'action, étape par étape

  1. Décrire trois tâches prioritaires et les conditions exactes de déconnexion.
  2. Associer chaque collection à un propriétaire et aux profils autorisés.
  3. Essayer le matériel candidat avec les documents et la concurrence attendus.
  4. Réceptionner les citations, les abstentions et la séparation des accès.
  5. Consigner la procédure de mise à jour et tester une restauration.

Questions fréquentes

Oui, si un essai représentatif confirme ses capacités. Vérifiez mémoire, espace, temps de réponse et charge simultanée avant de retenir cette option ; le seul fait de pouvoir ouvrir le modèle ne suffit pas.

Le référent valide le document, remplace la version applicable et contrôle plusieurs recherches ciblées. En attendant cette vérification, distribuez la procédure par le canal interne habituel plutôt que de présenter le corpus comme déjà actualisé.

Non par principe. Déterminez les besoins de diagnostic, les données à éviter et la durée nécessaire. Un historique utile au support peut aussi accumuler des informations sensibles ; son accès doit être limité.

Sources officielles

Devis en 24h

Passons de la question à votre projet.

Le diagnostic permet de vérifier vos outils et vos règles. Le devis précise le périmètre, les validations et le délai de livraison.

Réserver mon diagnostic gratuit (20 min)