Présentation
L’objectif principal de cette école est d'initier les administrateurs de matériel et les développeurs logiciels à l'utilisation de l'IA générative et des modèles de langage (LLMs) afin qu'ils puissent répondre aux besoins du personnel administratif, technique et scientifique de leurs laboratoires.
Cette école s'inscrit dans le cadre du trimestre thématique AI4Metascience du Centre AISSAI (Artificial Intelligence for Science and Science for Artificial Intelligence) mis en place par le CNRS. Elle est financée par AISSAI et est donc gratuite pour les participants.
Les inscriptions sont ouvertes mais l'école est limitée à 30 participants. Par conséquent, l'inscription ne vaut pas acceptation et une sélection pourra être effectuée si nécessaire. Merci de décrire vos motivations dans la demande.
Objectifs
A l’issue de la formation, les participants seront en mesure :
- dimensionner un serveur local pour les besoins d'un agent conversationnel ;
- choisir un modèle de langage ouvert et adapté aux besoins ;
- traiter et encoder les données internes appelées à enrichir l'IA générative ;
- mettre en place un service de RAG avec son interface utilisateur ;
- mettre en place un agent d’IA permettant de réaliser des tâches plus complètes que la conversation.
La semaine sera organisée sous forme d’alternance de cours théoriques et de TPs sur ordinateur.
Public cible
Cette école est destinée aux administrateurs système et aux développeurs de tous instituts. Elle est réservée au personnel en poste dans un laboratoire de recherche public en France.
Langue
Les cours seront dispensés en français, mais les diapositives pourront être en anglais.
Prérequis
Bonnes bases de programmation Python.
Equipement
Il est demandé aux stagiaires de venir avec leur propre ordinateur sur lequel les logiciels libres nécessaires à la formation seront préalablement installés. Les instructions seront communiquées avant le début du stage.
Matériel pour les TPs
L'ensemble du matériel est disponible dans le GitLab de l'IN2P3 :
https://gitlab.in2p3.fr/aissai/labobots
Des dépôts spécifiques sont disponibles pour chacune des thématiques présentées lors de cette école.
Pour le RAG, le dépôt est https://gitlab.in2p3.fr/aissai/labobots/rag
Pour le récupérer, il suffit de faire un git clone :
$ git clone https://gitlab.in2p3.fr/aissai/labobots/rag.git
$ module load Programming_Languages/python/3.14.2
$ uv sync --extra embeddings --extra secure-app
$ module load ollama
$ export OLLAMA_MODELS=/pbs/throng/training/labobots/models
$ OLLAMA_HOST=127.0.0.1:<port> ollama serve
$ ollama serve
Pour établir un tunnel vers la machine distante (moteur de référence)
./rag_workshop/manage_remote_rag.sh tunnel --chroma-port 8000 --litellm-port 4000
Afin de se connecter automatiquement, vous pouvez configurer la connexion via le fichier ~/.ssh/config, avec le contenu suivant :
Host 195.221.220.18
User labobots
PasswordAuthentication no
IdentityFile <PATH_TO_YOUR_SSH_KEY>/id_ed25519_labobots_rag
IdentitiesOnly yes
PubkeyAuthentication yes
Lieu
La formation aura lieu au domaine Saint-Paul à Saint-Rémy-lès-Chevreuse (78). L'hébergement est inclus du mardi 29/09 14h au vendredi midi . Les repas seront pris en charge du mardi soir au vendredi matin.