Technique
Déployer un LLM local en entreprise
Trois jours pour faire tourner un modèle open-weight sur votre infrastructure : choisir le modèle, dimensionner le matériel, servir, sécuriser et superviser.
Objectifs pédagogiques
- Choisir un modèle open-weight selon la licence, la taille, la qualité en français et la tâche
- Dimensionner le matériel : mémoire, CPU, GPU, quantification
- Déployer et exposer un serveur d'inférence sur votre infrastructure
- Sécuriser les accès, les journaux et les données
- Superviser la qualité, la latence, le coût et la consommation d'énergie
Programme détaillé
Jour 1
Le paysage des modèles open-weight
Familles de modèles, licences, tailles, performances en français. Lire une fiche de modèle.
Quantification et mémoire
Ce que l'on gagne et ce que l'on perd. Calculer la mémoire nécessaire.
Matériel
Serveur CPU, GPU, poste de travail : quel matériel pour quel usage, et à quel coût.
Jour 2
Serveurs d'inférence
llama.cpp, Ollama, vLLM : forces, limites, API compatibles.
Déploiement
Conteneurs, montée en charge, chez vous ou chez un hébergeur français.
Jour 3
Sécurité
Authentification, cloisonnement, journaux sans données sensibles, mises à jour des modèles.
Exploitation
Supervision de la latence, du débit, des erreurs et de l'énergie consommée. Plan de continuité.
Modalités
- Méthodes
- Travaux pratiques sur des machines de formation ou sur votre environnement de test. Évaluation : un déploiement complet et documenté.
- Vos données
- Les exercices utilisent des données fictives, ou vos données à l'intérieur de votre infrastructure. Nous n'en conservons aucune copie.
- Évaluation et validation
- Une attestation de fin de formation est remise à chaque participant : objectifs, durée, programme suivi et résultat de l'évaluation. Un certificat de réussite délivré par Aylan Solutions est remis lorsque l'évaluation pratique est validée.
- Adaptation
- En intra-entreprise, le programme est ajusté à vos cas d'usage et à vos outils lors d'un échange préalable.
- Mise à jour
- Programme mis à jour en octobre 2026.
- Accessibilité
- Une situation de handicap ou un besoin particulier ? Signalez-le-nous lors de votre demande : nous adaptons les conditions de la formation.
Organiser cette formation
Indiquez-nous votre équipe, vos contraintes et vos dates souhaitées. Nous revenons vers vous avec une proposition.