IA Générative & MLOps

Qu'est-ce qu'un LLM ?

Un LLM (Large Language Model) est un modèle de langage de grande taille, entraîné sur d'immenses corpus textuels pour prédire le token suivant. Cette capacité prédictive lui permet de générer du texte cohérent, de répondre à des questions, de résumer, traduire et raisonner. GPT-4, Claude, Gemini et Llama sont des exemples de LLM.

Qu'est-ce que le RAG ?

Le RAG (Retrieval-Augmented Generation) est une architecture qui enrichit les réponses d'un LLM avec des documents récupérés en temps réel depuis une base de connaissances (souvent une base vectorielle). Cela permet d'ancrer les réponses dans des faits vérifiables et de contourner la date de coupure du modèle.

Qu'est-ce qu'un agent IA ?

Un agent IA est un système où un LLM peut planifier des actions, utiliser des outils externes (recherche web, API, code, base de données) et itérer pour atteindre un objectif. Contrairement à un simple chatbot, un agent exécute des workflows multi-étapes de façon autonome.

Qu'est-ce que le MLOps ?

Le MLOps (Machine Learning Operations) est l'ensemble des pratiques pour industrialiser le cycle de vie des modèles ML : développement, tests, versioning, déploiement, monitoring et réentraînement. Il applique les principes DevOps au domaine du machine learning pour passer du notebook en production.

Quelle est la différence entre MLOps et LLMOps ?

MLOps s'applique aux modèles ML classiques (entraînement custom, inférence batch ou temps réel). LLMOps est spécifique aux LLM et GenAI : gestion des prompts, évaluation des sorties, fine-tuning, RAG, gestion des coûts d'API et gouvernance des hallucinations. Les deux partagent des principes mais diffèrent dans les outils et les préoccupations.