Traitement du Langage Naturel (NLP)

L'Essentiel

Ce qu’il faut retenir :

1. Quoi : Le NLP (Natural Language Processing) est le domaine de l’IA qui permet aux machines de traiter le langage humain.
2. Pourquoi : Sans NLP, pas de ChatGPT, pas de traducteur automatique, pas d’assistant vocal.
3. Comment : Tokenization → Embedding → Modèle → Génération/Classification.

Ce que vous saurez dans 3 minutes

• L’évolution : Comment le NLP est passé des règles grammaticales aux réseaux de neurones.
• Le pipeline : Les 4 étapes techniques du traitement d’un texte par une IA.
• Les applications : Chatbots, traduction, analyse de sentiment, extraction d’information.

---

1. Comprendre

Le NLP est né d’une ambition simple : faire parler les machines. Depuis les premières tentatives de traduction automatique dans les années 1950, le domaine a connu trois révolutions majeures qui ont transformé notre façon d’interagir avec la technologie.

Définition

Définition

Le Traitement du Langage Naturel (Natural Language Processing - NLP) est la branche de l’intelligence artificielle qui donne aux machines la capacité de lire, décoder et générer du langage humain de manière utile.

Les trois âges du NLP

L’histoire du NLP se découpe en trois ères distinctes, chacune représentant un changement de paradigme fondamental :

timeline
    title L'Évolution du NLP
    1950-1990 : Ère des Règles
              : Grammaires formelles
              : Arbres syntaxiques
              : ELIZA (1966)
    1990-2017 : Ère Statistique
              : Modèles probabilistes
              : N-grammes, HMM
              : Machine Learning
    2017-Aujourd'hui : Ère Neurale
              : Transformer (2017)
              : BERT, GPT
              : LLM génératifs

L’ère des règles (1950-1990) : Les linguistes codaient manuellement des grammaires. C’était précis mais impossible à généraliser - chaque langue nécessitait des années de travail.

L’ère statistique (1990-2017) : Les machines apprennent des patterns à partir de grandes quantités de texte. Les modèles n-grammes et les HMM (Hidden Markov Models) dominent. Google Translate première génération fonctionne ainsi.

L’ère neurale (2017-…) : L’architecture Transformer révolutionne tout. Les modèles pré-entraînés (BERT, GPT) atteignent des performances surhumaines sur de nombreuses tâches.

Contexte & Enjeux

Pourquoi le NLP explose-t-il maintenant ?

• Le déclencheur : Le papier “Attention Is All You Need” (2017) a introduit le Transformer, permettant le traitement parallèle massif du texte.
• Le carburant : Internet a fourni des milliards de textes d’entraînement gratuits.
• Le risque : Les organisations qui n’exploitent pas le NLP automatisent moins, comprennent moins leurs clients, et perdent en compétitivité.

---

2. Appliquer

Le pipeline NLP moderne

Chaque texte passe par une chaîne de transformation avant d’être “compris” par une IA :

flowchart LR
    A["Texte brut"] --> B["Tokenization"]
    B --> C["Embedding"]
    C --> D["Modèle"]
    D --> E["Sortie"]
    
    B -.- B1["'Bonjour' → [15496]"]
    C -.- C1["[15496] → [0.2, -0.1, ...]"]
    D -.- D1["Transformer, BERT, GPT"]
    E -.- E1["Classification, Génération"]

1. Tokenization Le texte est découpé en unités (tokens). “Anticonstitutionnellement” devient plusieurs sous-tokens. Le vocabulaire type contient 30 000 à 100 000 tokens.

2. Embedding Chaque token est converti en vecteur numérique (typiquement 768 ou 1024 dimensions). Ces vecteurs capturent le sens : “roi” - “homme” + “femme” ≈ “reine”.

3. Modèle Le Transformer traite tous les tokens en parallèle grâce au mécanisme d’attention, capturant les relations à longue distance.

4. Sortie Selon la tâche : classification (sentiment), extraction (entités nommées), ou génération (texte suivant).

Exemple de code : Tokenizer HuggingFace

from transformers import AutoTokenizer

# Charger le tokenizer de CamemBERT (modèle français)
tokenizer = AutoTokenizer.from_pretrained("camembert-base")

# Tokeniser une phrase
texte = "Le traitement du langage naturel révolutionne l'IA."
tokens = tokenizer.tokenize(texte)
ids = tokenizer.encode(texte)

print(f"Tokens: {tokens}")
# ['▁Le', '▁traitement', '▁du', '▁langage', '▁naturel', '▁révolution', 'ne', "▁l'", 'IA', '.']

print(f"IDs: {ids}")
# [5, 423, 16, 2982, 1354, 12872, 186, 33, 2259, 9, 6]

Comparaison des approches

Approche Règles

Avantages : Précision sur domaines étroits, explicabilité totale.

Limites : Coût de maintenance astronomique, impossible à généraliser, fragile aux variations.

Exemple : Chatbot bancaire des années 2000 avec arbres de décision.

Approche Neurale

Avantages : Généralisation massive, performances état de l’art, multilingue natif.

Limites : Opacité (boîte noire), coût computationnel, hallucinations possibles.

Exemple : ChatGPT, Claude, traduction DeepL.

Quand utiliser quelle technique NLP ?

Tâche	Technique recommandée	Commentaire
Classification de sentiment	✅ Fine-tuning BERT/CamemBERT	Précision >95% sur données labellisées
Chatbot généraliste	✅ LLM (GPT, Claude)	Flexibilité maximale
Extraction d’entités métier	⚠️ Fine-tuning ou règles	Dépend du volume de données
Traduction haute qualité	✅ Modèle spécialisé (DeepL)	Les LLM généralistes sont moins précis
Résumé automatique	✅ LLM avec prompt engineering	Excellents résultats out-of-the-box

---

3. Aller plus loin

Architecture d’un système NLP de production

Un déploiement réel implique bien plus que le modèle :

flowchart TB
    subgraph Ingestion
        A["API/Webhook"] --> B["Prétraitement"]
        B --> C["Détection langue"]
    end
    
    subgraph Core
        C --> D["Cache embeddings"]
        D --> E["Modèle NLP"]
        E --> F["Post-traitement"]
    end
    
    subgraph Serving
        F --> G["API REST"]
        G --> H["Monitoring"]
    end

Formule clé : Attention Score

Le mécanisme d’attention, cœur du Transformer, calcule l’importance de chaque token par rapport aux autres :

Attention(Q, K, V) = softmax(QK^T / sqrt(d_k)) × V

Où Q (Query), K (Key), V (Value) sont des projections linéaires de l’embedding, et d_k est la dimension des clés.

Points de vigilance

Pièges fréquents

• Données biaisées : Un modèle entraîné sur des données non représentatives reproduira les biais.
• Overfitting linguistique : Un modèle français ne généralise pas au québécois sans adaptation.
• Coût d’inférence : Les LLM sont chers en production (~0.01€/requête pour GPT-4).

Prospective

Le NLP évolue vers :

• Multimodalité : Fusion texte + image + audio (GPT-4V, Gemini).
• Efficience : Modèles plus petits aussi performants (Mistral, Phi).
• Spécialisation : Modèles métier (juridique, médical) fine-tunés.
• Agents : Les LLM deviennent des acteurs autonomes qui utilisent des outils.

---

Questions Fréquentes

Quelle est la différence entre NLP et NLU ?

Le NLU (Natural Language Understanding) est un sous-ensemble du NLP focalisé sur la compréhension du sens. Le NLP englobe aussi la génération (NLG) et le traitement bas niveau.

Peut-on faire du NLP sans Deep Learning ?

Oui, mais avec des performances inférieures sur les tâches complexes. Les approches statistiques classiques (TF-IDF, Naive Bayes) restent valides pour des cas simples ou quand les données sont rares.

Quel est le meilleur modèle NLP pour le français ?

CamemBERT et FlauBERT sont les références pour les tâches de compréhension. Pour la génération, Mistral (français natif) ou les LLM multilingues (Claude, GPT-4) excellent.

---

Notions Liées (Spider Web)

• Concepts Clés : LLM, Transformer, BERT
• Atomes Connexes : Token, Embedding, Attention

Ressources Externes

• Paper fondateur : Attention Is All You Need (2017)
• Cours : Hugging Face NLP Course
• Modèle français : CamemBERT sur Hugging Face