Aller au contenu
Hacktion Wiki IA

Alignement

L’Alignement (AI Alignment) est le domaine de recherche visant à garantir que les systèmes d’IA agissent conformément aux intentions et valeurs humaines, même lorsqu’ils deviennent très puissants. C’est considéré par beaucoup de chercheurs comme le problème le plus important et le plus difficile de l’IA.

Le Problème Fondamental

Une IA fait ce qu’on lui demande, pas ce qu’on veut. Cette distinction subtile devient critique à mesure que les systèmes gagnent en puissance.

Pourquoi c’est Difficile

graph TD
    subgraph Problem["Le Problème de l'Alignement"]
        H[Humains<br/>Valeurs implicites, contradictoires]
        S[Spécification<br/>Traduire en objectifs formels]
        O[Optimisation<br/>L'IA optimise l'objectif]
        R[Résultat<br/>Conséquences imprévues ?]
    end
    
    H --> |Difficile| S
    S --> |Fidèle ?| O
    O --> |Aligned ?| R
    
    R --> |Boucle feedback| H
    
    style Problem fill:#1e1e2e,stroke:#dc2626
    style R fill:#f59e0b,stroke:#333

Quand la Mesure Devient l’Objectif

“Quand une mesure devient un objectif, elle cesse d’être une bonne mesure.”

Exemple dans l’IA :

  • Objectif : Maximiser l’engagement utilisateur
  • Mesure : Temps passé sur la plateforme
  • Résultat : L’IA recommande du contenu addictif et polarisant

L’IA a parfaitement optimisé la métrique. Mais est-ce ce que nous voulions vraiment ?

Techniques d’Alignement

RLHF (Reinforcement Learning from Human Feedback)

La méthode la plus utilisée actuellement :

  1. Le modèle génère plusieurs réponses
  2. Des humains classent ces réponses (meilleure/pire)
  3. Un “modèle de récompense” apprend ces préférences
  4. Le LLM est entraîné pour maximiser cette récompense

Limites : Coûteux, subjectif, ne capture que les préférences superficielles.

Constitutional AI (Anthropic)

Plutôt que du feedback humain direct, on donne une “Constitution” à l’IA :

PrincipeExemple
Honnêteté”Ne pas mentir même si l’utilisateur le demande”
Non-nuisance”Refuser d’aider à des activités illégales”
Transparence”Admettre ses limites et incertitudes”

L’IA s’auto-critique selon ces principes avant de répondre.

Interprétabilité

Comprendre ce qui se passe dans la “boîte noire” :

  • Mechanistic Interpretability : Identifier les circuits de neurones
  • Probing : Tester les représentations internes
  • Attention Visualization : Voir où le modèle “regarde”

L’Échelle du Problème

Niveau IARisque d’Alignement
IA Étroite (actuel)Biais, manipulation, erreurs localisées
IA Générale (AGI)Objectifs mal spécifiés à grande échelle
Super-IARisque existentiel si mal alignée

Plus l’IA devient puissante, plus les erreurs d’alignement ont des conséquences graves.

Débats Actuels

Pessimistes (x-risk)

Des chercheurs comme Eliezer Yudkowsky estiment que l’alignement est presque impossible et que l’humanité court un risque existentiel.

Optimistes Prudents

Des organisations comme Anthropic pensent que l’alignement est difficile mais faisable avec suffisamment de recherche et de précautions.

Sceptiques

Certains considèrent les risques existentiels comme exagérés et préfèrent se concentrer sur les problèmes immédiats (biais, désinformation).

Actions Concrètes

  1. Recherche fondamentale - Investir dans l’interprétabilité et les techniques d’alignement
  2. Évaluation - Développer des benchmarks de sécurité
  3. Gouvernance - Réguler le déploiement des modèles puissants
  4. Transparence - Partager les découvertes de sécurité entre laboratoires
  5. Human-in-the-loop - Maintenir la supervision humaine sur les actions critiques

À retenir

  • L’Alignement vise à s’assurer que l’IA fait ce qu’on veut, pas juste ce qu’on demande.
  • Le problème du Maximiseur de Trombones illustre les dangers d’une IA mal alignée.
  • Les techniques actuelles incluent RLHF, Constitutional AI et Interprétabilité.
  • Plus l’IA est puissante, plus l’alignement est critique.
  • C’est un problème ouvert considéré comme central pour l’avenir de l’humanité.

Notions liées