L’IA post-LLM : L’avènement des « World Models » et l’architecture JEPA

Tommy Lambert, Directeur des Systèmes d’Information & IA chez Converteo, pilote la modernisation et l’unification du SI pour accompagner la croissance. Il allie gouvernance des données, cybersécurité et intégration de l’IA pour automatiser les workflows et maximiser l’efficacité opérationnelle.

À retenir

• Les modèles de langage actuels (LLM) sont limités par leur absence de compréhension causale, leurs hallucinations et leur incapacité à planifier.
• Les « World Models » (modèles du monde) s’inspirent de l’apprentissage humain en utilisant un simulateur interne pour anticiper et évaluer les conséquences de différentes actions avant de les exécuter.
• L’architecture JEPA concrétise cette approche en prédisant l’évolution de concepts abstraits plutôt qu’en tentant de reconstruire la réalité dans ses moindres détails (comme les pixels).

L’intelligence artificielle connaît une transformation fondamentale. Si les grands modèles de langage (LLM) ont capturé l’attention du public par leur fluidité textuelle, les pionniers du domaine, au premier rang desquels Yann LeCun, pointent aujourd’hui leurs limites structurelles. Pour franchir un nouveau cap vers une intelligence artificielle généraliste (AGI) dotée de bon sens, l’industrie se tourne vers une approche radicalement différente : les World Models (modèles du monde) et les architectures de prédiction par plongement conjoint (JEPA).

Les limites intrinsèques des modèles de langage actuels (LLM)

Les LLM reposent sur un principe d’apprentissage auto-supervisé par complétion de texte : ils prédisent le mot suivant (ou token) en se basant sur des corrélations statistiques observées dans de gigantesques volumes de données. Bien que cette méthode produise des résultats impressionnants en matière de génération de contenu ou de code, elle souffre de trois failles majeures :

• Absence de compréhension causale : Un LLM ne comprend pas les lois physiques, la permanence des objets ou les relations de cause à effet qui régissent le monde réel. Il manipule des symboles textuels sans ancrage dans la réalité physique.
• Illusions de raisonnement et hallucinations : N’ayant pas de représentation interne de la vérité ou de la logique, le modèle peut générer des affirmations factuellement fausses mais syntaxiquement parfaites.
• Incapacité à planifier : Les LLM génèrent leurs réponses de manière auto-régressive, caractère par caractère, sans pouvoir anticiper l’impact à long terme de leurs réponses ou simuler mentalement plusieurs scénarios avant d’agir.

Qu’est-ce qu’un « World Model » ?

Un modèle du monde est une architecture d’IA conçue pour imiter la façon dont les humains et les animaux apprennent, notamment durant les premiers mois de leur vie. Un bébé n’apprend pas à marcher ou à interagir en lisant des milliards de textes, mais en observant son environnement et en expérimentant.

Un modèle du monde intègre les composantes suivantes :

1. Un module de perception : Qui extrait l’état actuel de l’environnement (via de la vidéo, des capteurs, etc.).
2. Un simulateur interne (Le Modèle du Monde) : Capable de prédire comment l’environnement va évoluer, soit de manière autonome, soit en réponse à une action spécifique.
3. Un coût/objectif : Un système qui évalue si le résultat prédit est satisfaisant ou dangereux.

Grâce à cette carte mentale interne, l’IA devient capable de simuler mentalement différentes actions et d’en évaluer les conséquences avant même de les exécuter dans le monde réel.

L’architecture JEPA : La solution technique

Pour concrétiser ces modèles du monde, Yann LeCun et ses équipes chez Meta FAIR ont développé l’architecture JEPA (Joint Embedding Predictive Architecture).

Contrairement aux modèles génératifs classiques qui tentent de prédire chaque pixel manquant d’une image ou d’une vidéo (ce qui s’avère extrêmement lourd et inefficace en raison des détails inutiles comme le mouvement des feuilles d’un arbre), JEPA adopte une approche par plongement abstrait.

• L’abstraction des détails : JEPA n’essaie pas de reconstruire la réalité pixel par pixel. Il convertit les données brutes en concepts abstraits et prédit l’évolution de ces concepts.
• La gestion de l’incertitude : Si un robot lâche un verre, JEPA prédira que le verre va tomber et probablement se briser (concept abstrait), sans chercher à deviner l’emplacement exact de chaque éclat de verre (détail imprédictible).

Applications concrètes et impact industriel

Le passage des LLM aux modèles du monde va bouleverser plusieurs secteurs clés de la tech et de l’industrie.

La robotique autonome et l’automobile

Un robot ménager ou un véhicule autonome doté d’un modèle du monde n’a plus besoin d’être programmé pour chaque situation d’urgence. Face à un obstacle inédit, il peut simuler différentes trajectoires dans son « esprit » informatique et choisir instantanément la plus sûre, faisant preuve d’un véritable bon sens physique.

L’optimisation des processus industriels

Dans les usines complexes ou la gestion de réseaux énergétiques, les architectures JEPA permettront de créer des « jumeaux numériques » ultra-performants capables d’anticiper les pannes ou d’optimiser les flux de production en simulant des milliers de variables en tâche de fond.

Vers une IA dotée de bon sens

Les modèles du monde marquent la fin de l’ère de l’IA purement statistique et textuelle. En apprenant à observer et à comprendre les structures du monde réel à la manière du cerveau humain, ces nouvelles architectures ouvrent la voie à des systèmes véritablement autonomes, capables de raisonner, de planifier et d’interagir de manière sûre et intelligente avec leur environnement.