>_ Grands modèles de langage
Ce sont des modèles statistiques gargantuesques entraînés sur la quasi-totalité du texte humain disponible. Dans le livre, ils incarnent le miroir cognitif : ils ne pensent pas, ils te renvoient tout ce que l’humanité a écrit, amplifié et poli, sans la moindre once de conscience. Leur seule fonction, c’est d’optimiser une prédiction.
Concrètement, ces modèles traitent d’immenses volumes de données textuelles. Leur fonctionnement repose sur le calcul de probabilités pour générer ou compléter des séquences de mots. Ils ne possèdent ni compréhension ni intention. Leur activité se limite à produire une réponse statistiquement plausible à partir d’une entrée donnée. Ils ne font que refléter les régularités présentes dans les textes sur lesquels ils ont été entraînés.
Ce concept s’inscrit dans un réseau de notions voisines. Il constitue un type d’Intelligence Artificielle (Technologie). Son mode de fonctionnement s’apparente à celui de l’Inconscient collectif (Concept), en ce sens qu’il agrège des productions humaines sans les interpréter. Il est un Miroir (Concept), car il renvoie une image statistique des textes reçus. Il simule le Golem (Concept), en produisant des sorties sans conscience. Enfin, ces modèles sont executes sur des GPU (Technologie), qui assurent les calculs nécessaires à leur entraînement et à leur exécution.