Les grands modèles de langage

Jetons, attention, paramètres et fenêtre de contexte, pré-entraînement et réglage fin, limites, sécurité et enjeux de société des grands modèles de langage.

Questions

24, en 4 parties : Comment ils marchent · L'entraînement · Les limites · Les enjeux

Chapitre

Les grands modèles de langage

Jeu

Pixelia

Langue du paquet

Français

Pour vous faire une idée

1. Un grand modèle de langage découpe le texte en petits morceaux appelés…atomesjetonsoctavespixels
2. Le pré-entraînement d'un modèle de langage se fait sur…d'immenses corpus de textesdes photos uniquementdes sonsun seul dictionnaire
3. Pourquoi un modèle peut-il donner une réponse fausse mais convaincante ?il est en panneil est méchantil ment exprèsil vise le probable, pas le vrai