Réseau de neurones
Une structure mathématique vaguement inspirée des neurones du cerveau — plusieurs couches de nœuds qui font passer l'information et s'ajustent pendant l'entraînement.
Le socle de l'IA moderne. Quand on parle de « deep learning », on parle de réseaux de neurones à de nombreuses couches. Les grands modèles de langage sont spécifiquement des réseaux transformer — une architecture qui s'est révélée particulièrement efficace sur les séquences de texte.
Entraîner un réseau consiste à ajuster des milliards de petits poids jusqu'à ce qu'il se comporte comme voulu. Cela demande une puissance de calcul massive (d'où le prix de l'or des GPU).