RNN (rete neurale ricorrente)
Rete neurale per sequenze: ha uno «stato nascosto» che si propaga lungo i passi temporali, così le informazioni degli input precedenti influenzano quelli successivi.
Le RNN semplici soffrono di gradienti che svaniscono o esplodono sulle sequenze lunghe. LSTM (Hochreiter e Schmidhuber, 1997) e GRU (2014) hanno introdotto «porte» che risolvono il problema, e hanno dominato l'NLP fino all'arrivo dei transformer nel 2017.
Nel 2025 sono state sostituite quasi ovunque dai transformer per il testo e dagli SSM (Mamba, RWKV) per le sequenze lunghe. Le RNN restano nelle applicazioni in streaming (riconoscimento vocale, dei gesti) dove il tempo costante per token è un requisito rigido.