Beam search (LLM)
En avkodningsstrategi som håller flera kandidatsekvenser ("beams") vid liv parallellt och utökar dem steg för steg, för att hitta den sammantaget mest sannolika hela sekvensen — inte bara det giriga ordet vid varje steg. Vanlig i maskinöversättning, mindre i kreativa chattmodeller.
Problem den löser: girig avkodning (välj alltid det mest sannolika nästa ordet) kan måla in sig i ett hörn — ett lokalt bra val leder till en sämre helhet. Beam search behåller de B mest lovande delsekvenserna vid varje steg, utökar alla, och behåller de B bästa igen → utforskar flera vägar och hittar en sekvens med högre total sannolikhet. Vinst: bra för uppgifter med ett "rätt" svar (översättning, sammanfattning). Nackdel: för öppen/kreativ generering ger det ofta tråkig, repetitiv och generisk text (den mest sannolika sekvensen är sällan den intressantaste) → därför använder chattmodeller hellre sampling (temperatur/top-p). Ett klassiskt val mellan att maximera sannolikhet och att låta det variera. Hör ihop med nucleus sampling och greedy decoding.