SambaNova Systems

Twee van de oprichters zijn hoogleraar aan Stanford: Kunle Olukotun, een van de pioniers van multicoreprocessors, en Christopher Ré, vanuit de machine learning. Hun chip, de RDU (Reconfigurable Dataflow Unit), wordt zo geconfigureerd dat de rekengraaf van een model rechtstreeks in hardware wordt uitgelegd. De data stroomt tussen de eenheden door, zonder omweg via gedeeld geheugen.

SambaNova verkocht eerst complete systemen ter grootte van een rack aan laboratoria en overheidsinstanties en schoof daarna, net als Groq en Cerebras, op naar inferentie als clouddienst. Dat zegt iets over de markt: tokens per seconde verkopen is makkelijker dan iemand overhalen CUDA te verlaten.