SambaNova Systems

Due dei fondatori sono professori di Stanford: Kunle Olukotun, uno dei pionieri dei processori multicore, e Christopher Ré, dal versante del machine learning. Il loro chip, l'RDU (Reconfigurable Dataflow Unit), viene riconfigurato in modo che il grafo di calcolo di un modello sia disposto direttamente nell'hardware, con i dati che scorrono tra le unità invece di passare ogni volta dalla memoria condivisa.

All'inizio SambaNova vendeva interi sistemi su scala di rack a laboratori e agenzie governative; poi, come Groq e Cerebras, si è spostata verso la vendita dell'inferenza come servizio cloud. Dice qualcosa sul mercato: vendere token al secondo è più facile che convincere qualcuno ad abbandonare CUDA.