WaveNet
Нейросеть DeepMind (2016), генерирующая звук по одному отсчёту и сделавшая машинные голоса заметно менее машинными.
Прежний синтез речи либо склеивал записанные фрагменты, либо управлял параметрическим вокодером — и звучал соответственно. WaveNet моделировал саму волну: каждый новый отсчёт предсказывается по всем предыдущим с помощью каузальных свёрток, у которых расширение удваивается от слоя к слою, так что сеть видит на сотни миллисекунд назад. Отсчёты квантовались по μ-закону до 256 уровней, и задача превращалась в классификацию. В тестах на слух модель закрыла примерно половину разрыва между синтетической и человеческой речью.
Загвоздка была в скорости: секунда звука поначалу генерировалась минутами. Параллельный вариант 2017 года решил проблему и попал в Google Assistant. Архитектура стала образцом для нейронных вокодеров и всплывает в неожиданных местах, например в моделях гитарных усилителей.