ニューラルネットワークの枝刈り
寄与の小さい重みやニューロンを取り除き、モデルを小さく、推論を速くする手法。2015年にSong HanがDeep Compressionで広めた。
大きく2種類ある。マグニチュード枝刈りは小さい重みから取り除く最も単純な方法、構造化枝刈りはチャネルやヘッドごと取り除く方法で、GPUとの相性が良い。「宝くじ仮説」（Frankle＋Carbin 2019）は、同じように学習できるスパースな部分ネットワークが存在すると主張した。本番運用では量子化や蒸留と組み合わせる。