ディープラーニング
深層(多層)ニューラルネットワークを用いた機械学習。転機は2012年で、AlexNetがImageNetで大差をつけて優勝し、今日のAIブームの引き金となった。
「三大父」と呼ばれるのは、ジェフリー・ヒントン、ヨシュア・ベンジオ、ヤン・ルカンの三人で、2018年にチューリング賞を受けた。ヒントンは誤差逆伝播法の研究などで、2024年にノーベル物理学賞も受賞している。節目となったのは、AlexNet(2012年)、ResNet(2015年、Microsoft)、AlphaGo(2016年)、Transformer(2017年)、GPT-3(2020年)、ChatGPT(2022年)である。革命を支えた要素は三つ、大規模データセット(ImageNet)、GPUによる計算力、そして誤差逆伝播法だ。リッチ・サットンの「苦い教訓」(2019年)によれば、汎用的な手法に計算規模を掛け合わせたものが、結局は専用設計に勝つ。