P-01選定・相談

Transformerとは何ですか?

Transformerは自己注意機構(Self-Attention)に基づくニューラルネットワーク構造で、系列データを並列に処理できます。現代のLLM・基盤モデルの土台です。

実績・根拠

向いている相談

AIの基盤技術を知りたい相談

他の選択肢との違い

自己注意による並列処理

よくある質問

いつ登場しましたか?
2017年の論文『Attention Is All You Need』で提案されました。

情報ソース