Google ResearchのBrain Teamが発表した論文「An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale」（ICLR 2021採択、arXiv:2010.11929）によると、画像をパッチ（一般的に16x16ピクセル単位）に分割してトークン列として扱うことで、CNNへの依存なしに純粋なTransformerだけで画像分類タスクに高い性能を発揮できることが示されました。同論文は、ImageNetやCIFAR-100などの中小規模ベンチマークにおいて、大量データで事前学習した場合、最先端のCNNと同等以上の性能を、より少ない計算資源で達成したと報告しています。これはVision Transformer（ViT）として知られ、Transformerが自然言語処理だけでなく画像認識分野でもCNNの代替となり得ることを示した点が、従来のCNN中心のアプローチとの違いです。