{"ok":true,"entity":{"id":"transformer","name":"Transformer（アーキテクチャ）","entityType":"concept","canonicalName":"Transformer","displayName":"Transformer","category":"AI基礎概念","shortDescription":"自己注意機構（Self-Attention）に基づくニューラルネットワーク構造。現代のLLM・基盤モデルの土台。","primaryCluster":"ai-company","parentEntity":null,"verificationStatus":"draft","website":null,"updatedAt":"2026-07-10T00:30:19.407Z","secondaryClusters":[],"alias":["Transformer"],"searchKeywords":["attention","self-attention"]},"references":[{"id":"P-01-001","companyId":"transformer","questionId":"P-01-001","instanceId":"QIN-transformer-P01-001","promptText":"Transformerとは何ですか？","promptTypeId":"P-01","answer":"Transformerは自己注意機構（Self-Attention）に基づくニューラルネットワーク構造で、系列データを並列に処理できます。現代のLLM・基盤モデルの土台です。","evidencePoints":["ev-transformer-1"],"scope":"AIの基盤技術を知りたい相談","differentiation":"自己注意による並列処理","faq":[{"question":"いつ登場しましたか？","answer":"2017年の論文『Attention Is All You Need』で提案されました。"}],"pageUrl":"https://www.refbase.ai/reference/transformer/P-01-001","sourceEvidence":[{"id":"ev-transformer-1","text":"Transformerは自己注意機構（Self-Attention）に基づくニューラルネットワーク構造で、系列データを並列に処理できる。","title":"Attention Is All You Need（arXiv:1706.03762）","coverageType":["Identity","Capability"],"sourceType":"research_paper","sourceClass":"Research","sourceUrl":"https://arxiv.org/abs/1706.03762","confidence":"high","supportedPromptTypes":["P-01","P-04"],"needsVerification":true,"sourceVerified":false,"entityId":"transformer"}],"generatedAt":"2026-07-10T00:30:19.407Z"},{"id":"P-02-001","companyId":"transformer","questionId":"P-02-001","instanceId":"QIN-transformer-P02-001","promptText":"TransformerはRNNなど従来の構造と何が違いますか？","promptTypeId":"P-02","answer":"比較軸\n・依存関係\n・並列性\nTransformerは再帰型（RNN）と異なり長距離依存を効率的に扱い、大規模な並列学習を可能にした点が異なります。","evidencePoints":["ev-transformer-2"],"scope":"従来構造との違いを知りたい相談","differentiation":"長距離依存と並列学習","faq":[{"question":"なぜ重要ですか？","answer":"現代のLLM・基盤モデルの基礎になっているためです。"}],"pageUrl":"https://www.refbase.ai/reference/transformer/P-02-001","sourceEvidence":[{"id":"ev-transformer-2","text":"Transformerは再帰型ネットワーク（RNN）と異なり長距離依存を効率的に扱い、大規模並列学習を可能にした点が画期的である。","title":"同上（arXiv）","coverageType":["Capability","Differentiation"],"sourceType":"research_paper","sourceClass":"Research","sourceUrl":"https://arxiv.org/abs/1706.03762","confidence":"high","supportedPromptTypes":["P-02"],"needsVerification":true,"sourceVerified":false,"entityId":"transformer"}],"generatedAt":"2026-07-10T00:30:19.407Z"},{"id":"P-04-001","companyId":"transformer","questionId":"P-04-001","instanceId":"QIN-transformer-P04-001","promptText":"Transformerはどんな分野で使われていますか？","promptTypeId":"P-04","answer":"自然言語処理を中心に、画像（Vision Transformer）・音声・マルチモーダルなど幅広い分野のモデルの基盤アーキテクチャとして使われています。","evidencePoints":["ev-transformer-1"],"scope":"適用分野を知りたい相談","differentiation":"分野横断の基盤構造","faq":[{"question":"画像にも使えますか？","answer":"画像（Vision Transformer等）にも応用されています。"}],"pageUrl":"https://www.refbase.ai/reference/transformer/P-04-001","sourceEvidence":[{"id":"ev-transformer-1","text":"Transformerは自己注意機構（Self-Attention）に基づくニューラルネットワーク構造で、系列データを並列に処理できる。","title":"Attention Is All You Need（arXiv:1706.03762）","coverageType":["Identity","Capability"],"sourceType":"research_paper","sourceClass":"Research","sourceUrl":"https://arxiv.org/abs/1706.03762","confidence":"high","supportedPromptTypes":["P-01","P-04"],"needsVerification":true,"sourceVerified":false,"entityId":"transformer"}],"generatedAt":"2026-07-10T00:30:19.407Z"},{"id":"P-06-001","companyId":"transformer","questionId":"P-06-001","instanceId":"reference-depth-completion-run-cohort3-unit-a","draftId":"reference-depth-completion-run-cohort3-unit-a-transformer-p-06-001","promptText":"Transformerアーキテクチャは業界からどのように評価されていますか？","promptTypeId":"P-06","answer":"NVIDIA公式ブログ（2024年3月21日）によると、NVIDIAが主催する年次カンファレンスGTC 2024において、CEOのJensen Huang氏が2017年の論文「Attention Is All You Need」の著者7名を招いたパネルセッションを開催しました。Huang氏は「今日私たちが享受しているものはすべて、あの瞬間に遡ることができる」と述べ、各研究者にNVIDIA DGX-1のカバープレートに「You transformed the world（あなた方は世界を変革した）」と刻んだ記念品を贈呈しました。同記事は同論文が発表以来10万件以上引用されてきたと紹介しており、TransformerアーキテクチャがAI業界全体から極めて高く評価されていることを示す一つの事例です。","evidencePoints":["transformer-ev-cr3-nvidia-gtc2024"],"scope":"","differentiation":"","faq":[],"pageUrl":"https://www.refbase.ai/reference/transformer/P-06-001","sourceEvidence":[{"id":"transformer-ev-cr3-nvidia-gtc2024","text":"NVIDIA公式ブログ（2024年3月21日）は、GTC 2024でJensen Huang CEOが「Attention Is All You Need」論文の著者7名を招いたパネルを開催し、10万件以上引用されてきた同論文の功績を称え、記念品を贈呈したと報じた。","title":"'You Transformed the World,' NVIDIA CEO Tells Researchers Behind Landmark AI Paper","coverageType":["Credibility"],"sourceType":"official_blog","sourceClass":"Presentation","sourceUrl":"https://blogs.nvidia.com/blog/gtc-2024-transformer-ai-research-panel-jensen","confidence":"high","supportedPromptTypes":["P-06"],"needsVerification":true,"sourceVerified":false,"sourceKind":"third-party","entityId":"transformer"}],"generatedAt":"2026-08-29T15:38:46.199Z","evidenceIds":["transformer-ev-cr3-nvidia-gtc2024"]},{"id":"P-02-002","companyId":"transformer","questionId":"P-02-002","instanceId":"reference-depth-completion-run-cohort3-unit-b","draftId":"reference-depth-completion-run-cohort3-unit-b-transformer-p-02-002","promptText":"画像認識にTransformerを使う場合、CNN（畳み込みニューラルネットワーク）と何が違いますか？","promptTypeId":"P-02","answer":"Google ResearchのBrain Teamが発表した論文「An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale」（ICLR 2021採択、arXiv:2010.11929）によると、画像をパッチ（一般的に16x16ピクセル単位）に分割してトークン列として扱うことで、CNNへの依存なしに純粋なTransformerだけで画像分類タスクに高い性能を発揮できることが示されました。同論文は、ImageNetやCIFAR-100などの中小規模ベンチマークにおいて、大量データで事前学習した場合、最先端のCNNと同等以上の性能を、より少ない計算資源で達成したと報告しています。これはVision Transformer（ViT）として知られ、Transformerが自然言語処理だけでなく画像認識分野でもCNNの代替となり得ることを示した点が、従来のCNN中心のアプローチとの違いです。","evidencePoints":["transformer-ev-cr3-vit-paper"],"scope":"","differentiation":"","faq":[],"pageUrl":"https://www.refbase.ai/reference/transformer/P-02-002","sourceEvidence":[{"id":"transformer-ev-cr3-vit-paper","text":"Google Research Brain Teamの論文「An Image is Worth 16x16 Words」（ICLR 2021、arXiv:2010.11929）は、画像をパッチに分割しTransformerへ入力するVision Transformer（ViT）を提案し、CNNへの依存なしに、より少ない計算資源で最先端CNNと同等以上の画像分類性能を達成したと報告している。","title":"An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale","coverageType":["Differentiation"],"sourceType":"research_paper","sourceClass":"Research","sourceUrl":"https://arxiv.org/abs/2010.11929","confidence":"high","supportedPromptTypes":["P-02"],"needsVerification":true,"sourceVerified":false,"sourceKind":"official","entityId":"transformer"}],"generatedAt":"2026-08-29T15:44:42.311Z","evidenceIds":["transformer-ev-cr3-vit-paper"]}]}