Emergent Abilities

Concept

AIの創発的能力

最終更新: 2026-07-20

6 References

https://www.refbase.ai/entity/emergent-abilities

Knowledge Dossier

公開済みEvidenceをIdentity / Capability / Credibility / Use Case / Constraints・Current Statusの軸で機械的に集約したものです(新規の主張・推測は含みません)。

Identity

  • Wei et al.(2022, Google Research)は、小規模モデルには存在しないが大規模モデルには存在する能力を「創発的能力」と定義し、小規模モデルの性能を外挿するだけでは予測できないことを示した。検証待ち [2206.07682] Emergent Abilities of Large Language Models

Capability

  • Wei et al.(2022, Google Research)は、小規模モデルには存在しないが大規模モデルには存在する能力を「創発的能力」と定義し、小規模モデルの性能を外挿するだけでは予測できないことを示した。検証待ち [2206.07682] Emergent Abilities of Large Language Models

Credibility

公開Evidence未整備

Use Case

  • 同論文は、この創発性の存在自体が「さらなるスケーリングによってモデルの能力範囲がさらに拡大しうる」ことを示唆すると述べ、大規模モデルの研究計画・投資判断の根拠として引用される。検証待ち [2206.07682] Emergent Abilities of Large Language Models
  • Georgetown大学CSETの解説記事は、創発的能力の予測不可能性がAI安全政策上の課題であるとし、自律的ハッキング等の危険能力が予告なく出現しうる点や、RAND Corporationの生物兵器計画支援リスク調査、2021年の性能予測が実際のLLM能力を過小評価していた事実を挙げている。検証待ち Emergent Abilities in Large Language Models: An Explainer

Constraints / Current Status

  • 創発的能力は、性能がなめらかにべき乗則で改善するスケーリング法則の予測とは対照的に、特定のモデルサイズを境に不連続に出現する点で異なる。この非連続性そのものが論文の中心的な観測結果である。検証待ち [2206.07682] Emergent Abilities of Large Language Models
  • NeurIPS 2023 Proceedings公式の学術会議論文抄録(https://proceedings.neurips.cc/paper_files/paper/2023/hash/adc98a266f45005c403b8311ca7e8bd7-Abstract-Conference.html)は、Emergent Abilitiesの差別化要因に関する公的記録である。査読を経た学術会議NeurIPSの公式論文集に掲載された論文の抄録であり、具体的には「特定のタスクとモデルファミリーについて、固定されたモデル出力を分析する際、創発的能力が見られるのは、スケールに伴うモデル挙動の根本的な変化によるものではなく、研究者による評価指標の選び方に起因すると述べている」といった記載がある。ただし、この差別化要因の記述は当該Sourceの時点の位置づけであり、競合状況の変化を反映しない可能性があります。 これは影響力のある1本の論文(NeurIPS Outstanding Paper Track受賞)の立場であり、確定した科学的コンセンサスではない。創発的能力の当初の枠組み(Wei et al. 2022)は現在も引用・利用され続けているため、これは既存の主張を完全に覆した反証としてではなく、活発な学術的議論として提示すべきである。2026年8月21日に同Sourceを取得し、この内容を確認した。検証待ち Emergent Abilitiesの差別化要因に関する公開情報
  • Emergent Abilities公式の査読誌(TMLR)掲載論文のHTML全文(https://arxiv.org/html/2206.07682)は、Emergent Abilitiesの差別化要因に関する一次情報である。査読誌Transactions on Machine Learning Research(TMLR)掲載論文(著者: Jason Wei et al.)が具体的な創発閾値について説明しており、具体的には「Emergent Abilities of Large Language Modelsの原論文は具体的な数値としての創発閾値を記録しており、例えばGPT-3では3桁の加減算と2桁の乗算が約2×10²²学習FLOPs(130億パラメータ)で創発し、思考の連鎖(chain-of-thought)プロンプティングはモデルが約10²³学習FLOPs(約1,000億パラメータ)に達して初めて標準的なプロンプティングを上回り、Word-in-Contextタスクでは2.5×10²⁴学習FLOPs(5,400億パラメータ)までスケールされたPaLMに至るまで創発が見られなかったとしている。」といった記載がある。ただし、この差別化要因の記述は当該Sourceの時点の位置づけであり、競合状況の変化を反映しない可能性があります。 これらの具体的なFLOP数・パラメータ数の閾値は、この2022年の論文が評価対象とした特定のモデル(GPT-3、LaMDA、PaLM、Gopher、Chinchilla)から導かれたものであり、著者らが選んだ指標・タスクを反映している。同Entityの既存P-02-002 Referenceで既に引用されている「ミラージュ」批判は、これらの見かけ上の閾値の一部が、基盤となるモデルの能力における真の不連続性ではなく、選ばれた評価指標のアーティファクトである可能性を指摘している。2026年08月22日に同Sourceを取得し、この内容を確認した。検証待ち Emergent Abilitiesの差別化要因に関する公開情報

Key References

Knowledge Graph

References — 問い別の知識

データアクセス

各APIエンドポイントはJSON形式でデータを返します。生成AIのツール呼び出し・RAG連携での利用を想定しています。