創発的能力とは、小規模なAIモデルには存在しないが、モデルサイズが一定の閾値を超えると突然出現する能力のことです。2022年のGoogle Researchの論文で定義され、小規模モデルの性能を単純に外挿するだけでは予測できない現象として報告されました。
モデルサイズの閾値を境に出現する能力という現象の定義
性能がなめらかに改善するスケーリング法則とは異なり、不連続な出現パターンを示す点が特徴