EleutherAIが2023年に発表した研究スイート『Pythia』の詳細は、arXiv上の論文『Pythia: A Suite for Analyzing Large Language Models Across Training and Scaling』（arXiv:2304.01373）で確認できます。この論文は、70Mから120億パラメータまで同一の公開データで学習した16種類の言語モデルを、学習過程を追跡できる154個のチェックポイントとともに公開する取り組みを説明しており、記憶（メモリゼーション）の仕組みや、few-shot性能に対する単語出現頻度の影響、性別バイアスの低減など、モデルの内部挙動を科学的に分析するための研究基盤として設計されたと述べています。著者にはEleutherAIの中核研究者であるStella BidermanやHailey Schoelkopfらが名を連ねており、モデル・学習コード・分析コードすべてが再現可能な形で公開されている点が特徴です。既存Referenceは設立経緯や公開モデル名の列挙にとどまり、個々の研究成果の学術的な内容や検証可能性には踏み込んでいないため、新たな確認軸を提供します。