P-05出典・引用

LMSYS(現Arena)は「The Leaderboard Illusion」論文が指摘した批判に対して、公式にどう反論していますか?

LMSYSの後継組織であるArena公式のブログ「Our Response」によると、同論文が「オープンモデルはリーダーボードの8.8%しか占めていない」と主張したのに対し、Arenaは公式統計で「オープンモデルは40.9%を占める」と反論し、論文の計算がLlamaやGemmaなどのオープンウェイトモデルを見落としていたと指摘している。また「事前公開テストによりスコアが100ポイント以上押し上げられる」という主張についても、論文で引用されたプロットは実際のChatbot Arenaのデータとは無関係な、任意に選んだ分散を用いたガウス分布のシミュレーションだと反論し、Arena自身の分析では事前テスト50回・3000票後で約+11 Eloの効果にとどまり、新しい評価データが蓄積されるにつれてゼロに収束すると説明している。

実績・根拠

情報ソース