LMSYSが開発したFastChatはLLMの訓練・配信・評価のためのオープンプラットフォームで、GitHub上でコードが公開されています。人間投票による評価手法はChatbot Arenaの論文で報告されており、現在はArena(旧LMArena)として独立したサイトで運営されています。
LLM評価基盤の技術的背景を調査したい相談
オープンソースの評価配信基盤+査読可能な論文