Yi

Identity

• Yiは、01.AIが公開するオープンな大規模言語モデルシリーズで、多言語に対応する。検証待ち 01.AI Yi（GitHub）

Capability

• Yiは、01.AIが公開するオープンな大規模言語モデルシリーズで、多言語に対応する。検証待ち 01.AI Yi（GitHub）
• Yiは、モデルの重みが公開されているため、自己ホストやファインチューニングが可能なオープンモデルである点が特徴である。検証待ち 01.AI Yi（GitHub）
• arXiv論文『Yi: Open Foundation Models by 01.AI』によると、Yiは英語・中国語からなる3.1兆トークンのコーパスで事前学習され、軽量な継続事前学習によりコンテキスト長を20万トークンまで拡張。6B/34Bベースモデルに加えChat・視覚言語（Yi-VL）・深層アップスケール（Yi-9B、32層→48層）の各バリアントを提供する。検証待ち Yi: Open Foundation Models by 01.AI（arXiv:2403.04652）

Credibility

• 01.AIのYi-34B（340億パラメータ）は、MetaのLlama 2-70B（700億パラメータ）やTechnology Innovation InstituteのFalcon-180B（1,800億パラメータ）といったより大きなモデルをMMLUベンチマークで上回った（Yi-34B: 76.3、Llama 2: 68.9、Falcon: 70.4）。推論・読解タスクでも同様に上回った。検証待ち Chinese AI unicorn's 34B LLM outperforms larger Llama 2 and Falcon models（VentureBeat）

Use Case

公開Evidence未整備

Constraints / Current Status

• Yiは、モデルの重みが公開されているため、自己ホストやファインチューニングが可能なオープンモデルである点が特徴である。検証待ち 01.AI Yi（GitHub）

Key References

• Yiとは何ですか？
• Yiの学習にはどれくらいの規模のデータが使われ、どの程度長い文脈に対応していますか？
• Yi-34Bはより大きなパラメータ数を持つ他のオープンモデルと比べてどのような性能を示していますか？

Part of

• 01.AI— Yiは01.AIが公開するオープンな大規模言語モデルである。