MagicのLTM-2-miniは最大1億トークンという極めて長いコンテキストを扱える点が特徴で、従来のAttentionベースのモデルと比べて約1000倍効率的な独自のシーケンス次元アルゴリズムを採用しています。
コード生成モデルのコンテキスト長を比較したい相談
1億トークン規模のコンテキストウィンドウ