独立系テクノロジーメディアVentureBeatの報道(2024年1月29日)によれば、Metaは同日、Code Llamaの700億パラメータ版であるCode Llama 70Bを公開しました。500億トークンのコード関連データで学習され、Pythonに特化した派生版にはさらに1000億トークンが追加学習されており、10万トークンのコンテキストウィンドウを持つとされています。指示追従版のCodeLlama-70B-InstructはHumanEvalベンチマークで67.8のスコアを記録し、CodeGen-16B-Mono(29.3)やStarCoder(40.1)といったオープンソース系モデルを上回り、GPT-4(68.2)やGemini Pro(69.4)に匹敵する水準だったと報じられています。ただしこの評価は特定のベンチマーク条件下での一時点の結果であり、実務上のコーディング品質全般を保証するものではない点に留意が必要です。2026年8月29日時点でこの記事の内容を確認しました。情報源はMeta非公式の独立系テクノロジーメディアによる報道記事です。