P-01選定・相談

LM Studioはどのような技術基盤でGPUアクセラレーションを実現していますか?

NVIDIAの公式ブログ(2025年5月8日付)によると、LM Studioは推論エンジンとしてオープンソースのllama.cppを採用しており、NVIDIAがllama.cppに行った最適化により、LM Studioバージョン0.3.15でDeepSeek-R1-Distill-Llama-8Bモデルを実行した際、GeForce RTX 5080上で約27%の速度向上が確認されたとしている。具体的な最適化として、複数のGPU処理をひとつのCPU呼び出しにまとめてスループットを最大35%改善する「CUDA Graph」の有効化、Attention処理を高速化しスループットを最大15%向上させる「Flash Attentionカーネル」、RTX 20シリーズから最新のBlackwell世代までを一貫してサポートするCUDA 12.8への対応が挙げられている。これはNVIDIAという独立した第三者(GPUベンダー)による技術的な検証結果であり、LM Studio自身の公表ではない点で客観性がある一方、NVIDIA製GPUでの性能を強調する立場である点は留意すべきである。

実績・根拠

情報ソース