LMSYS Org（AI研究組織）が、画像および動画生成に特化した推論フレームワーク「SGLang-Diffusion」の大幅アップデートを公開した。リリースからわずか2ヶ月で処理速度は従来の1.5倍に向上。NVIDIA環境では競合ソリューションを最大5倍も上回る性能を叩き出している。このアップデートにより、同ツールは極めて高い負荷が求められる商用レベルの生成タスクにも耐えうるエンジンへと進化した。 技術的な目玉は、新たに導入された「Layerwise Offload」システムだ。この技術は、Flux.1などのモデルで採用されている複雑なアーキテクチャ「ディフュージョン・トランスフォーマー (DiT)」において、現在の層を計算している間に次の層のデータを先行して読み込む（プリフェッチ）仕組みである。この並列処理により計算の待機時間が解消され、メモリ消費量も削減。結果として、一般消費者向けのハードウェアでもより高解像度なコンテンツ制作が可能になった。 さらに、モデルを再学習させずに特定のスタイルを適用できる「LoRA (Low-Rank Adaptation)」への対応も強化された。シンプルなインターフェースを通じて、複数のアダプターを自在に統合・切り替えできる。生成速度を169%向上させるCache-DiTや、人気のUIツールであるComfyUIとの連携も加わり、開発者からクリエイターまで幅広く活用できる効率的な制作環境が整った。

LMSYS Org（AI研究組織）が、画像および動画生成に特化した推論フレームワーク「SGLang-Diffusion」の大幅アップデートを公開した。リリースからわずか2ヶ月で処理速度は従来の1.5倍に向上。NVIDIA環境では競合ソリューションを最大5倍も上回る性能を叩き出している。このアップデートにより、同ツールは極めて高い負荷が求められる商用レベルの生成タスクにも耐えうるエンジンへと進化した。 技術的な目玉は、新たに導入された「Layerwise Offload」システムだ。この技術は、Flux.1などのモデルで採用されている複雑なアーキテクチャ「ディフュージョン・トランスフォーマー (DiT)」において、現在の層を計算している間に次の層のデータを先行して読み込む（プリフェッチ）仕組みである。この並列処理により計算の待機時間が解消され、メモリ消費量も削減。結果として、一般消費者向けのハードウェアでもより高解像度なコンテンツ制作が可能になった。 さらに、モデルを再学習させずに特定のスタイルを適用できる「LoRA (Low-Rank Adaptation)」への対応も強化された。シンプルなインターフェースを通じて、複数のアダプターを自在に統合・切り替えできる。生成速度を169%向上させるCache-DiTや、人気のUIツールであるComfyUIとの連携も加わり、開発者からクリエイターまで幅広く活用できる効率的な制作環境が整った。