dev.to

Google DeepMind、拡散モデルベースの高速テキスト生成AI「DiffusionGemma」を発表

Google DeepMindは、テキスト生成を従来の4倍高速化する実験的AIモデル「DiffusionGemma」を発表しました。画像生成の拡散モデルをテキスト生成に応用し、256トークンを一括で並列生成することで、ローカルGPUで毎秒1000トークン以上の速度を実現します。これにより、インライン編集やコード補完などのインタラクティブな用途での新たな可能性が拓かれます。