スマホでも213tok/sの爆速推論を実現するモデル「LFM2.5-230M」無料公開
Liquid AIは6月25日(米国時間)、同社最小のモデル「LFM2.5-230M」をオープンウェイトで公開した。パラメータ数は230Mで、CPUで4bit量子化したモデルを利用した場合、スマートフォン「Galaxy S25 Ultra」では213tok/s、シングルボードコンピュータの「Raspberry Pi 5」でも42tok/sの高速な応答が可能だ。
LFM2.5-230M
Liquid AIは6月25日(米国時間)に、同社最小のモデル「LFM2.5-230M」をオープンウェイトで無料公開しました。このモデルはパラメータ数230Mで、CPUで4bit量子化されたモデルを使用した場合、スマートフォン「Galaxy S25 Ultra」で213tok/s、シングルボードコンピュータ「Raspberry Pi 5」でも42tok/sという高速な推論応答を実現します。これにより、スマートフォンなどのモバイルデバイスでも爆速なAI推論が可能となり、幅広いデバイスでの利用が期待されます。
※本記事にはアフィリエイト広告（楽天）を含みます。
Liquid AIが同社最小モデル「LFM2.5-230M」をオープンウェイトで無料公開公開日時は6月25日(米国時間)モデルのパラメータ数は230Mスマートフォン「Galaxy S25 Ultra」で213tok/sの高速推論を実現シングルボードコンピュータ「Raspberry Pi 5」でも42tok/sの推論が可能