NVIDIAマルチGPUでLLM高速化、「LM Studio」がテンソル並列処理をサポート
ローカルLLMアプリの「LM Studio」が5月29日、「0.4.15(Build 2)」にアップデートされた。0.4.15(Build 2)では、新たにNVIDIAのCUDA環境において、マルチGPU環境でテンソル並列処理をサポートし、高速化が図られた。
Webブラウザ経由で利用するChatGPTやGeminiなどのAIチャットボットが普及する中、自分のPC上でAIを動かす「ローカルLLM」が注目されています。本記事では、ローカルLLMを自分のPCで手軽に試せるツールとして「LM Studio」を紹介しています。通常、AIの実行には高度な設定が必要ですが、LM Studioを活用することで、専門的な知識がなくてもローカル環境でAIモデルを動作させることが可能です。これにより、プライバシーの確保やオフラインでの利用といったローカル環境ならではの利点を享受しながら、最新のAI技術を個人のPCで体験できる環境が整いつつあります。

ローカルLLMアプリの「LM Studio」が5月29日、「0.4.15(Build 2)」にアップデートされた。0.4.15(Build 2)では、新たにNVIDIAのCUDA環境において、マルチGPU環境でテンソル並列処理をサポートし、高速化が図られた。


OpenAIの「ChatGPT」やGoogleの「Gemini」など、Webブラウザ経由でアクセスしてさまざまな作業を依頼できるAIチャットボットを活用しているユーザーが増えてきた。かくいう筆者もつい最近になって使うようになってきたのだが、実はこうしたAIをサービスではなく、自分のPC上で動かすことも可能だ。

米Element Labsは5月20日(現地時間)、ローカルLLMソフト「LM Studio」のベータ版「LM Studio 0.4.14 (Build 2)」を公開した。このバージョンではMTP(Multi-Token Prediction)による投機的デコーディングをサポートし、対応モデルで高速化が図れる。Qwen 3.6やGemma 4といった最新モデルの対応版において利用可能で、特に並列処理時の速度は最大2倍程度まで高速化できる。

ローカルLLMソフト「LM Studio」の新バージョン0.4.13が5月13日に公開された。

ローカルLLMアプリLMStudioでMCPを読み込み、ローカルのファイルを操作させているところ。右側の設定画面でインストールやオンオフを行うImage:かみやまたくみ無料ダウンロードして使えるAI「ローカルLLM」が2026年に入ってものすごい勢いで高性能になっています。自分はAIコストを圧縮できないかなと思っていろいろと試しているのですが、最近よく使うようになった機能があります。それが「MCP

ローカルLLM実行ツールの「LM Studio」の新バージョン0.4.10が4月9日にリリースされた。このバージョンでは、Gemma 4のツール呼び出し(tool call)の信頼性向上などが図られた。

Image:LMStudioLMStudioに新機能「LMLink」が実装されています。据え置きのつよつよマシンで重いけど高性能なローカルLLMを起動しておき、ノートPCからつないで使える、といった感じの機能です。「運用のための環境」と「本格的な動作環境」を切り分け、日常的に扱いやすくするような機能ですね。ローカルLLMも場所に縛られない感じになってきました。LMLinkのコンセプト。Tailsc

OpenAIの「ChatGPT」やGoogleの「Gemini」など、Webブラウザ経由でアクセスしてさまざまな作業を依頼できるAIチャットボットを活用しているユーザーが増えてきた。かくいう筆者もつい最近になって使うようになってきたのだが、実はこうしたAIをサービスではなく、自分のPC上で動かすことも可能だ。