前提

OS: Windows 11 Pro 25H2 ビルド 26200.7922
GPU: NVIDIA GeForce RTX 4070 Ti SUPER

Ollama のインストール

Download Ollama on Windows の手順通りにインストールします。

irm https://ollama.com/install.ps1 | iex

Qwen2.5-14B-Instruct のインストール

Ollama のライブラリに Qwen2.5-14B-Instruct があるので、以下のコマンドでインストール・実行します。

ollama run qwen2.5:14b-instruct

なんとこれだけ。

動作確認

実行で来たら対話を試みましょう。

>>> あなたが動いているプログラムと、自身のモデルを教えてください。
私はアリババクラウドによって作成された大規模な言語モデルです。私の名前はQwenで、ユーザーに多様な情報を提供し、さまざ
まな質問やタスクに対するサポートを提供することを目指しています。ただし、具体的なソフトウェアの実装詳細や内部構造につ
いては開示されていません。ユーザーの皆さまに対しては、幅広い情報提供とタスク支援を行うことを目的としています。

使い道が思いつかないけどとりあえずローカル LLM が動きました。