以前の記事で、ローカルAIを動かすためのPCスペックについて解説しました。
ただ、実際にどうやって始めるのかという手順までは踏み込んでいませんでした。
この記事では、ローカルLLMを動かす定番ツールであるOllamaを、Windows環境にインストールして実際にモデルを動かすところまでを解説します。
公式ドキュメントの手順に沿って進めるので、初めての方でも迷わないはずです。
Ollamaを使うと何ができるのか
Ollamaは、大規模言語モデル（LLM）を自分のPC上で動かすための無料ツールです。
ChatGPTのような生成AIを、インターネットに接続せず手元のPCだけで動かせるようになります。
本来ローカルLLMを動かすには、環境構築やモデルの変換など面倒な作業が必要です。
Ollamaはその部分をまとめて肩代わりしてくれるので、コマンドを1つ実行するだけでモデルのダウンロードから起動まで完了します。
Windows、macOS、Linuxに対応していて、現在のWindows版はWSLを使わず、そのままインストールできます。
必要なPCスペックについては、こちらで詳しく解説しています。
→ ローカルAI用PCの選び方｜用途別に必要なGPU・VRAM・メモリの目安を解説
この記事ではWindows環境を前提に、公式手順に沿ってインストールからモデルの起動まで進めていきます。
Ollamaを導入する前に確認すること
作業を始める前に、3つだけ確認しておきましょう。
Windowsの対応状況
Ollamaの公式ドキュメントでは、Windows 10 22H2以降が対応環境とされています。
インストーラーは管理者権限を必要とせず、ユーザーアカウント内にインストールされます。
会社のPCなどで管理者権限がない場合でも導入できる、という点は覚えておくと便利です。
ストレージ容量
ここが見落とされやすいポイントです。
公式ドキュメントでは、Ollama本体のインストールに最低4GBの空き容量が必要とされています。
さらに、実際に容量を使うのはAIモデルの方です。
モデルの容量は軽量なものから大規模なものまでかなり幅があります。
複数の大規模モデルを保存する場合は、合計で数十GBから数百GB規模になることもあります。
いろいろ試していると、あっという間にストレージを圧迫します。
Cドライブの空き容量に不安がある場合は、事前に確認しておいてください。
GPUは必須なのか
結論から言うと、GPUがなくても動きます。
OllamaはCPUだけでも動作するので、グラフィックボードを積んでいないPCでも試すこと自体は可能です。
ただし、動くことと快適なことは別です。
GPUを使った場合と比べて、応答速度はかなり遅くなります。
まず試してみたいという段階ならCPUでも構いませんが、実用的に使いたいならGPUがある環境の方が快適です。
このあたりの目安は、先ほどの記事でくわしく整理しています。
霊夢「GPUがなくても動くのね」
魔理沙「じゃあ手持ちのPCで試せるってことか」
霊夢「そうよ。ただ返答が返ってくるまでが遅くなるから、そこは割り切ってね。まず動かしてみて、物足りなければGPUを検討する流れでいいと思うわ」
魔理沙「なるほどな。いきなりPCを買い替える必要はないんだな」
STEP 1：OllamaをWindowsにインストールする
ここから実際の作業に入ります。
1. Ollama公式サイトを開く
まず公式サイトのダウンロードページにアクセスします。
必ず公式サイトからダウンロードしてください。 非公式の配布サイトを使うのは避けましょう。
2. Windows版をダウンロードする
ダウンロードページでWindowsを選択すると、OllamaSetup.exeというインストーラーが取得できます。
3. インストーラーを実行する
ダウンロードしたOllamaSetup.exeを起動して、画面の指示に従ってインストールを進めます。
特別な設定は不要です。
インストールが完了すると、Ollamaはバックグラウンドで動作します。
4. インストールを確認する
ここが重要な確認ポイントです。
インストール後に、新しくPowerShellまたはコマンドプロンプトを開いて、以下を実行します。
ollama --versionバージョン番号が表示されれば、インストールは成功です。
ここで「ollamaは認識されていません」というエラーが出る場合、インストール前から開いていたターミナルを使っている可能性があります。
一度すべて閉じて、新しく開き直してから実行してみてください。
ここまでできれば、STEP 1は完了です。
STEP 2：AIモデルをダウンロードする
Ollamaをインストールしただけでは、まだAIとの対話はできません。
Ollama本体と、実際に動かすAIモデルは別物だからです。
例えるなら、Ollamaが再生プレイヤーで、モデルが再生する中身にあたります。
プレイヤーだけあっても、中身がなければ何も始まりません。
1. 使用するモデルを決める
Ollamaでは多くのモデルが利用できます。
代表的なところでは、GoogleのGemma、AlibabaのQwen、MetaのLlamaといったシリーズがあります。
どれを選ぶかは用途や日本語性能、PCスペックによって変わってきますが、最初は比較的軽量なモデルから試すのが無難です。
利用できるモデルの一覧は、公式サイトのライブラリページで確認できます。
2. モデルをダウンロードする
モデルを取得するコマンドはollama pullです。
例えばGemma 3を使う場合は、次のように実行します。
ollama pull gemma3ダウンロードが始まり、進捗が表示されます。
モデルのサイズによっては数GBのダウンロードになるので、初回は時間がかかります。
回線速度によっては数分から十数分かかることもあるので、余裕を持って進めてください。
ダウンロードが完了すれば、STEP 2は完了です。
STEP 3：モデルを起動して質問してみる
いよいよ実際に動かします。
1. モデルを起動する
起動コマンドはollama runです。
ollama run gemma3なお、ollama runを実行したときにモデルがまだダウンロードされていない場合は、自動的にダウンロードが始まります。
STEP 2を飛ばして、いきなりこのコマンドから始めることもできます。
起動が完了すると、入力待ちの状態になります。
2. 実際に質問してみる
入力待ちの状態で、日本語で質問を入力してみましょう。
>>> 日本の首都はどこですか？回答が返ってくれば、ローカルAI環境の構築は完了です。
この手順でローカルモデルを使用している間、推論処理は自分のPC上で行われます。
ここまでできれば、導入は成功です。
覚えておきたい基本操作
導入できたら、最低限これだけ知っておくと困りません。
対話を終了する
対話中に/byeと入力すると、モデルとの対話を終了できます。
インストール済みのモデルを確認する
ollama list現在ダウンロード済みのモデルと、それぞれのサイズが一覧で表示されます。
ストレージを圧迫していないか確認するときに使います。
不要なモデルを削除する
ollama rm モデル名使わなくなったモデルは削除できます。
モデルは容量が大きいので、試したまま放置せず、不要になったら消しておくとストレージを節約できます。
Ollamaが動かないときの確認ポイント
つまずきやすい箇所を4つ挙げておきます。
ollamaコマンドが認識されない
インストール前から開いていたターミナルをそのまま使っている場合、追加された環境設定が反映されていないことがあります。
まずはすべてのターミナルを閉じて、新しく開き直してみてください。
モデルのダウンロードが進まない
モデルは数GB単位のファイルなので、回線状況によっては時間がかかります。
しばらく待っても進捗が動かない場合は、一度中断して再実行してみてください。
動作が極端に遅い
GPUが使われず、CPUだけで動作している可能性があります。
また、モデルのサイズがPCのメモリやVRAM容量に対して大きすぎる場合も、動作が重くなります。
より軽量なモデルに変えて試してみると、原因の切り分けができます。
GPUが使われているか分からない
Ollamaは起動時に対応GPUを検出して利用します。
GPUが認識されていない場合は、グラフィックドライバのバージョンが古い可能性があります。
最新のドライバに更新してから、もう一度試してみてください。
GUIで使いたい場合は？
以前のOllamaは、コマンド操作が基本でした。
そのため「黒い画面で使うツール」という印象を持っている方もいるかもしれません。
ただ、ここは状況が変わっています。
2025年7月に、WindowsとmacOS向けのOllamaアプリが公開され、モデルのダウンロードやチャットをGUIから行えるようになりました。
同じインストーラーでインストールすれば、GUIも一緒に導入されます。
コマンド操作に抵抗がある場合は、こちらから使い始めることもできます。
このほか、Open WebUIのような外部のGUIツールを組み合わせる方法もありますが、そちらは導入手順が別に必要になるので、この記事では扱いません。
まずは標準のアプリか、コマンドから試してみるのがいいと思います。
セキュリティ面で気をつけたいこと
最後に1つだけ注意点があります。
Ollamaはローカルで動作するツールですが、バージョンは最新に保っておいてください。
過去のバージョンには、プロセスのメモリ内にあるAPIキーや会話データなどが漏洩しうる脆弱性が報告されています。
既知の脆弱性を避けるためにも、Ollamaは最新版に更新して使用してください。
また、Ollamaはローカルの11434番ポートでAPIを提供しています。
初期状態ではローカルからのみアクセスできる設定になっているので、通常の使い方であれば意識する必要はありません。
自分で外部からアクセスできる設定に変更している場合だけ、注意しておいてください。
霊夢「ローカルで動くから安全、で終わりじゃないのね」
魔理沙「外に繋がってないなら大丈夫かと思ってたぜ」
霊夢「基本はそうよ。ただ、Ollamaを外部からアクセスできるように設定している場合は注意が必要ね。通常はローカルだけで使える設定になっているわ」
魔理沙「自分で外部公開する設定に変えていなければ、基本はそのままでいいってことか」
霊夢「そういうこと。あとは古いバージョンを使い続けないことね」
まとめ
Ollamaの導入手順を整理すると、こうなります。
公式サイトからOllamaSetup.exeをダウンロードしてインストール。
ollama --versionでインストールを確認。
ollama run モデル名でモデルを起動。
日本語で質問して返答が返ってくれば完了。
必要な作業はこれだけです。
環境構築の面倒な部分をOllamaが引き受けてくれるので、思っているより簡単に始められます。
どのモデルを選ぶか、どのくらいのスペックが必要かで迷ったら、こちらの記事も参考にしてみてください。
→ ローカルAI用PCの選び方｜用途別に必要なGPU・VRAM・メモリの目安を解説
まずは手持ちのPCで、軽量なモデルから試してみてください。
