Ollamaとは何か・LLMを自分のPCで動かす

GitHub CopilotもCursorも、実際にコードを考えているモデルはクラウド上にあり、私たちの手元のエディタはそこにリクエストを送るだけの窓口でした。同じ「AIコーディングツール」の並びで名前が挙がるOllamaも、てっきり同じ仕組みのクラウドサービスだろうと思うかもしれません。実際には全く逆で、Ollamaはモデルの重みファイル(パラメータの実体)そのものを自分のマシンにダウンロードし、推論も自分のマシンの中だけで完結させる仕組みです。この「自分のマシンで動かす」という前提が、できることとできないことの境界線を決めています。

クラウドではなく、自分のマシンの中でモデルが動く

「結局中身はAPIを叩くだけのツールでは」と思うかもしれませんが、Ollamaはネットワークの向こう側にリクエストを送っているわけではありません。ollama pullコマンドでモデルの重みファイル(数GB〜数十GB)を一度ダウンロードしてしまえば、以降の推論処理はネット接続なしで、自分のCPUやGPUだけで完結します。コードやチャットの内容が外部のサーバーに送信されないため、社外に出せない情報を扱う場面で選ばれる理由もここにあります。

# モデルをダウンロードして動かすまでの流れ
$ ollama pull llama3.2      # モデルの重みファイルをローカルに保存(初回のみネット接続が必要)
$ ollama run llama3.2       # 以降はネット接続なしでも動く

>>> このPythonコードのバグを説明して
（ここからの応答は、すべて自分のマシンの中だけで生成されている）

🎯 読み解きポイント：クラウドゲーミングではなく、ソフトを手元のディスクにインストールして遊ぶ

GitHub CopilotやCursorが手元の端末から遠くのサーバーへ絶えず通信するクラウドゲーミングのようなものだとすると、Ollamaはソフト(モデル)を一度自分のディスクにインストールしてしまえば、オフラインでもプレイできるゲームのようなものです。インストールには時間とディスク容量がかかりますが、以降は通信環境に左右されず、自分のマシンの性能がそのままプレイ体験(応答速度)を決めます。

ハードウェア要件とモデル精度は綱引きの関係にある

普段使っているノートPCでも同じように動くはずだと思うかもしれませんが、Ollamaを動かすには相応のマシンスペックが必要です。公式の最小要件はRAM 8GB・空き容量10GB・AVX2対応CPU(GPUは不要)ですが、これはあくまで動くという最低線です。日常的に快適に使うには16GB RAM+8〜12GBクラスのGPU(RTX 3060/4060や16GB搭載のApple Siliconマシンなど)が目安で、この構成で7B〜14B(パラメータ数十億〜百数十億)クラスのモデルが1秒あたり30〜60トークンほどの速度で動きます。パラメータ数の大きいモデルほど賢い応答をしますが、必要なメモリと計算量も増えて動作は重くなります。

# モデルサイズによるトレードオフのイメージ
$ ollama run phi4          # 数十億パラメータ級。軽量・高速だが複雑な指示には弱い場面がある
$ ollama run llama3.1:70b  # 700億パラメータ級(ファイルサイズ約43GB)。応答の質は上がるが、要求スペックも速度も重くなる

🎯 読み解きポイント：重装備は強いが素早さが落ちる、というステータスの綱引き

ハクスラゲームの装備選びに近い感覚です。パラメータ数の多い重量級モデルは、防御力(応答の質)は高いものの、装備重量(必要メモリ・計算量)がかさみ、素早さ(応答速度)が落ちます。逆に軽量モデルは身軽に動けますが、火力(複雑な推論力)では重量級に及びません。自分のマシンというキャラクターのステータス画面を見ながら、どちらの装備が今の場面に合うかを選ぶ感覚でモデルを選ぶとよいでしょう。

よくあるはまりポイント：「完全ローカルだから安心」という思い込みが崩れている

データが外に出ないのがOllamaの一番の強みだから安心だと思うかもしれませんが、2026年時点のOllamaはその前提が一部崩れています。公式サイトのキャッチコピーも「on your computer and in the cloud」に変わり、モデル名の末尾に:cloudがついたモデルは、実は自分のマシンではなくOllama自身のクラウドサーバー上で動きます。クレジットカード不要の無料枠でも6種類程度のモデルが1週間あたり数百万トークンまで使えますが、kimi-k3:cloudのような大型の看板モデルは無料枠の対象外で、月額のPro/Maxプランへの加入が必要です。無料か有料かにかかわらず、ローカル版と同じollama runコマンドの延長で気軽に呼び出せてしまうため、モデル名の末尾を確認しないまま使うと、社外に出したくない情報を含むプロンプトをうっかりクラウドに送ってしまう事故につながります。

あわせて知っておきたい用語

モデルの重み(weights): 学習済みモデルのパラメータそのものを保存したファイル。Ollamaではこれをまるごと自分のマシンにダウンロードして使う
VRAM: GPUが持つメモリ。モデルをGPUで高速に動かす際、モデルサイズに対して十分なVRAMがないと動作が遅くなったり動かせなくなったりする
:cloudモデル: モデル名の末尾に付く、Ollama自身のクラウドサーバー上で動作するモデルの印。一部は無料枠内で使えるが、大型モデルはPro/Maxプランが必要。いずれもローカル実行ではない点に注意

💡 ワンポイントアドバイス：機密情報を扱う前はollama listで今あるモデルの素性を確認する

社外に出せない情報を扱う予定があるなら、使う前にollama listでダウンロード済みのモデル一覧を確認し、末尾に:cloudが付いていないかを目視で確認する習慣をつけてください。「Ollamaだから全部ローカルのはず」という思い込みだけで判断せず、モデル名を1つずつ確認するひと手間が、意図しない情報送信を防ぐ一番確実な方法です。

ローカル実行という選択肢が見えてきたら、他のAIコーディングツールとも見比べてみると理解が深まります。(シリーズ一覧・GitHub Copilot・Cursor・OpenAI API・Hugging Face・LangChain・Anthropic API・Zed・Devin・Gemini CLI)