Gemma 4の使い方｜Ollamaでローカル実行する手順ガイド
GoogleがオープンソースでリリースしたAIモデル「Gemma 4」は、商用利用可能で、自社のPCやサーバー上で動作させることができます。データを外部に送信せずにAIを使いたい企業にとって、有力な選択肢です。
この記事では、Gemma 4をOllamaというツールを使ってローカル環境で実行する手順を、ステップバイステップで解説します。Gemma 4の概要やスペックについては「Gemma 4とは｜無料で商用利用できるAIモデルの実力」をご覧ください。
Ollamaとは何か
Ollamaは、大規模言語モデル（LLM）をローカル環境で簡単に動かすためのツールです。Windows、Mac、Linuxに対応しており、コマンド1つでモデルのダウンロードから実行まで完了します。
クラウドAPIと違い、データがインターネットに送信されないのが最大のメリットです。顧客情報や社内文書を扱う業務でも、安心してAIを活用できます。
必要なハードウェアスペック
Gemma 4には複数のモデルサイズがあり、必要なスペックが異なります。
- Gemma 4 E2B / E4B（軽量版）：メモリ5GB程度で動作。一般的なノートPCでも実行可能
- Gemma 4 26B：メモリ16GB以上を推奨。GPU搭載PCなら快適
- Gemma 4 31B：メモリ20GB以上、GPU必須。本格的な業務利用向け
まずはE4Bモデルから始めるのがおすすめです。サイズが小さいため動作が軽く、日本語の基本的な対話には十分な性能があります。
セットアップ手順──3ステップで完了
ステップ1：Ollamaのインストール
Ollamaの公式サイト（ollama.com）からインストーラーをダウンロードして実行します。Windowsの場合はexeファイル、Macの場合はdmgファイルです。インストール後、ターミナル（コマンドプロンプト）で ollama --version を実行し、バージョンが表示されれば成功です。
ステップ2：Gemma 4モデルのダウンロード
ターミナルで以下のコマンドを実行します。
ollama pull gemma4:e4b
初回はモデルファイルのダウンロードに数分かかります。ダウンロード完了後、ollama list でモデルが表示されることを確認してください。
ステップ3：モデルの実行
ollama run gemma4:e4b
これだけでGemma 4との対話が始まります。「こんにちは」と入力して日本語で返答があれば、セットアップ完了です。
API連携で業務システムに組み込む
Ollamaは起動すると自動的にローカルAPIサーバー（ポート11434）を立ち上げます。このAPIはOpenAI互換のフォーマットに対応しているため、既存のAI連携ツールやスクリプトからそのまま接続できます。
たとえば、社内のチャットシステムやFAQ検索システムのバックエンドとしてGemma 4を使うことが可能です。RAG（検索拡張生成）と組み合わせれば、社内文書を検索して回答するQ&Aシステムも構築できます。
業務で使える3つの活用パターン
1. 社内文書の要約・検索
議事録や報告書をGemma 4に投入し、要点を抽出したり質問に答えさせたりできます。データが外部に出ないため、機密性の高い文書でも安心です。
2. メール・文書の下書き生成
定型的なビジネスメールや報告書のドラフトを生成させ、人間が確認・修正する運用が効率的です。E4Bモデルでも基本的なビジネス文書は問題なく生成できます。
3. プログラムコードの補助
簡単なスクリプトの作成やコードの説明、エラーメッセージの解読などに活用できます。26B以上のモデルであれば、より複雑なコーディング支援も可能です。
注意点とよくあるトラブル
メモリ不足：モデルサイズに対してメモリが不足すると、動作が極端に遅くなるか起動に失敗します。まずは小さいモデルで試し、問題なければ上位モデルに移行してください。
日本語の精度：E2Bなど軽量モデルでは、日本語の精度が落ちる場合があります。業務で使う場合はE4B以上を推奨します。
GPUの有無：GPUがなくてもCPUで動作しますが、応答速度に大きな差が出ます。頻繁に使う場合はGPU搭載PCを検討してください。
まとめ：ローカルAIは中小企業の現実的な選択肢
Gemma 4 + Ollamaの組み合わせなら、クラウドAPIの月額費用なしに自社環境でAIを運用できます。データが外に出ないセキュリティ面のメリットも大きく、特に顧客情報や社内文書を扱う業務で威力を発揮します。
まずはE4Bモデルで「社内文書の要約」から試してみてください。3ステップのセットアップで、今日から始められます。
株式会社Sei San Seiでは、AIを活用した業務効率化のご支援を行っています。ローカルAIの導入や業務への組み込みでお悩みの方は、お気軽にご相談ください。