先月のクレジットカードの明細を見て、AI関連の支出だけで数千円になっていた、という人は少なくないはずです。ChatGPT、Claude、Gemini。便利さに押されて契約を1つ、また1つと増やしていくうちに、毎月の固定費が静かに膨らんでいきます。
この記事は「今のAIをやめよう」という提案ではありません。用途次第では、無料で自分のパソコンの中だけで動くAIという選択肢がある。それを知っておくだけで、AIにお金をかける先を自分で選べるようになる、という話です。
今回取り上げるのは、Googleが無料で公開しているオープンモデル「Gemma」です。
1 なぜ今、この話が必要になっているのか
契約した瞬間、AIの利用料は小さく見えます。月額数千円のプランを1つ足すだけなら、それほどの負担には感じません。問題は、それが1つで終わらない点にあります。
文章はChatGPT、コードはClaude、調べ物はGemini。用途ごとに使い分けていくと、気づけば複数のサービスに同時に課金している状態になっています。しかもその中には、「ちょっとした下書き」や「社内限定の簡単な文章」など、必ずしも高性能でなくてもこなせる作業が混ざっているものです。
すべての作業を高性能な有料AIに任せる必要はありません。軽い作業は無料で自分のPCの中で動くAIに任せ、精度が本当に必要な作業だけ有料AIを使う。この使い分けができれば、AIにかかる固定費を自分の手でコントロールできます。Gemmaは、その選択肢の一つです。
2 Gemmaとは何か。Geminiとは別物
Gemmaは、Googleが無料で公開しているオープンモデルです。ダウンロードして、自分のパソコンやサーバーの中で動かすことができます。
普段使っているGeminiは、Googleのサーバー側で動いており、私たちはブラウザやアプリ経由でそこへアクセスしています。処理そのものはGoogle側で行われ、通信を通じてやり取りする形です。
対してGemmaは、モデルのデータ自体を自分の環境へダウンロードして使う仕組みです。名前がよく似ているため混同されやすいですが、「クラウドで動くGemini」と「自分のPCで動かすGemma」は、まったく別物だと考えてください。
2026年9月時点の最新版はGemma4で、公開は2026年3月です。無料であること、そして自分の環境だけで処理が完結すること。この2点が、Gemmaを選ぶ最大の理由になります。
3 パソコンの中だけで完結する、という意味
「自分のパソコンの中で動く」と聞くと、抽象的に感じるかもしれません。具体的には、入力した文章がインターネット経由で外部のサーバーへ送信されない、ということです。
ローカル実行ツールの一つであるOllamaは、公式に「パソコンの中で処理したものは外に出ない」と明記しています。つまり、自分が書いた文章や質問の内容が、通信としてどこかへ流れることはありません。
社内向けの細かいメモ、まだ誰にも見せていない企画の下書き、個人的な相談ごと。こうした「外に出したくない文章」を扱う場面では、クラウド型のAIだと通信への不安がどうしても残ります。Gemmaのようなローカル実行のモデルは、その不安を構造そのもので解消してくれます。
とはいえ、これは「クラウド型のAIが危険だ」という話ではありません。情報によって外に出してよいものと出したくないものがあり、その線引きに応じてツールを選び分けられる、という話です。
4 商用利用は、バージョンによって条件が違う
会社の業務で使うことを考えているなら、ここは事前に確認しておいてください。
Gemma4はApache2.0ライセンスで公開されており、商用利用が可能です。制限が少なく、扱いやすいライセンスといえます。
一方、Gemma3系以前のバージョンには「Gemma利用規約」という別の規定が適用されます。こちらも商用利用自体はできますが、禁止されている用途や再配布に関する制限が定められています。同じ「Gemma」という名前でも、バージョンによってライセンスの中身が異なる点は覚えておいてください。
業務で使う前に、自分がダウンロードしようとしているバージョンがどちらのライセンスに該当するか、公式ページで一度確かめておくと安心です。
5 自分のパソコンで動くか、まず確認する
Gemmaには複数のサイズが用意されています。パラメータサイズと呼ばれるもので、E2B、E4B、12B、26B A4B、31Bという種類が公開されています。「E」は「効果的な」パラメータという意味です。
サイズが大きいほど賢くなりますが、その分パソコンのメモリを多く消費します。目安として、高精度なBF16形式と、圧縮したQ4_0形式（量子化）でのメモリ使用量を並べます。
・E2B：BF16で11.4GB、Q4_0で2.9GB
・E4B：BF16で17.9GB、Q4_0で4.5GB
・12B：BF16で26.7GB、Q4_0で6.7GB
・26B A4B：BF16で57.7GB、Q4_0で14.4GB
・31B：BF16で69.9GB、Q4_0で17.5GB
数値は使う環境やツールによって変わると、公式にも注記があります。
一般的なノートパソコン（メモリ8〜16GB程度）で試すなら、E2BかE4Bを、Q4_0のような軽い量子化方式から始めるのが現実的です。最初から大きいサイズを選ぶと、途中で止まったり、動作が極端に重くなったりします。
6 実際に動かす方法はいくつかある
Gemmaを動かすツールは一つではありません。代表的なものとして、Ollama、LM Studio、Llama.cpp、MLXがあります。
このうちLM Studioは、画面の操作だけで完結するよう作られており、初めて触る人でも扱いやすいツールです。一方Ollamaは、ターミナル（文字を打って操作する黒い画面）を使う場面が出てきます。パソコン操作に慣れていない場合は、まずLM Studioから試すとよいでしょう。
手順は次のとおりです。
まず、LM StudioかOllamaをパソコンにインストールします。次に、アプリ内のモデル一覧から「Gemma」を探します。ここでE2BかE4Bのような軽量サイズを選び、Q4_0のような圧縮方式でダウンロードします。ダウンロードが終わったら、チャット画面を開いて実際に質問を打ってみます。返ってくる答えの速さと内容を見て、自分の用途に合っているかを判断します。
ダウンロードするファイルは数GB単位になることがあり、回線速度によっては数十分かかる場合もあります。作業の合間に始めて、他の仕事をしながら待つくらいの気持ちでいるとよいでしょう。
7 実際に試すと、つまずきやすい場面
手順どおりに進めても、思うように動かないことがあります。よくあるつまずきとその対処法を先に知っておくと、無駄な時間を減らせます。
一つ目は、ダウンロードしたのにアプリが固まる、極端に動作が遅いという症状です。多くの場合、原因はメモリ不足です。まず、他に開いているアプリやブラウザのタブを閉じてみてください。それでも改善しなければ、より軽いサイズ（E4BからE2Bへ）、またはより軽い量子化方式に切り替えてください。
二つ目は、動きはするものの、返ってくる答えがちぐはぐになる症状です。これは圧縮の度合いが強すぎる量子化方式を選んでいる可能性があります。動作は軽くなる一方で、答えの精度が落ちることがあるためです。この場合は、一段階重い方式を試してみてください。
三つ目は、日本語で質問しても期待したほど自然な返答が来ない場合があることです。Gemmaは140以上の言語で事前学習されており、35以上の言語にすぐ対応できるとされています。ただし、日本語が具体的にこの35言語に含まれるかどうかは、公式の記載でも明確にされていません。「日本語も問題なく使える」と言い切ることはできず、実際に自分の用途で試して、使えるレベルかどうかを見極める必要があります。
8 業務にどう組み込むか、具体的な場面で考える
Gemmaを業務に組み込むなら、まず「外に出したくない情報を扱う、軽い作業」から試すのが順当です。
たとえば、社内向けの議事録メモの整形。誰かに見せる前の、荒い箇条書きを文章の形に整える作業です。内容が社外秘であっても、パソコンの中で処理が完結するため、通信を気にせず使えます。
たとえば、簡単な文章のたたき台づくり。メールの下書き、社内連絡の文面、資料の見出し案。精度よりもスピードと手軽さが優先される場面なら、無料のGemmaで十分なことが多くあります。
一方で、複雑な指示を正確にこなす作業、専門的な知識を要する調べ物、長い文章を一貫した論理でまとめる作業は、現時点では有料のクラウド型AIのほうが安定しています。すべてをGemmaに置き換えるのではなく、「この作業はGemma、この作業は有料AI」という線引きを、自分の業務の中で見つけていくのが現実的です。
9 費用について、正直に書いておきます
Gemma自体は無料です。ダウンロードにも利用にも料金はかかりません。ただし、電気代とパソコン本体にかかる費用は別に発生します。動かすパソコンのスペックが足りない場合、買い替えや増設が必要になることもあります。
また、GeminiのAPI（プログラムから呼び出す仕組み）は、Gemmaとは別のサービスで、無料枠と有料枠があります。この記事で扱っているGemmaと混同しないよう、あらためて書いておきます。
「ChatGPTの課金を0円にできる」と言い切れるだけの根拠は、公式には見当たりません。すべての有料AIを置き換えられるわけではなく、あくまで「使い分けの選択肢が一つ増える」という話として受け止めてください。
10 今日からできること
まず、普段有料のAIに任せている作業の中から、「これは社外秘ではない」「そこまで精度を求めていない」というものを一つ選んでみてください。
その作業を、LM StudioとGemmaのE2Bで試してみます。速さと答えの質を確認し、これで十分だと感じたら、その作業だけをGemmaに移してみる。そうやって少しずつ有料AIと無料のローカルAIを使い分けていくと、AIにかける固定費を自分の意思で調整できるようになります。
※2026年10月1日現在の情報です。
私は、「AI先生2.0」としてAI講座を4つ運営しています。
1.社員向けに「AI技能習得講座」 この講座はAIを初級から中級まで学ぶことが出来ます。
内容は、
①AIアプリの特性と最新の使い方を学べます。
②受講生にとって必要なアプリを作れるようになります。
2.経営者向けに「経営者向けAI講座」を開設しています。
内容は、
①AI9マス思考法で経営者のしたい事をまとめます。
②まとめた思考を「事業計画書」にまとめてAIで効率化・売上UP出来る方法を提案します。
3.AI講師になりたい人向けに「AI講師育成講座」を開設しています。
内容は、
①私が講座でしている内容をすべて開示して、ひとりで自信をもって講師業を開設できます。
②教材もすべてお渡ししますのですぐに講師として活躍できます。
4.売れていない講師向けに「AI講座販売プログラム」を開設してます。
内容は、
①Webポータルサイト、交流会などでの販売方法をもれなく学べます。
②教材もすべてお渡ししますのですぐに講師として活躍できます。
以上随時講座を受講できます。
講師紹介
初めまして、AI先生2.0こと西尾です。
現在、AIを使って中小企業の成長をお手伝いしています。
AIは、社会インフラとして、電気水道ガスと同じように社会にとって欠かせないものとなります。
これは、35年前のインターネット革命を思い出していただければわかると思います。
今、インターネット革命を超える「AI革命」を商機と捉え、一緒に会社を飛躍するお手伝いをします。
今がその時、その時が今です。
AIに興味がある方は、ご連絡ください。https://up-on.jp
コメント