ブログ ·
パソコンから一歩も出ない AI:Gemini Nano と Ollama
契約書、診療記録、取り扱いに注意が必要なメール。Gemini Nano や Ollama を使えば、Weightless AI はお使いのパソコン上で AI を動かします。インターネットには何も送られず、キーを作成する必要もありません。
AI にメールの校正を頼むと、文章はふつうオンラインのサービス提供元に送られます。買い物リストなら気にすることはありません。でも、契約書や給与明細、ごく個人的なメッセージとなると、できれば手元から出したくないものです。
それこそが Weightless AI のローカル AI の役割です。モデルはお使いのパソコン上で動き、文章はパソコンの外に一切出ません。
選べるローカル AI は 2 つ
アシスタント(Alt + W)で、ウィンドウ上部にあるエンジンのピルをクリックします。エンジンは 「ローカル(プライベート)」 と 「オンライン」 の 2 つのグループに分かれています。最初のグループにあるのは次の 2 つです。
- Gemini Nano:Google Chrome に組み込まれた AI です。モデル以外にインストールするものはなく、キーもアカウントも不要です。
- Ollama:パソコンにインストールして使う無料のオープンソースソフトで、オープンなモデル(Llama、Mistral、Gemma など)を動かせます。
さらに、会話タブごとにエンジンを個別に設定できるので、あるタブではオンラインの Gemini で調べものをし、隣のタブでは Nano で機密性の高い文章を扱う、といった使い分けができます。
Gemini Nano:Chrome にすでに入っている AI
Gemini Nano はキーなし、ネット接続なしで動きます。必要なのは次のとおりです。
- パソコン版の Google Chrome 148 以降(Google Chrome を入れた Windows、Mac、Linux。Chromebook では最近の高性能モデルのみで、一般的な Chromebook は対象外です。スマートフォンには対応していません)
- 約 20 GB の空きディスク容量(モデル自体のサイズは 2.7〜4 GB)
アシスタントの設定にある 「モデルをダウンロード」 ボタンを押すと、ダウンロードが始まります。必要なのは一度だけです。その後は、オフラインでも Nano が答えてくれます。
補足:30 日間使われなかった場合や、ディスクの空き容量が 5 GB を下回った場合、Chrome はモデルを自動的に削除します。そのときは、もう一度ダウンロードするだけです。
Nano は小型のモデルです。回答は短めで、扱える文章も短く(ページの文字数で約 4,000 文字)、ウェブ検索や PDF には対応していません。とはいえ、メッセージの校正や言い換え、翻訳には十分な力があります。
Ollama:自宅で動く、自分だけの AI サーバー
Ollama は Windows、Mac、Linux にインストールでき、Chromebook でも Linux 環境で使えます。Weightless AI は、通常のアドレス(http://localhost:11434)にある Ollama を自動で検出し、すでにインストール済みのモデルを選びます。
注意点はひとつだけです。拡張機能が Ollama と通信できるよう許可しておく必要があります。アシスタント内の FAQ に、システムごとの正確なコマンドが載っています。たとえば Mac と Windows では次のとおりです。
OLLAMA_ORIGINS=chrome-extension://*
Chromebook の場合、「OllamaのURL(ローカル)」 の設定に入力するアドレスは http://penguin.linux.test:11434 です。Linux のターミナルにそのまま貼り付けられるコマンドも FAQ に用意されています。
Ollama なら、パソコンの性能しだいで、Nano より長い文章(ページの文字数で約 8,000 文字)を扱えます。
ローカル AI を選ぶべきときは?
- 契約書、健康、人事、顧客データ:ローカル AI(Nano または Ollama)
- 日常的なメール:お好みでどちらでも
- 最新ニュースに関する質問、出典つきの調べもの:オンラインの Gemini
- 長い PDF の要約:オンラインの Gemini
では、Weightless AI 自体は?
オンラインのエンジンを選んでも、ローカルのエンジンを選んでも、Weightless AI にはサーバーがありません。私たちがあなたの文章を受け取れる場所は、どこにも存在しないのです。ローカル AI なら、その経路は考えうるかぎり最短です。あなたのキーボードと、あなたのパソコン。それだけです。