Weightless Zu Chrome ↗

Blog ·

Eine KI, die Ihren Computer nie verlässt: Gemini Nano und Ollama

Ein Vertrag, eine Krankenakte, eine heikle E-Mail? Mit Gemini Nano oder Ollama lässt Weightless AI die KI auf Ihrem eigenen Gerät laufen. Nichts geht ins Internet, und Sie müssen keinen Schlüssel erstellen.

Wenn Sie eine KI bitten, eine E-Mail zu korrigieren, landet der Text in der Regel bei einem Online-Anbieter. Bei einer Einkaufsliste spielt das keine Rolle. Bei einem Vertrag, einer Gehaltsabrechnung oder einer sehr persönlichen Nachricht wäre es Ihnen lieber, der Text bliebe bei Ihnen.

Genau dafür gibt es die lokale KI in Weightless AI: Das Modell läuft auf Ihrem Computer, und Ihr Text verlässt nie Ihr Gerät.

Mit lokaler KI bleibt alles bei Ihnen
KI
Ihr Computer
Internetnichts geht raus

Zwei lokale KIs zur Auswahl

Klicken Sie im Assistenten (Alt + W) oben im Fenster auf die Engine-Auswahl: Die Engines sind in zwei Gruppen eingeteilt, „Lokal (privat)“ und „Online“. Die erste Gruppe enthält:

  • Gemini Nano, die in Google Chrome integrierte KI: Außer dem Modell müssen Sie nichts installieren, kein Schlüssel, kein Konto;
  • Ollama, eine freie Software, die Sie auf Ihrem Computer installieren und die offene Modelle ausführt (Llama, Mistral, Gemma…).

Und weil jeder Gesprächs-Tab seine eigene Engine behält, können Sie in einem Tab Gemini online für eine Recherche nutzen und im nächsten Nano für einen vertraulichen Text.

Gemini Nano: die KI, die schon in Chrome steckt

Gemini Nano funktioniert ohne Schlüssel und ohne Verbindung. Sie brauchen:

  • Google Chrome 148 oder neuer, auf einem Computer (Windows, Mac oder Linux mit Google Chrome; beim Chromebook nur aktuelle, leistungsstarke Modelle, keine klassischen Chromebooks; nicht auf dem Smartphone);
  • etwa 20 GB freien Speicherplatz, wobei das Modell selbst 2,7 bis 4 GB groß ist.

In den Einstellungen des Assistenten startet die Schaltfläche „Modell herunterladen“ den Download, ein einziges Mal. Danach antwortet Nano sogar offline.

Gut zu wissen: Chrome entfernt das Modell von selbst, wenn es 30 Tage lang nicht genutzt wurde oder wenn auf Ihrer Festplatte weniger als 5 GB frei sind. Dann laden Sie es einfach erneut herunter.

Nano ist ein kleines Modell: kürzere Antworten, kürzere Texte (etwa 4.000 Zeichen einer Seite), keine Websuche, keine PDFs. Um eine Nachricht zu korrigieren, umzuformulieren oder zu übersetzen, reicht das völlig.

Ollama: Ihr eigener KI-Server, bei Ihnen zu Hause

Ollama lässt sich unter Windows, Mac und Linux installieren, und sogar auf dem Chromebook in der Linux-Umgebung. Weightless AI erkennt es von selbst unter der üblichen Adresse (http://localhost:11434) und wählt ein bereits installiertes Modell.

Nur eine Vorkehrung: Erlauben Sie der Erweiterung, mit Ollama zu sprechen. Die in den Assistenten integrierten FAQ nennen den genauen Befehl für jedes System, etwa für Mac und Windows:

OLLAMA_ORIGINS=chrome-extension://*

Auf dem Chromebook tragen Sie in der Einstellung „Ollama-URL (lokal)“ die Adresse http://penguin.linux.test:11434 ein, und die FAQ liefern einen fertigen Befehl zum Einfügen ins Linux-Terminal.

Mit Ollama können Sie längere Texte verarbeiten als mit Nano (etwa 8.000 Zeichen einer Seite), je nach Leistung Ihres Geräts.

Wann ist lokale KI die richtige Wahl?

  • Vertrag, Gesundheit, Personalwesen, Kundendaten: die lokale KI (Nano oder Ollama);
  • eine alltägliche E-Mail: das eine oder das andere, ganz nach Ihrem Geschmack;
  • eine aktuelle Frage, eine Recherche mit Quellen: Gemini online;
  • ein langes PDF zum Zusammenfassen: Gemini online.

Und wo bleibt Weightless AI dabei?

Ob Sie eine Online-Engine oder eine lokale wählen: Weightless AI hat keinen Server. Es gibt keinen Ort, an dem wir Ihre Texte empfangen könnten. Mit der lokalen KI ist der Weg einfach so kurz wie möglich: Ihre Tastatur, Ihr Computer, und das war's.

← Alle Artikel

Zu Chrome
hinzufügen