Eine vollständig lokale, private KI

Das Ergebnis: Die @b-Schaltfläche in deiner Thunderbird-Verfassen-Symbolleiste funktioniert genau wie mit OpenAI oder Anthropic – Diesen Entwurf verbessern, Diesen Thread zusammenfassen, eigene Prompts – aber das Modell, das die Antwort erzeugt, läuft auf deinem eigenen Laptop. Nichts von der E-Mail gelangt zu einem Drittanbieter-KI-Anbieter – das Modell, das sie liest und schreibt, läuft vollständig auf deinem eigenen Rechner.

Wenn “lass mich KI auf E-Mails nutzen, die ich nie in ChatGPT einfügen würde” beschreibt, wie du dich fühlst, dann ist das das passende Rezept.

Warum das wählen

• Privatsphäre. Der vollständige E-Mail-Inhalt + dein Prompt wird lokal verarbeitet. Ollama hat keine Datenschutzerklärung, weil es nichts zu protokollieren gibt – das Modell ist eine Datei auf deiner Festplatte, die mit einem Prozess auf deinem Rechner spricht.
• Keine Kosten pro Aufruf. Kostenloses Modell, kostenlose Inferenz, alles kostenlos. Nutze es so viel du willst.
• Kein API-Schlüssel-Gehampel. Überspringe das “OpenAI-Konto erstellen, Schlüssel holen, einfügen”-Ritual. Ollama läuft auf localhost; der @bridge KI-Chat zeigt direkt darauf.

Was es an Kompromissen kostet

• Langsamer als Cloud-Modelle. Ein Laptop mit Llama 3.1 8B braucht ~5–20 Sekunden pro “Diesen Entwurf verbessern”-Aufruf, gegenüber ~2 Sekunden bei GPT-4o-mini. Nutze ein kleineres Modell + einen leistungsstärkeren Rechner, um die Lücke zu schließen.
• Geringere Qualität als GPT-4o oder Claude Sonnet 4.6. Llama 3.1 8B ist für die meiste E-Mail-Arbeit solide, aber es reicht bei nuanciertem Ton oder mehrabsätzigem Bearbeiten nicht an die Spitzenmodelle heran.
• Kostet dich Laptop-Akku + RAM. Ein lokales Modell auszuführen ist echte Rechenleistung. Auf Akku erwarte einen Verbrauch von 20–40 %, während das Modell generiert.

Einrichtung

1. Ollama installieren

Hole Ollama von ollama.com/download. Verfügbar für macOS, Linux, Windows.

Nach der Installation läuft Ollama als Hintergrunddienst auf http://127.0.0.1:11434. Du musst nichts tun, um es zu starten – es läuft bereits.

2. Ein Modell laden

In einem Terminal:

ollama pull llama3.1:latest

Das lädt etwa 5 GB herunter. Der erste Aufruf nach der Installation ist ein einmaliges Warten; danach ist das Modell auf der Festplatte.

Wenn du einen leistungsstarken Rechner hast (16+ GB RAM, schnelle CPU oder eine GPU), probiere ein größeres Modell – die Qualität skaliert gut:

ollama pull llama3.1:70b

3. Im @bridge KI-Chat aktivieren

Öffne Thunderbird → atbridge-Addon-Einstellungen → Abschnitt @bridge KI-Chat.

• Anbieter: wähle ollama (local — private) aus dem Dropdown
• API-Schlüssel: leer lassen (Ollama läuft ohne Auth auf localhost)
• Klicke auf Aktivieren

@bridge erzeugt den verschlüsselten Geräteschlüssel lokal, bittet unser Backend, ihn unter dem umgebungsspezifischen Master zu verpacken, und schreibt die Verpackung nach ~/.atbridge/connect-wrapped.bin. Auch wenn dein LLM lokal ist, läuft die @bridge KI-Chat-Aktivierung weiterhin server-vermittelt – so verhindern wir, dass ein geknackter Client eine Pro-Berechtigung vortäuscht. Der Server sieht weder deinen Ollama-Verkehr noch deine Modellausgabe; er vermittelt nur den Entpackungsschritt zum Aufrufzeitpunkt.

4. Die @b-Schaltfläche nutzen

Öffne ein Verfassenfenster in Thunderbird. Klicke auf die @b-Schaltfläche in der Verfassen-Symbolleiste. Das Popover erscheint.

• Klicke auf Diesen Entwurf verbessern – dein Entwurfstext wird an dein lokales Ollama gesendet, die verfeinerte Version wird zurück in das Verfassenfenster eingefügt. Roundtrip: ~5–10 Sekunden für llama3.1:latest auf einem aktuellen Laptop.
• Oder tippe eine eigene Anweisung in das Prompt-Feld: “übersetze das ins Spanische”, “mach es förmlicher” usw.

Das war’s. Dein E-Mail-Inhalt hat nie deine lokale Netzwerkschnittstelle überschritten, geschweige denn das öffentliche Internet.

Bestätige, dass nichts nach außen dringt

Wenn du das überprüfen willst, führe eine Paketaufzeichnung (tcpdump, Wireshark) aus, während du auf die @b-Schaltfläche klickst. Du solltest sehen:

1. Eine kurze HTTPS-Anfrage an atbridge.ai für den Entpackungsaufruf (kein E-Mail-Inhalt – nur {email, license_key, device_id, wrapped_b64})
2. Eine TCP-Verbindung zu 127.0.0.1:11434 (dein Ollama, lokal)
3. Kein weiterer ausgehender Verkehr

Das ist der gesamte Datenschutz-Fußabdruck.

Hinweise

• Ollama mit vorgeschalteter Auth (z. B. remote, Reverse-Proxy): füge dein Bearer-Token in das API-Schlüssel-Feld ein. Der OpenAI-kompatible Adapter leitet es weiter.
• Willst du auf einen nicht standardmäßigen Ollama-Port zeigen? Verwende stattdessen die Voreinstellung openai-compatible und füge deine eigene Basis-URL ein.
• Andere lokale LLM-Runner (LM Studio, der Server von llama.cpp, vLLM) sprechen ebenfalls die OpenAI-kompatible API. Verwende die Voreinstellung openai-compatible und zeige auf ihren Endpunkt.

Tipp

Lokales Ollama ist der einzige Connect-Anbieter, bei dem die Aktivierung offline abgeschlossen werden kann, sobald die Geräteverpackung auf der Festplatte liegt – eine erneute Aktivierung erfordert das Backend, aber die alltäglichen Aufrufe funktionieren auch, wenn atbridge.ai nicht erreichbar ist. Der Haken: Jeder Aufruf ruft weiterhin das Backend für den Entpackungsschritt auf, daher ist ein “vollständig offline”-Modus eine slice-b2-Überlegung.