Spusťte plně lokální, soukromou AI

Výsledek: tlačítko @b na liště psaní v Thunderbirdu funguje přesně tak, jako s OpenAI nebo Anthropic — Vylepšit tento koncept, Shrnout toto vlákno, vlastní prompty — ale model, který generuje odpověď, běží na vašem vlastním notebooku. Nic z e-mailu neputuje k poskytovateli AI třetí strany — model, který jej čte a píše, běží zcela na vašem počítači.

Pokud vás vystihuje „chci používat AI na e-maily, které bych nikdy nevložil do ChatGPT”, je tohle ten pravý recept.

Proč zvolit tohle

• Soukromí. Celý obsah e-mailu + váš prompt se zpracovávají lokálně. Ollama nemá zásady ochrany soukromí, protože není co logovat — model je soubor na vašem disku, který komunikuje s procesem na vašem počítači.
• Bez nákladů za volání. Model zdarma, inference zdarma, vše zdarma. Používejte, kolik chcete.
• Bez přehazování API klíčů. Vynecháte tanečky „vytvoř účet OpenAI, získej klíč, vlož ho”. Ollama běží na localhost; @bridge AI Chat na ni míří přímo.

Co to stojí v kompromisech

• Pomalejší než cloudové modely. Notebook s Llama 3.1 8B zvládne ~5–20 sekund na jedno volání „vylepšit tento koncept”, oproti ~2 sekundám u GPT-4o-mini. Použijte menší model + výkonnější stroj a mezera se zmenší.
• Nižší kvalita než GPT-4o nebo Claude Sonnet 4.6. Llama 3.1 8B je solidní pro většinu práce s e-maily, ale nedosáhne na špičkové modely v nuancích tónu nebo úpravách o více odstavcích.
• Stojí vás baterii notebooku + RAM. Provoz lokálního modelu je reálný výpočet. Pokud jste na baterii, počítejte s 20–40% odběrem, dokud model generuje.

Nastavení

1. Nainstalujte Ollama

Získejte Ollama z ollama.com/download. Dostupné pro macOS, Linux, Windows.

Po instalaci běží Ollama jako služba na pozadí na http://127.0.0.1:11434. Ke spuštění nemusíte nic dělat — už běží.

2. Stáhněte model

V terminálu:

ollama pull llama3.1:latest

Tím se stáhne asi 5 GB. První volání po instalaci je jednorázové čekání; poté je model na disku.

Pokud máte výkonný stroj (16+ GB RAM, rychlé CPU nebo jakékoli GPU), zkuste větší model — kvalita škáluje dobře:

ollama pull llama3.1:70b

3. Aktivujte jej v @bridge AI Chat

Otevřete Thunderbird → Nastavení doplňku atbridge.ai → sekce @bridge AI Chat.

• Poskytovatel: vyberte z rozbalovací nabídky ollama (local — private)
• API klíč: nechte prázdný (Ollama běží na localhostu bez autentizace)
• Klikněte na Aktivovat

@bridge vygeneruje šifrovaný klíč zařízení lokálně, požádá náš backend, aby jej zabalil pod master klíčem pro dané prostředí, a zapíše zabalení do ~/.atbridge/connect-wrapped.bin. I když je váš LLM lokální, aktivace @bridge AI Chat je stále zprostředkována serverem — tak zabráníme tomu, aby crackovaný klient předstíral nárok na Pro. Server nevidí váš provoz s Ollama ani výstup vašeho modelu; zprostředkovává pouze krok rozbalení v okamžiku vyvolání.

4. Použijte tlačítko @b

Otevřete v Thunderbirdu okno psaní. Klikněte na tlačítko @b na liště psaní. Objeví se vyskakovací okno.

• Klikněte na Vylepšit tento koncept — text vašeho konceptu se odešle do vaší lokální Ollama a vyleštěná verze se vloží zpět do okna psaní. Doba odezvy: ~5–10 sekund pro llama3.1:latest na moderním notebooku.
• Nebo zadejte vlastní instrukci do pole promptu: „přelož to do španělštiny”, „udělej to formálnější” atd.

A to je vše. Obsah vašeho e-mailu nikdy nepřekročil vaše lokální síťové rozhraní, natož veřejný internet.

Ověřte, že nic neuniká

Pokud si to chcete ověřit, spusťte při klikání na tlačítko @b zachytávání paketů (tcpdump, Wireshark). Měli byste vidět:

1. Krátký HTTPS požadavek na atbridge.ai pro volání rozbalení (bez obsahu e-mailu — jen {email, license_key, device_id, wrapped_b64})
2. TCP spojení na 127.0.0.1:11434 (vaše Ollama, lokálně)
3. Žádný další odchozí provoz

To je celá stopa z hlediska soukromí.

Poznámky

• Ollama s autentizací před ní (např. vzdálená, reverzní proxy): vložte svůj Bearer token do pole API klíče. Adaptér kompatibilní s OpenAI ho přepošle.
• Chcete mířit na nestandardní port Ollama? Použijte místo toho preset openai-compatible a vložte svou vlastní základní URL.
• Další nástroje pro lokální LLM (LM Studio, server llama.cpp, vLLM) také rozumí API kompatibilnímu s OpenAI. Použijte preset openai-compatible a namiřte na jejich endpoint.

Tip

Lokální Ollama je jediný poskytovatel Connect, u kterého lze aktivaci dokončit offline, jakmile je zabalení zařízení na disku — opětovná aktivace vyžaduje backend, ale každodenní vyvolání fungují, i když je atbridge.ai mimo provoz. Háček: každé vyvolání stále volá backend kvůli kroku rozbalení, takže „plně offline” režim je záležitost slice-b2.