Перейти до вмісту

Повністю локальний, приватний ШІ

Результат: кнопка @b на панелі створення листа в Thunderbird працює точно так само, як з OpenAI чи Anthropic — Improve this draft, Summarise this thread, власні запити — але модель, яка генерує відповідь, працює на вашому власному ноутбуці. Нічого з листа не потрапляє до стороннього постачальника ШІ — модель, яка читає й пише його, працює повністю на вашій машині.

Якщо фраза «дайте мені застосувати ШІ до листа, який я нізащо не вставив би в ChatGPT» описує ваші відчуття — це саме той рецепт.

  • Приватність. Повний вміст листа + ваш запит обробляються локально. В Ollama немає політики конфіденційності, бо нема чого логувати — модель це файл на вашому диску, який спілкується з процесом на вашій машині.
  • Без плати за виклик. Безкоштовна модель, безкоштовний висновок, безкоштовно все. Користуйтеся скільки завгодно.
  • Без метушні з API-ключами. Пропустіть весь танець «створіть обліковий запис OpenAI, отримайте ключ, вставте його». Ollama працює на localhost; atbridge AI Chat звертається до неї напряму.

Чим доводиться жертвувати

Section titled “Чим доводиться жертвувати”
  • Повільніше за хмарні моделі. Ноутбук із Llama 3.1 8B витрачає ~5–20 секунд на виклик «improve this draft», проти ~2 секунд у GPT-4o-mini. Візьміть меншу модель + потужнішу машину, щоб зменшити розрив.
  • Нижча якість, ніж у GPT-4o чи Claude Sonnet 4.6. Llama 3.1 8B добре справляється з більшістю поштових завдань, але не зрівняється з передовими моделями в тонкощах тону чи редагуванні багатоабзацних текстів.
  • Витрачає заряд батареї + ОЗП ноутбука. Запуск локальної моделі це реальні обчислення. Якщо ви на батареї, очікуйте споживання 20–40% під час генерації моделлю.

Завантажте Ollama з ollama.com/download. Доступна для macOS, Linux, Windows.

Після встановлення Ollama працює як фонова служба на http://127.0.0.1:11434. Вам не потрібно нічого робити, щоб її запустити — вона вже працює.

У терміналі:

Terminal window
ollama pull llama3.1:latest

Це завантажить близько 5 ГБ. Перший виклик після встановлення — це разове очікування; після цього модель уже на диску.

Якщо у вас потужна машина (16+ ГБ ОЗП, швидкий CPU чи будь-який GPU), спробуйте більшу модель — якість добре масштабується:

Terminal window
ollama pull llama3.1:70b

3. Активуйте її в atbridge AI Chat

Section titled “3. Активуйте її в atbridge AI Chat”

Відкрийте Thunderbird → Налаштування додатка atbridge.ai → розділ atbridge AI Chat.

  • Provider: оберіть ollama (local — private) зі списку
  • API key: залиште порожнім (Ollama працює без автентифікації на localhost)
  • Натисніть Activate

atbridge генерує зашифрований ключ пристрою локально, просить наш бекенд загорнути його під майстер-ключем середовища й записує обгортку до ~/.atbridge/connect-wrapped.bin. Хоча ваша LLM локальна, активація atbridge AI Chat усе одно опосередковується сервером — саме так ми запобігаємо тому, щоб зламаний клієнт видавав себе за Pro-передплату. Сервер не бачить ані вашого трафіку Ollama, ані виводу вашої моделі; він лише опосередковує крок розгортання ключа під час виклику.

4. Скористайтеся кнопкою @b

Section titled “4. Скористайтеся кнопкою @b”

Відкрийте вікно створення листа в Thunderbird. Натисніть кнопку @b на панелі створення листа. З’явиться спливне вікно.

  • Натисніть Improve this draft — текст вашої чернетки надсилається до вашої локальної Ollama, а відшліфована версія вставляється назад у вікно створення листа. Час на обмін: ~5–10 секунд для llama3.1:latest на сучасному ноутбуці.
  • Або введіть власну інструкцію в поле запиту: «переклади це іспанською», «зроби це офіційнішим» тощо.

Ось і все. Вміст вашого листа ніколи не перетинав навіть інтерфейс вашої локальної мережі, не кажучи вже про публічний інтернет.

Переконайтеся, що нічого не витікає

Section titled “Переконайтеся, що нічого не витікає”

Якщо хочете перевірити, запустіть захоплення пакетів (tcpdump, Wireshark), поки натискаєте кнопку @b. Ви маєте побачити:

  1. Короткий HTTPS-запит до atbridge.ai для виклику розгортання ключа (без вмісту листа — лише {email, license_key, device_id, wrapped_b64})
  2. TCP-з’єднання до 127.0.0.1:11434 (ваша Ollama, локально)
  3. Жодного іншого вихідного трафіку

Це і є весь відбиток приватності.

  • Ollama з автентифікацією попереду (напр., віддалено, за реверс-проксі): вставте свій Bearer-токен у поле API-ключа. Адаптер сумісності з OpenAI перешле його.
  • Хочете вказати нестандартний порт Ollama? Скористайтеся натомість пресетом openai-compatible й вставте свій власний базовий URL.
  • Інші локальні LLM-раннери (LM Studio, сервер llama.cpp, vLLM) також розмовляють API, сумісним з OpenAI. Скористайтеся пресетом openai-compatible й вкажіть їхню кінцеву точку.

Was this page helpful?