Перейти к содержимому

Полностью локальный, приватный ИИ

Результат: кнопка @b на панели составления письма в Thunderbird работает точно так же, как с OpenAI или Anthropic — Improve this draft, Summarise this thread, произвольные промпты — но модель, которая генерирует ответ, работает на вашем собственном ноутбуке. Ничто из письма не уходит к стороннему ИИ-провайдеру — модель, которая читает и пишет его, работает целиком на вашей машине.

Если фраза «дай мне применить ИИ к письму, которое я бы никогда не вставил в ChatGPT» описывает ваши ощущения — это рецепт для вас.

  • Приватность. Полное содержимое письма и ваш промпт обрабатываются локально. У Ollama нет политики конфиденциальности, потому что логировать нечего — модель это файл на вашем диске, который общается с процессом на вашей машине.
  • Никакой оплаты за вызовы. Бесплатная модель, бесплатный инференс, бесплатно всё. Пользуйтесь сколько угодно.
  • Никакой возни с API-ключом. Пропустите танец «заведи аккаунт OpenAI, получи ключ, вставь его». Ollama работает на localhost; atbridge AI Chat обращается к ней напрямую.
  • Медленнее облачных моделей. Ноутбук с Llama 3.1 8B — это ~5–20 секунд на вызов «improve this draft» против ~2 секунд у GPT-4o-mini. Возьмите модель поменьше и машину помощнее, чтобы сократить разрыв.
  • Ниже качество, чем у GPT-4o или Claude Sonnet 4.6. Llama 3.1 8B прочно справляется с большинством почтовых задач, но не сравнится с флагманскими моделями в тонкостях тона или редактировании из нескольких абзацев.
  • Расходует заряд и оперативную память ноутбука. Локальная модель это реальные вычисления. На батарее ждите просадки на 20–40% пока модель генерирует ответ.

Загрузите Ollama с ollama.com/download. Доступно для macOS, Linux, Windows.

После установки Ollama работает как фоновая служба по адресу http://127.0.0.1:11434. Ничего запускать не нужно — она уже работает.

В терминале:

Окно терминала
ollama pull llama3.1:latest

Это загрузит около 5 ГБ. Первый вызов после установки — разовое ожидание; после этого модель уже на диске.

Если у вас мощная машина (16+ ГБ ОЗУ, быстрый CPU или любой GPU), попробуйте модель побольше — качество хорошо масштабируется:

Окно терминала
ollama pull llama3.1:70b

Откройте Thunderbird → Настройки дополнения atbridge.ai → раздел atbridge AI Chat.

  • Provider: выберите ollama (local — private) в выпадающем списке
  • API key: оставьте пустым (Ollama работает на localhost без аутентификации)
  • Нажмите Activate

atbridge генерирует зашифрованный ключ устройства локально, просит наш бэкенд обернуть его под мастер-ключом для соответствующего окружения и записывает обёртку в ~/.atbridge/connect-wrapped.bin. Хотя ваша LLM локальна, активация atbridge AI Chat всё равно проходит через сервер — так мы не даём взломанному клиенту подделать право на Pro. Сервер не видит ни ваш трафик к Ollama, ни вывод модели; он лишь опосредует шаг разворачивания ключа в момент вызова.

Откройте окно составления письма в Thunderbird. Нажмите кнопку @b на панели составления. Появляется всплывающее окно.

  • Нажмите Improve this draft — текст вашего черновика отправляется в локальную Ollama, отшлифованная версия вставляется обратно в окно составления. Оборот: ~5–10 секунд для llama3.1:latest на современном ноутбуке.
  • Или введите свою инструкцию в поле промпта: «переведи это на испанский», «сделай более формальным» и т. п.

Вот и всё. Содержимое вашего письма ни разу не покинуло локальный сетевой интерфейс, не говоря уже о публичном интернете.

Если хотите проверить, запустите перехват пакетов (tcpdump, Wireshark), нажимая кнопку @b. Вы должны увидеть:

  1. Короткий HTTPS-запрос к atbridge.ai для вызова разворачивания (без содержимого письма — только {email, license_key, device_id, wrapped_b64})
  2. TCP-соединение к 127.0.0.1:11434 (ваша локальная Ollama)
  3. Никакого другого исходящего трафика

Это весь ваш след с точки зрения приватности.

  • Ollama с аутентификацией перед ней (например, удалённая, за обратным прокси): вставьте ваш Bearer-токен в поле API-ключа. OpenAI-совместимый адаптер передаст его.
  • Хотите указать нестандартный порт Ollama? Используйте пресет openai-compatible и вставьте свой базовый URL.
  • Другие локальные запускалки LLM (LM Studio, сервер llama.cpp, vLLM) тоже понимают OpenAI-совместимый API. Используйте пресет openai-compatible и укажите их эндпоинт.

Was this page helpful?