İçeriğe geç

Tamamen yerel, özel bir yapay zekâ çalıştırın

Sonuç: Thunderbird yazım araç çubuğunuzdaki @b düğmesi, OpenAI ya da Anthropic ile olduğu gibi tam olarak çalışır — Bu taslağı iyileştir, Bu konuşmayı özetle, özel istemler — ama yanıtı üreten model kendi dizüstünüzde çalışır. E-postayla ilgili hiçbir şey üçüncü taraf bir yapay zekâ sağlayıcısına gitmez — onu okuyan ve yazan model tamamen kendi makinenizde çalışır.

“ChatGPT’ye asla yapıştırmayacağım e-postalarda yapay zekâ kullanayım” hissinizi tarif ediyorsa, tarif budur.

  • Gizlilik. Tüm e-posta içeriği + isteminiz yerelde işlenir. Ollama’nın bir gizlilik politikası yoktur, çünkü kaydedilecek bir şey yoktur — model diskinizdeki bir dosyadır, makinenizdeki bir süreçle konuşur.
  • Çağrı başına maliyet yok. Ücretsiz model, ücretsiz çıkarım, her şey ücretsiz. İstediğiniz kadar kullanın.
  • API anahtarı karışıklığı yok. “OpenAI hesabı oluştur, bir anahtar al, yapıştır” dansını atlayın. Ollama localhost üzerinde çalışır; @bridge Yapay Zeka Sohbeti doğrudan ona yönlendirir.
  • Bulut modellerinden daha yavaş. Llama 3.1 8B çalıştıran bir dizüstü, “bu taslağı iyileştir” çağrısı başına ~5–20 saniyedir; GPT-4o-mini için ~2 saniyeye karşılık. Aradaki farkı kapatmak için daha küçük bir model + daha güçlü bir makine kullanın.
  • GPT-4o ya da Claude Sonnet 4.6’dan daha düşük kalite. Llama 3.1 8B çoğu e-posta işi için sağlamdır, ama incelikli ton ya da çok paragraflı düzenlemede sınır modellerine yetişemez.
  • Dizüstü pili + RAM harcatır. Yerel bir model çalıştırmak gerçek hesaplamadır. Pilde iseniz, model üretirken %20–40 bir tüketim bekleyin.

Ollama’yı ollama.com/download adresinden edinin. macOS, Linux, Windows için mevcuttur.

Yüklemeden sonra Ollama, http://127.0.0.1:11434 üzerinde bir arka plan hizmeti olarak çalışır. Başlatmak için bir şey yapmanız gerekmez — çalışıyordur.

Bir terminalde:

Terminal window
ollama pull llama3.1:latest

Bu, yaklaşık 5 GB indirir. Yüklemeden sonraki ilk çağrı tek seferlik bir beklemedir; ondan sonra model diskte olur.

Güçlü bir makineniz varsa (16+ GB RAM, hızlı CPU ya da herhangi bir GPU), daha büyük bir model deneyin — kalite iyi ölçeklenir:

Terminal window
ollama pull llama3.1:70b

Thunderbird’ü açın → atbridge.ai eklentisi Ayarlar → @bridge Yapay Zeka Sohbeti bölümü.

  • Sağlayıcı: açılır menüden ollama (local — private) seçin
  • API anahtarı: boş bırakın (Ollama, localhost’ta kimlik doğrulaması olmadan çalışır)
  • Etkinleştir’e tıklayın

@bridge şifrelenmiş cihaz anahtarını yerelde üretir, arka ucumuzdan onu ortam başına ana anahtarla sarmasını ister ve sarmayı ~/.atbridge/connect-wrapped.bin dosyasına yazar. LLM’niz yerel olsa bile, @bridge Yapay Zeka Sohbeti etkinleştirmesi hâlâ sunucu aracılıdır — kırılmış bir istemcinin Pro hakkını taklit etmesini böyle önleriz. Sunucu Ollama trafiğinizi ya da model çıktınızı görmez; yalnızca çağrı zamanında çözme adımına aracılık eder.

Thunderbird’de bir yazım penceresi açın. Yazım araç çubuğundaki @b düğmesine tıklayın. Açılır pencere görünür.

  • Bu taslağı iyileştir’e tıklayın — taslak metniniz yerel Ollama’nıza gönderilir, cilalı sürüm yazım penceresine geri enjekte edilir. Gidiş-dönüş: güncel bir dizüstünde llama3.1:latest için ~5–10 saniye.
  • Ya da istem kutusuna özel bir talimat yazın: “bunu İspanyolcaya çevir”, “daha resmî yap” vb.

Hepsi bu. E-posta içeriğiniz, açık internet bir yana, yerel ağ arabiriminizi bile hiç geçmedi.

Doğrulamak isterseniz, @b düğmesine tıklarken bir paket yakalama (tcpdump, Wireshark) çalıştırın. Şunları görmelisiniz:

  1. Çözme çağrısı için atbridge.ai adresine kısa bir HTTPS isteği (e-posta içeriği yok — yalnızca {email, license_key, device_id, wrapped_b64})
  2. 127.0.0.1:11434 adresine bir TCP bağlantısı (yerel Ollama’nız)
  3. Başka giden trafik yok

Tüm gizlilik ayak izi budur.

  • Önünde kimlik doğrulaması olan Ollama (örn. uzak, ters proxy): Bearer belirtecinizi API anahtarı alanına yapıştırın. OpenAI-uyumlu adaptör onu iletir.
  • Standart olmayan bir Ollama bağlantı noktasına yönlendirmek mi istiyorsunuz? Bunun yerine openai-compatible hazır ayarını kullanın ve özel temel URL’nizi yapıştırın.
  • Diğer yerel LLM çalıştırıcıları (LM Studio, llama.cpp’nin sunucusu, vLLM) de OpenAI-uyumlu API’yi konuşur. openai-compatible hazır ayarını kullanın ve onların uç noktasına yönlendirin.

Was this page helpful?