Přeskočit na obsah

Připojit API kompatibilní s OpenAI

Mnoho služeb a serverů AI používá stejný formát API jako OpenAI. atbridge.ai funguje se všemi přes jedinou volbu poskytovatele, Kompatibilní s OpenAI (vlastní URL). Nic neinstalujete ani nečekáte na integraci: zadejte Base URL a API klíč služby a atbridge AI Chat ji použije jako kteréhokoli jiného poskytovatele.

Typické případy:

  • Model na vašem vlastním počítači nebo serveru: LM Studio, vLLM, server llama.cpp, LocalAI.
  • Proxy provozovaná vaší firmou, např. LiteLLM před několika poskytovateli.
  • API brána nebo přeprodejce, který vám zpřístupňuje modely přes koncový bod kompatibilní s OpenAI.
  • Base URL: adresa API z dokumentace vašeho poskytovatele. Je to stejná hodnota, kterou SDK OpenAI nazývá base_url, například https://llm.example.com/v1. Vložte ji přesně tak, jak je uvedena v dokumentaci; atbridge.ai ji přijme s koncovým /v1 i bez něj.
  • API klíč: vytvořený v panelu vašeho poskytovatele. Lokální server, který klíče nekontroluje, přijme libovolnou zástupnou hodnotu, například local.

Služba musí podporovat dva standardní koncové body OpenAI s ověřováním Authorization: Bearer: /v1/chat/completions (samotný chat) a /v1/models (seznam modelů, který atbridge.ai používá také ke kontrole připojení). Téměř každá služba kompatibilní s OpenAI i lokální server poskytuje oba.

Běžné lokální servery a jejich obvyklé Base URL (ověřte si vlastní nastavení):

ServerObvyklá Base URL
LM Studiohttp://localhost:1234/v1
vLLMhttp://localhost:8000/v1
llama.cpp serverhttp://localhost:8080/v1
LiteLLM proxyhttp://localhost:4000

Přidejte jej do atbridge.ai

Sekce “Přidejte jej do atbridge.ai”
  1. V Thunderbirdu otevřete Nastavení atbridge: ozubené kolo, nebo Nástroje → Doplňky a vzhledy → atbridge.ai → Možnosti (viz Otevřete nastavení rozšíření atbridge). Přejděte na kartu Poskytovatelé AI.

  2. V rozbalovací nabídce Poskytovatel vyberte Kompatibilní s OpenAI (vlastní URL).

  3. Vyplňte Base URL a vložte svůj klíč do pole Klíč API. Klíč je šifrovaný na tomto zařízení a nikdy se nedostane na servery atbridge.ai.

  4. Klikněte na Připojit. atbridge.ai hned ověří adresu i klíč tím, že si vyžádá seznam modelů. Když kontrola projde, stav se změní na zelené ✓; pokud selže, nic se neuloží a uvidíte důvod.

Vyberte model a chatujte

Sekce “Vyberte model a chatujte”

Otevřete atbridge AI Chat (tlačítko @b v Thunderbirdu) a vyberte model z rozbalovací nabídky modelů, která zobrazuje modely hlášené službou. Brána může nabízet stovky modelů; chcete-li použít model podle jeho přesného názvu, zadejte jej do pole id vlastního modelu v Nastavení → Preferovaný poskytovatel AI a model.

U poskytovatele kompatibilního s OpenAI se vaše dotazy a veškerý text e-mailů nebo přílohy, které AI Chatu předáte, odesílají na Base URL, kterou jste zadali. atbridge.ai je nepřeposílá ani neukládá. Než službu připojíte, ověřte, že důvěřujete jejímu provozovateli, a přečtěte si její podmínky ochrany soukromí a uchovávání dat. Pro poštu, která nesmí opustit váš počítač, použijte lokální server (tabulka výše) nebo Ollama.

Nastavení z příkazové řádky

Sekce “Nastavení z příkazové řádky”

Stejné připojení z terminálu; klíč se čte ze standardního vstupu, takže nezůstane v historii shellu:

Terminál
echo "$MY_API_KEY" | atbridge connect activate --provider openai-compatible \
--base-url https://llm.example.com/v1 --key-stdin
  • 404 nebo “not found”: Base URL je špatně. Zkopírujte ji znovu z dokumentace poskytovatele; obvykle je to adresa končící na /v1.
  • 401 nebo 403: klíč je špatný, vypršel nebo nemá přístup k danému modelu.
  • URL je správně, ale Připojit stále selhává: služba možná neposkytuje seznam modelů (/v1/models), který atbridge.ai potřebuje ke kontrole připojení. Zeptejte se svého poskytovatele, zda ho podporuje.
  • Chat odpovídá, ale nikdy se nepodívá do vaší pošty: model nepodporuje volání nástrojů. Vyberte jiný model.

Was this page helpful?