Připojit API kompatibilní s OpenAI
Mnoho služeb a serverů AI používá stejný formát API jako OpenAI. atbridge.ai funguje se všemi přes jedinou volbu poskytovatele, Kompatibilní s OpenAI (vlastní URL). Nic neinstalujete ani nečekáte na integraci: zadejte Base URL a API klíč služby a atbridge AI Chat ji použije jako kteréhokoli jiného poskytovatele.
Typické případy:
- Model na vašem vlastním počítači nebo serveru: LM Studio, vLLM, server llama.cpp, LocalAI.
- Proxy provozovaná vaší firmou, např. LiteLLM před několika poskytovateli.
- API brána nebo přeprodejce, který vám zpřístupňuje modely přes koncový bod kompatibilní s OpenAI.
Co potřebujete
Sekce “Co potřebujete”- Base URL: adresa API z dokumentace vašeho poskytovatele. Je to stejná
hodnota, kterou SDK OpenAI nazývá
base_url, napříkladhttps://llm.example.com/v1. Vložte ji přesně tak, jak je uvedena v dokumentaci; atbridge.ai ji přijme s koncovým/v1i bez něj. - API klíč: vytvořený v panelu vašeho poskytovatele. Lokální server, který
klíče nekontroluje, přijme libovolnou zástupnou hodnotu, například
local.
Služba musí podporovat dva standardní koncové body OpenAI s ověřováním
Authorization: Bearer: /v1/chat/completions (samotný chat) a /v1/models
(seznam modelů, který atbridge.ai používá také ke kontrole připojení). Téměř
každá služba kompatibilní s OpenAI i lokální server poskytuje oba.
Běžné lokální servery a jejich obvyklé Base URL (ověřte si vlastní nastavení):
| Server | Obvyklá Base URL |
|---|---|
| LM Studio | http://localhost:1234/v1 |
| vLLM | http://localhost:8000/v1 |
| llama.cpp server | http://localhost:8080/v1 |
| LiteLLM proxy | http://localhost:4000 |
Přidejte jej do atbridge.ai
Sekce “Přidejte jej do atbridge.ai”-
V Thunderbirdu otevřete Nastavení atbridge: ozubené kolo, nebo Nástroje → Doplňky a vzhledy → atbridge.ai → Možnosti (viz Otevřete nastavení rozšíření atbridge). Přejděte na kartu Poskytovatelé AI.
-
V rozbalovací nabídce Poskytovatel vyberte Kompatibilní s OpenAI (vlastní URL).
-
Vyplňte Base URL a vložte svůj klíč do pole Klíč API. Klíč je šifrovaný na tomto zařízení a nikdy se nedostane na servery atbridge.ai.
-
Klikněte na Připojit. atbridge.ai hned ověří adresu i klíč tím, že si vyžádá seznam modelů. Když kontrola projde, stav se změní na zelené ✓; pokud selže, nic se neuloží a uvidíte důvod.
Vyberte model a chatujte
Sekce “Vyberte model a chatujte”Otevřete atbridge AI Chat (tlačítko @b v Thunderbirdu) a vyberte model z rozbalovací nabídky modelů, která zobrazuje modely hlášené službou. Brána může nabízet stovky modelů; chcete-li použít model podle jeho přesného názvu, zadejte jej do pole id vlastního modelu v Nastavení → Preferovaný poskytovatel AI a model.
Kdo vidí vaše data
Sekce “Kdo vidí vaše data”U poskytovatele kompatibilního s OpenAI se vaše dotazy a veškerý text e-mailů nebo přílohy, které AI Chatu předáte, odesílají na Base URL, kterou jste zadali. atbridge.ai je nepřeposílá ani neukládá. Než službu připojíte, ověřte, že důvěřujete jejímu provozovateli, a přečtěte si její podmínky ochrany soukromí a uchovávání dat. Pro poštu, která nesmí opustit váš počítač, použijte lokální server (tabulka výše) nebo Ollama.
Nastavení z příkazové řádky
Sekce “Nastavení z příkazové řádky”Stejné připojení z terminálu; klíč se čte ze standardního vstupu, takže nezůstane v historii shellu:
echo "$MY_API_KEY" | atbridge connect activate --provider openai-compatible \ --base-url https://llm.example.com/v1 --key-stdinKdyž se nepřipojí
Sekce “Když se nepřipojí”- 404 nebo “not found”: Base URL je špatně. Zkopírujte ji znovu z
dokumentace poskytovatele; obvykle je to adresa končící na
/v1. - 401 nebo 403: klíč je špatný, vypršel nebo nemá přístup k danému modelu.
- URL je správně, ale Připojit stále selhává: služba možná neposkytuje seznam
modelů (
/v1/models), který atbridge.ai potřebuje ke kontrole připojení. Zeptejte se svého poskytovatele, zda ho podporuje. - Chat odpovídá, ale nikdy se nepodívá do vaší pošty: model nepodporuje volání nástrojů. Vyberte jiný model.
Související
Sekce “Související”Was this page helpful?
Thanks for the feedback!