Połącz API zgodne z OpenAI
Wiele usług i serwerów AI obsługuje ten sam format API co OpenAI. atbridge.ai współpracuje ze wszystkimi przez jedną opcję dostawcy, OpenAI-compatible (niestandardowy URL). Nie musisz niczego instalować ani czekać na integrację: wpisz Base URL i klucz API usługi, a atbridge Czat AI będzie z niej korzystać jak z każdego innego dostawcy.
Typowe przypadki:
- Model na Twoim własnym komputerze lub serwerze: LM Studio, vLLM, serwer llama.cpp, LocalAI.
- Proxy prowadzone przez Twoją firmę, np. LiteLLM przed kilkoma dostawcami.
- Brama API lub pośrednik, który daje dostęp do modeli przez punkt końcowy zgodny z OpenAI.
Czego potrzebujesz
Dział zatytułowany „Czego potrzebujesz”- Base URL: adres API z dokumentacji dostawcy. To ta sama wartość, którą SDK
OpenAI nazywa
base_url, na przykładhttps://llm.example.com/v1. Wklej go dokładnie tak, jak podano w dokumentacji; atbridge.ai akceptuje go z końcowym/v1lub bez niego. - Klucz API: utworzony w panelu dostawcy. Serwer lokalny, który nie sprawdza
kluczy, przyjmie dowolną wartość zastępczą, np.
local.
Usługa musi obsługiwać dwa standardowe punkty końcowe OpenAI z uwierzytelnianiem
Authorization: Bearer: /v1/chat/completions (sam czat) i /v1/models (lista
modeli, której atbridge.ai używa też do sprawdzenia połączenia). Niemal każda
usługa zgodna z OpenAI i każdy serwer lokalny udostępnia oba.
Popularne serwery lokalne i ich zwykłe Base URL (sprawdź własną konfigurację):
| Serwer | Zwykły Base URL |
|---|---|
| LM Studio | http://localhost:1234/v1 |
| vLLM | http://localhost:8000/v1 |
| llama.cpp server | http://localhost:8080/v1 |
| LiteLLM proxy | http://localhost:4000 |
Dodaj go do atbridge.ai
Dział zatytułowany „Dodaj go do atbridge.ai”-
W Thunderbirdzie otwórz Ustawienia atbridge: koło zębate lub Narzędzia → Dodatki i motywy → atbridge.ai → Opcje (zobacz Otwórz ustawienia rozszerzenia atbridge). Przejdź do karty Dostawcy AI.
-
Z listy Dostawca wybierz OpenAI-compatible (niestandardowy URL).
-
Wypełnij Base URL i wklej klucz w pole Klucz API. Klucz jest szyfrowany na tym urządzeniu i nigdy nie trafia na serwery atbridge.ai.
-
Kliknij Połącz. atbridge.ai od razu sprawdza adres i klucz, pobierając listę modeli. Gdy sprawdzenie się powiedzie, status zmienia się na zielony ✓; jeśli się nie powiedzie, nic nie zostaje zapisane i widzisz przyczynę.
Wybierz model i rozmawiaj
Dział zatytułowany „Wybierz model i rozmawiaj”Otwórz atbridge Czat AI (przycisk @b w Thunderbirdzie) i wybierz model z listy modeli, na której są modele zgłaszane przez usługę. Brama może wyświetlić setki modeli; aby użyć modelu po jego dokładnej nazwie, wpisz ją w pole niestandardowe id modelu w Ustawienia → Preferowany dostawca i model AI.
Kto widzi Twoje dane
Dział zatytułowany „Kto widzi Twoje dane”Przy dostawcy zgodnym z OpenAI Twoje polecenia oraz treść e-maili i załączniki, które przekażesz Czatowi AI, są wysyłane na wpisany przez Ciebie Base URL. atbridge.ai ich nie pośredniczy ani nie przechowuje. Zanim połączysz usługę, upewnij się, że ufasz temu, kto ją prowadzi, i przeczytaj jej zasady prywatności i przechowywania danych. W przypadku poczty, która nie może opuścić Twojego komputera, użyj serwera lokalnego (tabela powyżej) lub Ollama.
Konfiguracja z wiersza poleceń
Dział zatytułowany „Konfiguracja z wiersza poleceń”To samo połączenie z terminala; klucz jest odczytywany ze standardowego wejścia, więc nie trafia do historii powłoki:
echo "$MY_API_KEY" | atbridge connect activate --provider openai-compatible \ --base-url https://llm.example.com/v1 --key-stdinJeśli nie można się połączyć
Dział zatytułowany „Jeśli nie można się połączyć”- 404 lub “not found”: Base URL jest nieprawidłowy. Skopiuj go ponownie z
dokumentacji dostawcy; zwykle jest to adres kończący się na
/v1. - 401 lub 403: klucz jest nieprawidłowy, wygasł lub nie ma dostępu do tego modelu.
- URL jest prawidłowy, ale Połącz nadal nie działa: usługa może nie
udostępniać listy modeli (
/v1/models), której atbridge.ai potrzebuje do sprawdzenia połączenia. Zapytaj dostawcę, czy ją obsługuje. - Czat odpowiada, ale nigdy nie zagląda do Twojej poczty: model nie obsługuje wywoływania narzędzi. Wybierz inny model.
Powiązane
Dział zatytułowany „Powiązane”Was this page helpful?
Thanks for the feedback!