Eine OpenAI-kompatible API verbinden
Viele KI-Dienste und -Server sprechen dasselbe API-Format wie OpenAI. atbridge.ai funktioniert mit allen über eine einzige Anbieteroption, OpenAI-kompatibel (eigene URL). Du musst nichts installieren und auf keine Integration warten: Gib die Base URL und den API-Schlüssel des Dienstes ein, und der atbridge KI-Chat nutzt ihn wie jeden anderen Anbieter.
Typische Fälle:
- Ein Modell auf deinem eigenen Rechner oder Server: LM Studio, vLLM, der llama.cpp-Server, LocalAI.
- Ein Proxy, den deine Firma betreibt, z. B. LiteLLM vor mehreren Anbietern.
- Ein API-Gateway oder Wiederverkäufer, der dir über einen OpenAI-kompatiblen Endpunkt Zugriff auf Modelle gibt.
Was du brauchst
Abschnitt betitelt „Was du brauchst“- Base URL: die API-Adresse aus der Dokumentation deines Anbieters. Es ist
derselbe Wert, den das OpenAI-SDK
base_urlnennt, zum Beispielhttps://llm.example.com/v1. Füge sie genau so ein, wie sie dokumentiert ist; atbridge.ai akzeptiert sie mit oder ohne das abschließende/v1. - API-Schlüssel: wird im Dashboard deines Anbieters erstellt. Ein lokaler
Server, der keine Schlüssel prüft, akzeptiert einen beliebigen Platzhalter wie
local.
Der Dienst muss zwei Standard-Endpunkte von OpenAI mit
Authorization: Bearer-Authentifizierung unterstützen: /v1/chat/completions
(der Chat selbst) und /v1/models (die Modellliste, mit der atbridge.ai auch die
Verbindung prüft). Fast jeder OpenAI-kompatible Dienst und lokale Server bietet
beide an.
Gängige lokale Server und ihre übliche Base URL (prüfe deine eigene Einrichtung):
| Server | Übliche Base URL |
|---|---|
| LM Studio | http://localhost:1234/v1 |
| vLLM | http://localhost:8000/v1 |
| llama.cpp server | http://localhost:8080/v1 |
| LiteLLM proxy | http://localhost:4000 |
In atbridge.ai hinzufügen
Abschnitt betitelt „In atbridge.ai hinzufügen“-
Öffne in Thunderbird die atbridge-Einstellungen: das Zahnrad oder Extras → Add-ons und Themes → atbridge.ai → Optionen (siehe atbridge-Erweiterungseinstellungen öffnen). Gehe zum Tab KI-Anbieter.
-
Wähle im Dropdown Anbieter die Option OpenAI-kompatibel (eigene URL).
-
Fülle Base URL aus und füge deinen Schlüssel in API-Schlüssel ein. Der Schlüssel wird auf diesem Gerät verschlüsselt und erreicht nie die Server von atbridge.ai.
-
Klicke auf Verbinden. atbridge.ai prüft Adresse und Schlüssel sofort, indem es die Modellliste abfragt. Ist die Prüfung erfolgreich, wechselt der Status zu einem grünen ✓; schlägt sie fehl, wird nichts gespeichert und du siehst den Grund.
Modell auswählen und chatten
Abschnitt betitelt „Modell auswählen und chatten“Öffne den atbridge KI-Chat (die @b-Schaltfläche in Thunderbird) und wähle ein Modell aus dem Modell-Dropdown, das die vom Dienst gemeldeten Modelle anzeigt. Ein Gateway kann Hunderte von Modellen auflisten; um eines über seinen genauen Namen zu nutzen, gib ihn unter Einstellungen → Bevorzugter KI-Anbieter & Modell in eigene Modell-ID ein.
Wer deine Daten sieht
Abschnitt betitelt „Wer deine Daten sieht“Bei einem OpenAI-kompatiblen Anbieter werden deine Prompts sowie alle E-Mail-Texte oder Anhänge, die du dem KI-Chat gibst, an die eingegebene Base URL gesendet. atbridge.ai leitet sie weder weiter noch speichert es sie. Bevor du einen Dienst verbindest, stelle sicher, dass du dem Betreiber vertraust, und lies seine Datenschutz- und Aufbewahrungsbedingungen. Für E-Mails, die deinen Rechner nicht verlassen dürfen, nutze einen lokalen Server (die Tabelle oben) oder Ollama.
Über die Kommandozeile einrichten
Abschnitt betitelt „Über die Kommandozeile einrichten“Dieselbe Verbindung im Terminal; der Schlüssel wird von der Standardeingabe gelesen und landet so nicht in deiner Shell-History:
echo "$MY_API_KEY" | atbridge connect activate --provider openai-compatible \ --base-url https://llm.example.com/v1 --key-stdinWenn die Verbindung nicht klappt
Abschnitt betitelt „Wenn die Verbindung nicht klappt“- 404 oder “not found”: Die Base URL ist falsch. Kopiere sie erneut aus der
Dokumentation des Anbieters; meist ist es die Adresse, die auf
/v1endet. - 401 oder 403: Der Schlüssel ist falsch, abgelaufen oder hat keinen Zugriff auf dieses Modell.
- Die URL stimmt, aber Verbinden schlägt trotzdem fehl: Der Dienst stellt die
Modellliste (
/v1/models) eventuell nicht bereit, die atbridge.ai zur Prüfung der Verbindung braucht. Frage deinen Anbieter, ob er sie unterstützt. - Der Chat antwortet, schaut aber nie in deine E-Mails: Das Modell unterstützt kein Tool Calling. Wähle ein anderes Modell.
Verwandtes
Abschnitt betitelt „Verwandtes“Was this page helpful?
Thanks for the feedback!