Salta ai contenuti

Connetti un'API compatibile con OpenAI

Molti servizi e server di IA usano lo stesso formato API di OpenAI. atbridge.ai funziona con tutti tramite un’unica opzione provider, Compatibile con OpenAI (URL personalizzato). Non devi installare nulla né attendere un’integrazione: inserisci la Base URL e la chiave API del servizio, e la atbridge Chat IA lo usa come qualsiasi altro provider.

Casi tipici:

  • Un modello sul tuo computer o server: LM Studio, vLLM, il server llama.cpp, LocalAI.
  • Un proxy gestito dalla tua azienda, ad esempio LiteLLM davanti a più provider.
  • Un gateway API o un rivenditore che ti dà accesso ai modelli tramite un endpoint compatibile con OpenAI.
  • Base URL: l’indirizzo dell’API indicato nella documentazione del tuo provider. È lo stesso valore che l’SDK di OpenAI chiama base_url, ad esempio https://llm.example.com/v1. Incollala esattamente come è documentata; atbridge.ai la accetta con o senza il /v1 finale.
  • Chiave API: creata nella dashboard del tuo provider. Un server locale che non verifica le chiavi accetta qualsiasi segnaposto, come local.

Il servizio deve supportare due endpoint standard di OpenAI con autenticazione Authorization: Bearer: /v1/chat/completions (la chat vera e propria) e /v1/models (l’elenco dei modelli, che atbridge.ai usa anche per verificare la connessione). Quasi tutti i servizi compatibili con OpenAI e i server locali li forniscono entrambi.

Server locali comuni e la loro Base URL abituale (verifica la tua configurazione):

ServerBase URL abituale
LM Studiohttp://localhost:1234/v1
vLLMhttp://localhost:8000/v1
llama.cpp serverhttp://localhost:8080/v1
LiteLLM proxyhttp://localhost:4000
  1. In Thunderbird, apri le Impostazioni atbridge: l’ingranaggio, oppure Strumenti → Componenti aggiuntivi e temi → atbridge.ai → Opzioni (vedi Apri le impostazioni di atbridge). Vai alla scheda Provider IA.

  2. Nel menu a discesa Provider, scegli Compatibile con OpenAI (URL personalizzato).

  3. Compila Base URL e incolla la tua chiave in Chiave API. La chiave è cifrata su questo dispositivo e non raggiunge mai i server di atbridge.ai.

  4. Fai clic su Connetti. atbridge.ai verifica subito l’indirizzo e la chiave richiedendo l’elenco dei modelli. Se la verifica riesce, lo stato diventa un ✓ verde; se fallisce, non viene salvato nulla e vedi il motivo.

Apri la atbridge Chat IA (il pulsante @b in Thunderbird) e scegli un modello dal menu a discesa dei modelli, che mostra i modelli indicati dal servizio. Un gateway può elencare centinaia di modelli; per usarne uno con il suo nome esatto, digitalo in id modello personalizzato in Impostazioni → Provider e modello IA preferiti.

Con un provider compatibile con OpenAI, i tuoi prompt e qualsiasi testo di email o allegato che dai alla Chat IA vengono inviati alla Base URL che hai inserito. atbridge.ai non li inoltra né li conserva. Prima di connettere un servizio, assicurati di fidarti di chi lo gestisce e leggi le sue condizioni su privacy e conservazione dei dati. Per la posta che non deve lasciare il tuo computer, usa un server locale (la tabella sopra) oppure Ollama.

La stessa connessione da un terminale; la chiave viene letta dallo standard input, quindi non finisce nella cronologia della shell:

Terminal window
echo "$MY_API_KEY" | atbridge connect activate --provider openai-compatible \
--base-url https://llm.example.com/v1 --key-stdin
  • 404 o “not found”: la Base URL è sbagliata. Copiala di nuovo dalla documentazione del provider; di solito è l’indirizzo che termina con /v1.
  • 401 o 403: la chiave è sbagliata, scaduta o non ha accesso a quel modello.
  • L’URL è corretta ma Connetti continua a fallire: il servizio potrebbe non fornire l’elenco dei modelli (/v1/models), che atbridge.ai usa per verificare la connessione. Chiedi al tuo provider se lo supporta.
  • La chat risponde ma non consulta mai la tua posta: il modello non supporta il tool calling. Scegli un altro modello.

Was this page helpful?