Підключення OpenAI-сумісного API
Багато AI-сервісів і серверів працюють за тим самим форматом API, що й OpenAI. atbridge.ai підтримує їх усі через один варіант провайдера — OpenAI-сумісний (власний URL). Нічого не потрібно встановлювати чи чекати на окрему інтеграцію: введіть Base URL сервісу і ключ API, і atbridge AI Chat використовуватиме його, як будь-якого іншого провайдера.
Типові випадки:
- Модель на вашому комп’ютері чи сервері: LM Studio, vLLM, сервер llama.cpp, LocalAI.
- Проксі, який розгорнула ваша компанія, наприклад LiteLLM перед кількома провайдерами.
- API-шлюз або посередник, що надає доступ до моделей через OpenAI-сумісну кінцеву точку.
Що потрібно
Section titled “Що потрібно”- Base URL: адреса API з документації вашого провайдера. Це те саме значення,
яке OpenAI SDK називає
base_url, наприкладhttps://llm.example.com/v1. Вставте її точно так, як у документації; atbridge.ai приймає її як із кінцевим/v1, так і без нього. - Ключ API: створюється в панелі керування провайдера. Локальний сервер, який
не перевіряє ключі, прийме будь-яке значення-заповнювач, наприклад
local.
Сервіс має підтримувати дві стандартні кінцеві точки OpenAI з автентифікацією
Authorization: Bearer: /v1/chat/completions (сам чат) і /v1/models (список
моделей, за яким atbridge.ai також перевіряє з’єднання). Майже всі OpenAI-сумісні
сервіси й локальні сервери підтримують обидві.
Поширені локальні сервери та їхні типові Base URL (перевірте своє налаштування):
| Сервер | Типовий base URL |
|---|---|
| LM Studio | http://localhost:1234/v1 |
| vLLM | http://localhost:8000/v1 |
| llama.cpp server | http://localhost:8080/v1 |
| LiteLLM proxy | http://localhost:4000 |
Додайте його в atbridge.ai
Section titled “Додайте його в atbridge.ai”-
У Thunderbird відкрийте налаштування atbridge: шестірня або Інструменти → Додатки й теми → atbridge.ai → Параметри (див. Відкрийте налаштування розширення atbridge). Перейдіть на вкладку Провайдери ШІ.
-
У випадному списку Провайдер оберіть OpenAI-сумісний (власний URL).
-
Заповніть поле Base URL і вставте свій ключ у поле Ключ API. Ключ шифрується на цьому пристрої і ніколи не потрапляє на сервери atbridge.ai.
-
Натисніть Підключити. atbridge.ai одразу перевіряє адресу й ключ, запитуючи список моделей. Якщо перевірка пройшла, статус зміниться на зелену ✓; якщо ні, нічого не зберігається, і ви побачите причину.
Оберіть модель і спілкуйтеся
Section titled “Оберіть модель і спілкуйтеся”Відкрийте atbridge AI Chat (кнопка @b у Thunderbird) і оберіть модель у випадному списку моделей, де показано моделі, які повідомляє сервіс. Шлюз може показувати сотні моделей; щоб використати модель за її точною назвою, введіть назву в поле власний ідентифікатор моделі в розділі Налаштування → Бажані провайдер і модель ШІ.
Хто бачить ваші дані
Section titled “Хто бачить ваші дані”З OpenAI-сумісним провайдером ваші запити, а також текст листів і вкладення, які ви передаєте AI Chat, надсилаються на введений вами Base URL. atbridge.ai не пропускає їх через свої сервери й не зберігає. Перш ніж підключати сервіс, переконайтеся, що довіряєте тим, хто його обслуговує, і прочитайте його умови конфіденційності та зберігання даних. Для пошти, яка не має залишати ваш комп’ютер, використовуйте локальний сервер (таблиця вище) або Ollama.
Налаштування з командного рядка
Section titled “Налаштування з командного рядка”Те саме підключення з термінала; ключ читається зі стандартного вводу, тож не потрапляє в історію оболонки:
echo "$MY_API_KEY" | atbridge connect activate --provider openai-compatible \ --base-url https://llm.example.com/v1 --key-stdinЯкщо не вдається підключитися
Section titled “Якщо не вдається підключитися”- 404 або «not found»: неправильний Base URL. Скопіюйте його ще раз із
документації провайдера; зазвичай це адреса, що закінчується на
/v1. - 401 або 403: ключ неправильний, прострочений або не має доступу до цієї моделі.
- URL правильний, але Підключити все одно не спрацьовує: можливо, сервіс не
надає списку моделей (
/v1/models), потрібного atbridge.ai для перевірки з’єднання. Запитайте свого провайдера, чи він це підтримує. - Чат відповідає, але ніколи не заглядає у вашу пошту: модель не підтримує виклик інструментів. Оберіть іншу модель.
Пов’язане
Section titled “Пов’язане”Was this page helpful?
Thanks for the feedback!