Перейти до вмісту

Підключення OpenAI-сумісного API

Багато AI-сервісів і серверів працюють за тим самим форматом API, що й OpenAI. atbridge.ai підтримує їх усі через один варіант провайдера — OpenAI-сумісний (власний URL). Нічого не потрібно встановлювати чи чекати на окрему інтеграцію: введіть Base URL сервісу і ключ API, і atbridge AI Chat використовуватиме його, як будь-якого іншого провайдера.

Типові випадки:

  • Модель на вашому комп’ютері чи сервері: LM Studio, vLLM, сервер llama.cpp, LocalAI.
  • Проксі, який розгорнула ваша компанія, наприклад LiteLLM перед кількома провайдерами.
  • API-шлюз або посередник, що надає доступ до моделей через OpenAI-сумісну кінцеву точку.
  • Base URL: адреса API з документації вашого провайдера. Це те саме значення, яке OpenAI SDK називає base_url, наприклад https://llm.example.com/v1. Вставте її точно так, як у документації; atbridge.ai приймає її як із кінцевим /v1, так і без нього.
  • Ключ API: створюється в панелі керування провайдера. Локальний сервер, який не перевіряє ключі, прийме будь-яке значення-заповнювач, наприклад local.

Сервіс має підтримувати дві стандартні кінцеві точки OpenAI з автентифікацією Authorization: Bearer: /v1/chat/completions (сам чат) і /v1/models (список моделей, за яким atbridge.ai також перевіряє з’єднання). Майже всі OpenAI-сумісні сервіси й локальні сервери підтримують обидві.

Поширені локальні сервери та їхні типові Base URL (перевірте своє налаштування):

СерверТиповий base URL
LM Studiohttp://localhost:1234/v1
vLLMhttp://localhost:8000/v1
llama.cpp serverhttp://localhost:8080/v1
LiteLLM proxyhttp://localhost:4000
  1. У Thunderbird відкрийте налаштування atbridge: шестірня або Інструменти → Додатки й теми → atbridge.ai → Параметри (див. Відкрийте налаштування розширення atbridge). Перейдіть на вкладку Провайдери ШІ.

  2. У випадному списку Провайдер оберіть OpenAI-сумісний (власний URL).

  3. Заповніть поле Base URL і вставте свій ключ у поле Ключ API. Ключ шифрується на цьому пристрої і ніколи не потрапляє на сервери atbridge.ai.

  4. Натисніть Підключити. atbridge.ai одразу перевіряє адресу й ключ, запитуючи список моделей. Якщо перевірка пройшла, статус зміниться на зелену ✓; якщо ні, нічого не зберігається, і ви побачите причину.

Оберіть модель і спілкуйтеся

Section titled “Оберіть модель і спілкуйтеся”

Відкрийте atbridge AI Chat (кнопка @b у Thunderbird) і оберіть модель у випадному списку моделей, де показано моделі, які повідомляє сервіс. Шлюз може показувати сотні моделей; щоб використати модель за її точною назвою, введіть назву в поле власний ідентифікатор моделі в розділі Налаштування → Бажані провайдер і модель ШІ.

З OpenAI-сумісним провайдером ваші запити, а також текст листів і вкладення, які ви передаєте AI Chat, надсилаються на введений вами Base URL. atbridge.ai не пропускає їх через свої сервери й не зберігає. Перш ніж підключати сервіс, переконайтеся, що довіряєте тим, хто його обслуговує, і прочитайте його умови конфіденційності та зберігання даних. Для пошти, яка не має залишати ваш комп’ютер, використовуйте локальний сервер (таблиця вище) або Ollama.

Налаштування з командного рядка

Section titled “Налаштування з командного рядка”

Те саме підключення з термінала; ключ читається зі стандартного вводу, тож не потрапляє в історію оболонки:

Terminal window
echo "$MY_API_KEY" | atbridge connect activate --provider openai-compatible \
--base-url https://llm.example.com/v1 --key-stdin

Якщо не вдається підключитися

Section titled “Якщо не вдається підключитися”
  • 404 або «not found»: неправильний Base URL. Скопіюйте його ще раз із документації провайдера; зазвичай це адреса, що закінчується на /v1.
  • 401 або 403: ключ неправильний, прострочений або не має доступу до цієї моделі.
  • URL правильний, але Підключити все одно не спрацьовує: можливо, сервіс не надає списку моделей (/v1/models), потрібного atbridge.ai для перевірки з’єднання. Запитайте свого провайдера, чи він це підтримує.
  • Чат відповідає, але ніколи не заглядає у вашу пошту: модель не підтримує виклик інструментів. Оберіть іншу модель.

Was this page helpful?