Mono
Список ожидания

Как подключить свою ИИ-модель: endpoint, ключ и резервный сервис

Настройте OpenAI-совместимую модель в Mono, проверьте соединение и отделите текстовые ответы от выполнения инструментов.

Собственный endpoint позволяет отправлять запросы на выбранный сервер. Модель может работать на вашем компьютере или у внешнего провайдера: ввод адреса не запускает её на телефоне. Начните с короткого запроса без чувствительных данных.

Mono by Reunified позволяет подключить свою модель, и ответы модели, которую вы запускаете сами, ничего не стоят в Mono. Сейчас Mono доступно по листу ожидания. Это руководство показывает настройки и даёт чек-лист на то время, когда у вас появится доступ. Даже если сервер заявляет о совместимости, проверьте его именно с вашим приложением и вашей моделью.

1. Подготовьте параметры подключения

Нужны базовый URL API, точный идентификатор модели и, если требуется, ключ API. Следуйте инструкциям того, кто обслуживает сервер. Адрес сайта, страница загрузки модели или URL MCP-сервера — это не API-эндпоинт модели.

Mono отправляет текстовые запросы по пути Chat Completions под введённым адресом, поэтому вводите базу API, а не полный путь. Например, если поставщик указывает https://models.example.com/v1/chat/completions, введите https://models.example.com/v1. Это вымышленный адрес, а не работающий сервис.

Проверьте, что ещё поддерживает модель. Если она отвечает текстом, это не значит, что она поддерживает изображения, инструменты, потоковую передачу или все параметры запроса.

2. Настройте одну роль модели

Откройте Настройки, затем Интеграции, и включите Текстовую модель в разделе Свои эндпоинты. Введите URL эндпоинта, ключ API и ID модели в их поля. Не вставляйте ключи в сообщения чата и на скриншоты. Локальному серверу без входа ключ может не понадобиться, но это не делает его безопасным для открытия в интернет.

Начните с текстовой модели. В Mono есть отдельные настройки для текстовой модели, модели для кода и вспомогательной модели, так что изменение одной не меняет другие. Запишите, какую вы изменили, чтобы знать, с чего начать, если позже что-то сломается.

С собственной текстовой моделью некоторые функции, например инструменты и навыки, могут работать не так, как со встроенными моделями Mono. Сначала проверьте обычный разговор. Если сценарию нужны навыки, хороший текстовый ответ не доказывает, что сценарий заработает.

3. Определите поведение при сбое

У каждой своей модели есть переключатель «Использовать модель по умолчанию, если недоступен», и по умолчанию он включён. Не считайте, что все функции одинаково реагируют на упавший сервер. Проверьте: остановите сервер и посмотрите, что происходит в функции, которой вы пользуетесь.

Если ваши запросы должны идти только на ваш сервер, из-за приватности или стоимости, выключите этот переключатель и проверьте, что происходит при сбое сервера. Проверьте, куда на самом деле уходят запросы; настройки на экране недостаточно. После смены текстовой модели остаются ещё другие модели и подключённые инструменты, которые нужно проверить.

Прочитайте руководство по приватности и разбор стоимости перед отправкой чувствительных материалов.

4. Выполните небольшой тест

Попросите: «Верни три слова — красный, зелёный, синий — на отдельных строках». Проверьте, что ответ приходит, что журналы сервера (если они есть) показывают выбранную модель и что страница использования у поставщика совпадает с проверкой.

Затем проверьте одну функцию, которая вам действительно нужна, например длинный разговор. Меняйте только одно за раз. Запишите версию приложения, версию сервера, ID модели и дату; результат для одного сочетания не значит, что заработает любая модель.

Если сервер работает на вашем компьютере, проверьте его и из реальной сети телефона. На телефоне localhost — это сам телефон. Вместо того чтобы открывать незащищённый сервис в интернет, используйте поддерживаемый сервером способ подключения со входом.

5. Найдите первый неработающий уровень

Симптом Что проверить сначала
Истекло время ожидания Сервер запущен, устройство до него достаёт, правила сети
Нет авторизации Верный ключ, аккаунт и требования ко входу
Ошибка «не найдено» Базовый URL и не добавлен ли путь /chat/completions дважды
Модель неизвестна Точный ID модели, доступной на этом сервере
Текст работает, сценарий нет Инструменты или другие функции, нужные сценарию

Удаляйте секреты из любых журналов, которыми делитесь. Вход на сайт поставщика не доказывает, что ваш ключ API работает, а успешная текстовая проверка не значит, что модель для кода настроена.

6. Сохраните возможность вернуть настройки

Запишите прежние настройки, без секретов. После смены сервера повторите небольшую проверку и сверьте расходы и в приложении, и у поставщика. Прежде чем называть конфигурацию «локальной» или «приватной», проверьте настройки остальных моделей.

Запишитесь в список Mono. Для подключения внешнего сервиса вместо замены модели используйте руководство MCP.

Автор

Reunified делает приложения, которые снова собирают разрозненное воедино.

Читайте также

Все статьи

5 мин чтения

Как создать ИИ-задание по описанию: написать, проверить, изменить

Опишите простыми словами, что нужно сделать, и Mono превратит это в задание. Напишите проверяемый запрос, изучите, что собрал Mono, проверьте первый запуск и меняйте по одному пункту за раз.

Скоро

Запишитесь в список ожидания

Оставьте адрес электронной почты, и мы напишем вам, когда Mono можно будет скачать.

Где вы будете пользоваться Mono?