Устранение неполадок чата ИИ без цензуры: распространенные ошибки

Почему ваша модель без цензуры все еще отклоняет запросы

Самая распространенная причина, по которой LLM без цензуры кажется отказавшей в запросе, — не фильтр контента, а ошибка на стороне клиента. Наша модель настроена на ответы без отказов по контенту для законного использования для взрослых, но она все еще уважает жесткое ограничение: сексуальный контент с участием несовершеннолетних всегда блокируется. Если вы видите отказ, проверьте тело ответа на наличие кода ошибки или конкретного сообщения об отказе, а не предполагайте, что модель сломана.

Ещё одна частая проблема — конфигурация base_url. Если вы мигрируете с другого провайдера, убедитесь, что указываете https://api.unrestrictedgptchat.com/v1. Несоответствие base_url приведет к ошибке 404 или 401, которая выглядит как отказ, но на самом деле является проблемой подключения. Также убедитесь, что ваш API-ключ активен и не истек. Мы выдаем один активный ключ на аккаунт, и генерация нового ключа немедленно заменяет старый.

Типичные сценарии отказов

• Нарушение жесткого ограничения (контент с участием несовершеннолетних).
• Неверный base_url или API-ключ.
• Некорректное тело запроса.

Понимание ограничения контекстного окна на 100k

Сессия чата вашего uncensored AI может обрабатывать в общей сложности 100,000 токенов как для промпта, так и для завершения. Это большое окно контекста позволяет загружать обширную документацию или длинные истории разговоров, не теряя нить повествования. Однако вы должны тщательно управлять этим окном, чтобы не достичь лимита посреди разговора.

Когда контекстное окно почти заполнено, модель может начать забывать более ранние части разговора. Чтобы смягчить это, рассмотрите возможность усечения старых сообщений или их суммирования перед добавлением новых. Используемый вами идентификатор модели — просто "uncensored", и он работает на наших собственных серверах, а не как прокси к другому поставщику. Это обеспечивает согласованное поведение независимо от длины ввода, пока вы остаетесь в пределах границы в 100 000 токенов.

Эффективное управление контекстом

• Отслеживайте использование токенов на сообщение.
• Суммируйте более старые сообщения, чтобы сэкономить место.
• Отслеживайте общее количество токенов в вашем клиенте.

Максимальные токены вывода: предотвращение усечения ответов

По умолчанию модель генерирует до 2 048 токенов за запрос, если вы не укажете значение max_tokens. Если ваш ответ обрезан посреди предложения, вероятно, вам нужно увеличить этот лимит. Вы можете установить max_tokens до 16 000 токенов за запрос, что достаточно для большинства задач генерации длинных текстов.

Имейте в виду, что увеличение max_tokens также увеличивает использование токенов и стоимость. Поскольку оплата основана на фактически использованных токенах, более длинные ответы будут стоить дороже. Однако ошибки и отказы бесплатны, поэтому вы платите только за успешные завершения. Эта предоплаченная модель означает, что вы можете экспериментировать с более высокими значениями max_tokens, не беспокоясь о неожиданных счетах от сервисов подписки.

Настройка max_tokens

• По умолчанию: 2 048 токенов.
• Максимум: 16 000 токенов.
• Стоимость: $0.50 за 1M выходных токенов.

Потоковая и непотоковая передача: правильная обработка SSE

Потоковая передача через Server-Sent Events (SSE) необходима для плавного пользовательского опыта, особенно в интерфейсах чата. API возвращает токены по одному, позволяя отображать текст по мере его генерации. Однако вы должны правильно обрабатывать поток SSE, чтобы не пропустить токены и не неверно интерпретировать данные.

Каждое событие SSE содержит фрагмент текста, а последний фрагмент включает данные об использовании токенов. Убедитесь, что ваш клиентский парсер может агрегировать эти фрагменты и извлекать статистику использования из последнего события. Если вы используете стандартный SDK OpenAI, потоковая передача обычно обрабатывается автоматически, но для пользовательских реализаций требуется внимательное соблюдение протокола SSE.

Лучшие практики потоковой передачи

• Правильно разбирайте события SSE.
• Агрегировать токены для отображения.
• Извлекайте данные об использовании из финального блока.

Вызовы функций: обеспечение совместимости инструментов

Наш API поддерживает вызов функций, позволяя модели генерировать структурированные данные, которые можно использовать для запуска внешних инструментов. Это полезно для таких задач, как планирование, получение данных или выполнение конкретных действий. Модель вернет объект JSON, содержащий имя функции и аргументы, которые ваш клиентский код сможет разобрать и выполнить.

Убедитесь, что ваши определения функций точны и соответствуют ожидаемому формату ввода. Модель может галлюцинировать аргументы, если определение функции неоднозначно. Тщательно протестируйте настройку вызова функций, чтобы убедиться, что модель может надежно генерировать правильные вызовы функций. Помните, что id модели — "uncensored", и она оптимизирована для генерации точных и полезных вызовов функций без лишних отказов.

Советы по вызову функций

• Чётко определите функции.
• Тестирование генерации аргументов.
• Обрабатывайте галлюцинируемые аргументы.

Режим JSON: принудительное применение строгих форматов вывода

Когда нужно, чтобы модель возвращала строго форматированный JSON, вы можете использовать параметр response_format, установленный в json_object. Этот режим гарантирует, что вывод является валидным JSON, что критически важно для интеграции модели с другими системами. Однако модель может все еще испытывать трудности со сложными структурами JSON, если промпт неясен.

Используйте режим JSON, когда вам нужен надежный извлечение данных или вы создаете систему, зависящую от конкретных JSON-схем. Эта функция особенно полезна для разработчиков, которые хотят избежать ошибок парсинга и гарантировать, что вывод всегда валиден. Модель поддерживает этот режим вместе с другими параметрами, такими как temperature и top_p, позволяя вам тонко настраивать качество вывода.

Настройки режима JSON

• Установите response_format в json_object.
• Обеспечьте четкие промпты для структуры.
• Проверьте вывод на соответствие требованиям.

Лимиты скорости: управление одновременными запросами

API позволяет 300 запросов в минуту на ключ и до 8 параллельных запросов одновременно. Если вы превысите эти лимиты, вы получите ошибку 429 Too Many Requests. Это важно учитывать, если вы создаете высоконагруженное приложение или запускаете несколько экземпляров вашего клиента.

Чтобы эффективно управлять лимитами частоты запросов, реализуйте экспоненциальную задержку с повторными попытками (exponential backoff) в коде клиента. Это поможет обрабатывать временные всплески трафика, не перегружая API. Вы также можете отслеживать частоту запросов и соответствующим образом настраивать параметры параллелизма. Помните, что каждый ключ ограничен указанными лимитами, поэтому для увеличения пропускной способности может потребоваться распределение запросов между несколькими ключами.

Стратегии ограничения запросов

• Реализуйте экспоненциальное замедление.
• Отслеживайте частоту запросов.
• Распределяйте запросы между ключами API.

Неожиданные счета: предоплаченный кредит против подписок

Наша система биллинга основана на предоплате: вы пополняете аккаунт криптовалютой и платите только за использованные токены. Это отличается от модели подписки, где вы платите фиксированную ежемесячную плату независимо от объема использования. С предоплаченным кредитом вы полностью контролируете свои расходы, а ошибки бесплатны, поэтому вы платите только за успешные завершения запросов.

При пополнении вы можете добавить любую целую сумму от $20 до $500 в USDT (TRC20) или USDC (Base). Вы также получаете бонусные кредиты в зависимости от суммы: +5% от $50, +10% от $100 и +15% от $200. Эти бонусные кредиты не истекают, поэтому вы можете использовать их, когда вам нужно. Эта прозрачная модель биллинга помогает избежать неожиданных списаний и упрощает бюджетирование использования API.

Детали выставления счетов

• Предоплаченный кредит, без подписки.
• Только крипто: USDT или USDC.
• Бонусный кредит для крупных пополнений.

Конфиденциальность: используются ли ваши промпты для обучения?

Одна из ключевых проблем для многих разработчиков — используются ли их промпты для обучения. С нашим API ваши промпты не используются для обучения, что гарантирует конфиденциальность ваших данных. Это особенно важно для компаний, работающих с конфиденциальной информацией или желающих сохранить безопасность данных разговоров.

Вы можете зарегистрироваться, указав только адрес электронной почты, номер телефона не требуется. Этот минимальный сбор данных дополнительно повышает вашу конфиденциальность. Кроме того, поскольку мы являемся независимым сервисом, мы не передаем ваши данные другим поставщикам и не используем их для улучшения других моделей. Ваши запросы используются исключительно для генерации ответов на ваши запросы.

Функции конфиденциальности

• Промпты не используются для обучения.
• Minimal data collection.
• Независимый сервис.