Усунення неполадок чату AI без цензури: поширені помилки

Чому ваша uncensored LLM все ще відмовляє у запитах

Найпоширенішою причиною, чия LLM uncensored здається, що відхиляє запит, є не фільтр вмісту, а помилка на стороні клієнта. Наша модель налаштована на відповідь без відмов у вмісті для законного використання для дорослих, але вона все ще поважає жорстке обмеження вмісту: сексуальний контент із залученням неповнолітніх завжди відхиляється. Якщо ви бачите відмову, перевірте тіло відповіді на наявність коду помилки або конкретного повідомлення про відмову, а не припускайте, що модель зламана.

Інша поширена проблема — конфігурація base_url. Якщо ви мігруєте з іншого постачальника, переконайтеся, що ви вказуєте на https://api.unrestrictedgptchat.com/v1. Невідповідність base_url призведе до помилки 404 або 401, яка виглядає як відмова, але насправді є проблемою підключення. Також переконайтеся, що ваш API-ключ активний і не прострочений. Ми видаємо один активний ключ на акаунт, і генерація нового ключа миттєво замінює старий.

Поширені сценарії відмов

• Порушення жорсткого ліміту (контент з неповнолітніми).
• Невірний base_url або API-ключ.
• Неправильне тіло запиту.

Розуміння ліміту контекстного вікна на 100k

Ваш uncensored AI чат може обробляти загальну кількість 100,000 токенів як для запиту, так і для відповіді разом. Це велике вікно контексту дозволяє завантажувати обширну документацію або довгі історії розмов, не втрачаючи нитку оповіді. Однак ви повинні обережно керувати цим вікном, щоб уникнути досягнення ліміту під час розмови.

Коли вікно контексту майже заповнене, модель може почати забувати раніші частини розмови. Щоб пом’якшити це, розгляньте можливість обрізання старих повідомлень або їхнього узагальнення перед додаванням нових. Ідентифікатор моделі, який ви використовуєте, — це просто "uncensored", і вона працює на наших власних серверах, а не як проксі до іншого постачальника. Це забезпечує послідовну поведінку незалежно від довжини вхідних даних, доки ви залишаєтеся в межах 100k токенів.

Ефективне керування контекстом

• Відстежуйте використання токенів на повідомлення.
• Узагальнюйте старіші повідомлення, щоб заощадити місце.
• Моніторьте загальну кількість токенів у своєму клієнті.

Максимальна кількість токенів виводу: уникнення обрізаних відповідей

За замовчуванням модель генеруватиме до 2048 токенів за запит, якщо ви не вкажете значення max_tokens. Якщо ваша відповідь обрізана посередині речення, ймовірно, вам потрібно збільшити цей ліміт. Ви можете встановити max_tokens до 16000 токенів за запит, що є достатнім для більшості потреб у генерації довгого контенту.

Майте на увазі, що збільшення max_tokens також збільшує використання токенів і витрати. Оскільки розрахунок відбувається на основі фактично використаних токенів, довші відповіді коштуватимуть більше. Однак помилки та відмови є безкоштовними, тому ви платите лише за успішні завершення. Ця передоплачена модель означає, що ви можете експериментувати з більшими max_tokens, не хвилюючись про несподівані збори від сервісу підписки.

Встановлення max_tokens

• За замовчуванням: 2 048 токенів.
• Максимум: 16 000 токенів.
• Вартість: $0.50 за 1M вихідних токенів.

Правильна обробка SSE в потоковому та непотоковому режимах

Потокова передача через події, що надсилаються сервером (SSE), є критично важливою для плавного користувацького досвіду, особливо в інтерфейсах чату. API повертає токени по одному, дозволяючи відображати текст по мірі його генерації. Однак ви повинні правильно обробляти потік SSE, щоб не пропустити токени або неправильно інтерпретувати дані.

Кожна подія SSE містить фрагмент тексту, а останній фрагмент містить дані про використання токенів. Переконайтеся, що ваш клієнтський парсер може агрегувати ці фрагменти та витягувати статистику використання з останньої події. Якщо ви використовуєте стандартний OpenAI SDK, потокова передача зазвичай обробляється автоматично, але для власних реалізацій потрібна увага до протоколу SSE.

Найкращі практики потокової передачі

• Правильно розбирайте події SSE.
• Агрегуйте токени для відображення.
• Витягуйте дані про використання з фінального фрагмента.

Виклик функцій: забезпечення сумісності інструментів

Наш API підтримує виклик функцій, що дозволяє моделі генерувати структуровані дані, які можна використовувати для запуску зовнішніх інструментів. Це корисно для таких задач, як планування, отримання даних або виконання конкретних дій. Модель поверне об’єкт JSON, що містить назву функції та аргументи, які ваш клієнтський код може спарсити та виконати.

Переконайтеся, що ваші визначення функцій є точними і відповідають очікуваному формату вхідних даних. Модель може галюцинувати аргументи, якщо визначення функції неоднозначне. Ретельно протестуйте налаштування виклику функцій, щоб переконатися, що модель може надійно генерувати правильні виклики функцій. Пам'ятайте, що id моделі — "uncensored", і вона оптимізована для генерації точних і корисних викликів функцій без зайвих відмов.

Поради щодо виклику функцій

• Чітко визначте функції.
• Протестуйте генерацію аргументів.
• Обробляйте згенеровані аргументи.

Режим JSON: примусове використання суворих форматів виводу

Коли вам потрібно, щоб модель повертала сувато відформатований JSON, ви можете використовувати параметр response_format, встановлений у json_object. Цей режим забезпечує, що вивід є валідним JSON, що критично важливо для інтеграції моделі з іншими системами. Однак модель може все ще мати труднощі зі складними структурами JSON, якщо промпт не є чітким.

Використовуйте режим JSON, коли вам потрібен надійний вилучення даних або ви будуєте систему, яка залежить від конкретних JSON-схем. Ця функція особливо корисна для розробників, які хочуть уникнути помилок парсингу та переконатися, що вивід завжди є валідним. Модель підтримує цей режим разом з іншими параметрами, такими як temperature та top_p, що дозволяє вам тонко налаштовувати якість виводу.

Налаштування режиму JSON

• Встановіть response_format на json_object.
• Забезпечте чіткі промпти для структури.
• Перевірте вивід на відповідність.

Обмеження швидкості: управління одночасними запитами

API дозволяє 300 запитів за хвилину на ключ та до 8 паралельних запитів одночасно. Якщо ви перевищите ці ліміти, ви отримаєте помилку 429 Too Many Requests. Це важливо враховувати, якщо ви будуєте додаток з великим трафіком або запускаєте кілька екземплярів вашого клієнта.

Щоб ефективно керувати лімітами швидкості, реалізуйте експоненційне сповільнення (exponential backoff) у коді вашого клієнта. Це допоможе обробляти тимчасові піки трафіку, не перевантажуючи API. Ви також можете моніторити частоту запитів і відповідно налаштовувати параметри конкурентності. Пам’ятайте, що кожен ключ обмежений цими лімітами, тому якщо вам потрібна більша пропускна здатність, можливо, доведеться розподіляти запити між кількома ключами.

Стратегії лімітування

• Реалізуйте експоненційне сповільнення.
• Моніторьте частоту запитів.
• Розподіляйте запити між ключами.

Несподіванки в оплаті: передоплачений кредит проти підписки

Наша модель оплати передоплачна: ви поповнюєте рахунок криптовалютою та платите лише за використані токени. Це відрізняється від підписки, де ви сплачуєте фіксовану щомісячну суму незалежно від використання. Маючи передоплачний кредит, ви повністю контролюєте витрати, а помилки безкоштовні, тому ви платите лише за успішні завершення.

Поповнюючи рахунок, ви можете додати будь-яку цілу суму від $20 до $500 у USDT (TRC20) або USDC (Base). Ви також отримуєте бонусні кредити залежно від суми: +5% від $50, +10% від $100 та +15% від $200. Ці бонусні кредити ніколи не згорають, тому ви можете використовувати їх, коли вам це потрібно. Ця прозора модель билінгу допомагає уникнути несподіваних платежів і полегшує планування витрат на використання API.

Деталі оплати

• Передоплачений кредит, без підписки.
• Тільки криптовалюта: USDT або USDC.
• Бонусні кредити для більших поповнень.

Конфіденційність: Чи використовуються ваші запити для навчання?

Однією з ключових турбот багатьох розробників є те, чи використовуються їхні промпти для навчання. З нашим API ваші промпти не використовуються для навчання, що гарантує приватність ваших даних. Це особливо важливо для бізнесів, які обробляють чутливу інформацію або хочуть зберегти конфіденційність даних розмов.

Ви можете зареєструватися лише за адресою електронної пошти, номер телефону не потрібен. Таке мінімальне збирання даних ще більше підвищує вашу конфіденційність. Крім того, оскільки ми є незалежним сервісом, ми не передаємо ваші дані іншим постачальникам і не використовуємо їх для покращення інших моделей. Ваші запити використовуються виключно для генерації відповідей на ваші запити.

Особливості конфіденційності

• Промпти не використовуються для навчання.
• Мінімальний збір даних.
• Незалежний сервіс.