Řešení chatu AI bez filtrů: časté chyby

Proč vaše LLM bez omezení stále odmítá požadavky

Nejčastějším důvodem, proč se LLM bez cenzury jeví jako odmítající požadavek, není filtr obsahu, ale chyba na straně klienta. Náš model je laděn tak, aby odpovídal bez odmítání obsahu pro legální použití pro dospělé, ale stále respektuje tvrdý limit obsahu: sexuální obsah zahrnující nezletilé je vždy odmítán. Pokud vidíte odmítnutí, zkontrolujte tělo odpovědi na chybový kód nebo specifickou zprávu o odmítnutí, místo abyste předpokládali, že je model vadný.

Dalším častým problémem je konfigurace base_url. Pokud migrujete od jiného poskytovatele, ujistěte se, že směřujete na https://api.unrestrictedgptchat.com/v1. Nesouladující base_url povede k chybě 404 nebo 401, což vypadá jako odmítnutí, ale ve skutečnosti je to problém s připojením. Také ověřte, že váš API klíč je aktivní a nevypršel. Issujeme jeden aktivní klíč na účet a vygenerování nového klíče okamžitě nahradí ten starý.

Běžné scénáře odmítnutí

• Porušení pevného limitu (obsah nezletilých).
• Neplatná základní_url nebo klíč API.
• Neplatné tělo požadavku.

Limit kontextového okna o velikosti 100k

Relace chatu API bez omezení může zpracovat celkem 100 000 tokenů pro prompt i dokončení dohromady. Toto velké okno kontextu vám umožňuje načíst rozsáhlou dokumentaci nebo dlouhé historie konverzací bez ztráty sledování příběhu. Musíte však toto okno pečlivě spravovat, abyste se vyhnuli dosažení limitu uprostřed konverzace.

Když se kontextové okno téměř naplní, může model začít zapomínat starší části konverzace. Abychom tomu předešli, zvažte oříznutí starších zpráv nebo jejich shrnutí před přidáním nových. Použitý model id je prostě „uncensored“ a běží na našich vlastních serverech, nikoliv jako proxy k jinému dodavateli. To zajišťuje konzistentní chování bez ohledu na délku vstupu, dokud zůstanete v mezích 100 000 tokenů.

Efektivní správa kontextu

• Sledujte využití tokenů na zprávu.
• Shrň starší zprávy pro úsporu místa.
• Sledujte celkový počet tokenů ve vašem klientovi.

Maximální počet tokenů: vyhýbání se zkráceným odpovědím

Ve výchozím nastavení model vygeneruje až 2 048 tokenů na požadavek, pokud nezadáte hodnotu max_tokens. Pokud je vaše odpověď přerušena uprostřed věty, pravděpodobně budete muset tento limit zvýšit. Hodnotu max_tokens můžete nastavit až na 16 000 tokenů na požadavek, což je dostatečné pro většinu potřeb generování delších textů.

"Mějte na paměti, že zvýšení max_tokens také zvyšuje spotřebu tokenů a náklady. Protože fakturace je založena na skutečně použitých tocnech, delší odpovědi budou stát více. Chyby a odmítnutí jsou však zdarma, takže platíte pouze za úspěšná dokončení. Tento předplacený model znamená, že můžete experimentovat s vyššími hodnotami max_tokens bez obavy z neočekávaných poplatků od předplatné služby."

Nastavení max_tokens

• Výchozí: 2 048 tokenů.
• Maximum: 16 000 tokenů.
• Cena: $0.50 za 1M výstupních tokenů.

Streamování vs. nestreamování: Správné zpracování SSE

Streamování přes Server-Sent Events (SSE) je klíčové pro plynulý uživatelský zážitek, zejména v chatových rozhraních. API vrací tokeny jeden po druhém, což vám umožňuje zobrazovat text ihned po jeho vygenerování. Musíte však stream SSE správně zpracovat, abyste přišli o tokeny nebo nesprávně interpretovali data.

Každá událost SSE obsahuje kus textu a poslední kus obsahuje data o využití tokenů. Ujistěte se, že váš klient na straně klienta dokáže tyto kusy agregovat a extrahovat statistiky využití z poslední události. Pokud používáte standardní OpenAI SDK, streamování je obvykle řešeno automaticky, ale vlastní implementace vyžadují pečlivou pozornost k protokolu SSE.

Nejlepší praktiky streamování

• Správné parsování událostí SSE.
• Agregujte tokeny pro zobrazení.
• Extrahujte využití z finálního chunku.

Volání funkcí: zajištění kompatibility nástrojů

Naše API podporuje volání funkcí, což umožňuje modelu generovat strukturovaná data, která lze použít k vyvolání externích nástrojů. To je užitečné pro úkoly, jako je plánování, získávání dat nebo provádění specifických akcí. Model vrátí JSON objekt obsahující název funkce a argumenty, které může váš klientský kód parsovat a provést.

Zajistěte, že vaše definice funkcí jsou přesné a odpovídají očekávanému formátu vstupu. Model může halucinovat argumenty, pokud je definice funkce nejednoznačná. Důkladně otestujte nastavení volání funkcí, abyste zajistili, že model může spolehlivě generovat správná volání funkcí. Pamatujte, že model id je "uncensored" a je optimalizován pro generování přesných a užitečných volání funkcí bez zbytečných odmítnutí.

Tipy pro volání funkcí

• Definujte funkce jasně.
• Otestujte generování argumentů.
• Zvládněte halucinované argumenty.

Režim JSON: vynucuje přísné formáty výstupu

Když chcete, aby model vrátil striktně formátovaný JSON, můžete použít parametr response_format nastavený na json_object. Tento režim vynucuje, aby byl výstup platným JSON, což je zásadní pro integraci modelu s jinými systémy. Model se však může stále potýkat se složitými strukturami JSON, pokud prompt není jasný.

Použijte režim JSON, když potřebujete spolehlivé extrahování dat nebo když vytváříte systém, který závisí na konkrétních schématech JSON. Tato funkce je zvláště užitečná pro vývojáře, kteří chtějí vyhnout se chybám při parsování a zajistit, že výstup je vždy platný. Model podporuje tento režim spolu s dalšími parametry, jako je teplota a top_p, což vám umožňuje jemně ladit kvalitu výstupu.

Nastavení režimu JSON

• Nastavte response_format na json_object.
• Zajistěte jasné prompty pro strukturu.
• Ověřte výstup pro soulad s předpisy.

Omezení rychlosti: řízení souběžných požadavků

API umožňuje 300 požadavků za minutu na klíč a až 8 souběžných požadavků najednou. Pokud tyto limity překročíte, obdržíte chybu 429 Too Many Requests. Je to důležité zvážit, pokud vytváříte aplikaci s vysokou návštěvností nebo spouštíte více instancí svého klienta.

Pro efektivní správu limitů rychlosti implementujte v kódu klienta exponenciální zpětné zpoždění. Pomůže to zvládat dočasné špičky provozu bez přetížení API. Můžete také sledovat rychlost požadavků a příslušně upravit nastavení souběžnosti. Pamatujte, že každý klíč má tyto limity, takže pokud potřebujete vyšší propustnost, budete možná muset rozdělit požadavky mezi více klíčů.

Strategie limitu rychlosti

• Implementujte exponenciální zpomalování.
• Sledujte rychlost požadavků.
• Rozložte požadavky mezi klíče.

Překvapení při fakturaci: předplacený kredit vs. předplatné

Náš fakturační model je předplacený, což znamená, že si účet doplníte pomocí kryptoměn a platíte pouze za využité tokeny. Liší se to od modelu předplatného, kde platíte fixní měsíční poplatek bez ohledu na využití. S předplaceným kreditem máte plnou kontrolu nad výdaji a chyby jsou zdarma, takže platíte pouze za úspěšné dokončení.

Při dobíjení můžete přidat libovolnou celou částku od $20 do $500 v USDT (TRC20) nebo USDC (Base). Zároveň získáte bonusový kredit v závislosti na výši: +5 % od $50, +10 % od $100 a +15 % od $200. Tento bonusový kredit nevyprší, takže jej můžete použít kdykoli budete potřebovat. Tento transparentní model fakturace vám pomůže vyhnout se neočekávaným poplatkům a usnadní plánování nákladů na používání API.

Podrobnosti o fakturaci

• Předplacený kredit, bez předplatného.
• Pouze kryptoměny: USDT nebo USDC.
• Bonusový kredit pro větší dobíjení.

Ochrana soukromí: Používají se vaše prompty pro trénování?

Jednou z hlavních obav mnoha vývojářů je, zda jsou jejich prompty používány k trénování. S naší API nejsou vaše prompty používány k trénování, což zajišťuje, že vaše data zůstávají soukromá. To je zvláště důležité pro firmy, které zpracovávají citlivé informace nebo si chtějí udržet data konverzací v bezpečí.

Můžete se zaregrovat pouze pomocí e-mailové adresy a není vyžadováno telefonní číslo. Toto minimální sbírání dat dále zvyšuje vaše soukromí. Kromě toho, protože jsme nezávislá služba, nesdílíme vaše data s jinými poskytovateli ani je nepoužíváme ke zlepšování jiných modelů. Vaše podněty jsou použity výhradně k generování odpovědí na vaše požadavky.

Funkce ochrany soukromí

• Prompty nejsou používána k trénování.
• Minimální sběr dat.
• Nezávislá služba.