Problemen oplossen met ongecensureerde AI-chat: veelgemaakte fouten

Waarom je ongefilterde LLM nog steeds verzoeken weigert

De meest voorkomende reden waarom een uncensored LLM een verzoek lijkt te weigeren, is geen content filter, maar een client-side fout. Ons model is afgestemd om zonder contentweigeringen te antwoorden voor wettelijk volwassen gebruik, maar het respecteert nog steeds de harde contentlimiet: seksuele inhoud met minderjarigen wordt altijd geweigerd. Als je een weigering ziet, controleer dan het response body op een foutcode of een specifieke weigermelding in plaats van ervan uit te gaan dat het model defect is.

Een ander veelvoorkomend probleem is de base_url-configuratie. Als je migreert van een andere provider, zorg er dan voor dat je wijst naar https://api.unrestrictedgptchat.com/v1. Een verkeerde base_url resulteert in een 404- of 401-fout, wat eruitziet als een weigering maar eigenlijk een connectiviteitsprobleem is. Controleer ook of je API-sleutel actief is en niet verlopen is. We geven één actieve sleutel per account, en het genereren van een nieuwe sleutel vervangt de oude onmiddellijk.

Veelvoorkomende weigeringsscenario's

• Overtreding van harde limiet (minderjarigeninhoud).
• Ongeldige base_url of API-sleutel.
• Ongeldige request body.

De limiet van het 100k-contextvenster begrijpen

Je ongecensureerde AI-gesprekssessie kan in totaal 100.000 tokens aan voor zowel de prompt als de voltooiing samen. Dit grote contextvenster stelt je in staat uitgebreide documentatie of lange gespreksgeschiedenissen te voeden zonder het verhaal kwijt te raken. Je moet dit venster echter zorgvuldig beheren om te voorkomen dat je de limiet tijdens het gesprek bereikt.

Wanneer het contextvenster bijna vol is, kan het model beginnen met het vergeten van eerdere delen van het gesprek. Om dit te mitigeren, kunt u overwegen oudere berichten te knippen of samen te vatten voordat u nieuwe toevoegt. De model id die u gebruikt is eenvoudigweg "uncensored", en het draait op onze eigen servers, niet als proxy voor een andere leverancier. Dit zorgt voor consistent gedrag ongeacht de invoerlengte, zolang u binnen de 100k token-grens blijft.

Context efficiënt beheren

• Volg tokengebruik per bericht.
• Vat oudere berichten samen om ruimte te besparen.
• Monitor het totale tokenaantal in je client.

Maximale uitvoertokens: voorkomen van afgekapt antwoord

Standaard genereert het model maximaal 2.048 tokens per verzoek als u geen max_tokens-waarde opgeeft. Als uw antwoord halverwege een zin wordt afgekapt, moet u deze limiet waarschijnlijk verhogen. U kunt max_tokens instellen tot 16.000 tokens per verzoek, wat voldoende is voor de meeste behoeften voor het genereren van lange teksten.

Houd er rekening mee dat het verhogen van max_tokens ook je tokenverbruik en kosten verhoogt. Omdat de facturatie gebaseerd is op daadwerkelijk gebruikte tokens, kosten langere antwoorden meer. Fouten en weigeringen zijn echter gratis, dus je betaalt alleen voor succesvolle voltooiingen. Dit prepaid-model betekent dat je kunt experimenteren met hogere max_tokens zonder je zorgen te maken over onverwachte kosten van een abonnementsdienst.

max_tokens instellen

• Standaard: 2.048 tokens.
• Maximaal: 16.000 tokens.
• Kosten: $0.50 per 1M outputtokens.

Streaming vs. niet-streaming: SSE correct verwerken

Streaming via Server-Sent Events (SSE) is essentieel voor een soepele gebruikerservaring, vooral in chatinterfaces. De API retourneert tokens één voor één, waardoor je tekst kunt weergeven terwijl deze wordt gegenereerd. Je moet de SSE-stream echter correct verwerken om te voorkomen dat tokens worden gemist of dat de data verkeerd wordt geïnterpreteerd.

Elk SSE-gebeurtenis bevat een tekstfragment, en het laatste fragment bevat de tokenverbruiksgegevens. Zorg ervoor dat je client-side parser deze fragmenten kan aggregeren en de verbruiksstatistieken uit het laatste gebeurtenis kan extraheren. Als je een standaard OpenAI SDK gebruikt, wordt streamen meestal automatisch afgehandeld, maar bij aangepaste implementaties moet je zorgvuldig letten op het SSE-protocol.

Beste praktijken voor streaming

• Parseer SSE-gebeurtenissen correct.
• Tokens aggregeren voor weergave.
• Haal gebruikgegevens op uit het laatste chunk.

Function calling: zorgen voor tool-compatibiliteit

Onze API ondersteunt functaanroepen, waardoor het model gestructureerde gegevens kan genereren die kunnen worden gebruikt om externe tools te activeren. Dit is nuttig voor taken zoals plannen, gegevensopvragen of het uitvoeren van specifieke acties. Het model retourneert een JSON-object met de functienaam en argumenten, die je clientcode vervolgens kan parseren en uitvoeren.

Zorg dat je functie-definities accuraat zijn en overeenkomen met het verwachte invoerformaat. Het model kan hallucinaties genereren als de functie-definitie ambigu is. Test je function calling-setup grondig om te verzekeren dat het model betrouwbaar de juiste functie-aanroepen kan genereren. Onthoud dat de model id "uncensored" is en geoptimaliseerd is voor het genereren van accurate en nuttige functie-aanroepen zonder onnodige weigeringen.

Tips voor function calling

• Definieer functies duidelijk.
• Test argumentgeneratie.
• Verwerk gehallucineerde argumenten.

JSON-modus: afdwingen van strikte uitvoerformaten

Wanneer je wilt dat het model strikt geformatteerde JSON retourneert, kun je de parameter response_format instellen op json_object. Deze modus afdwingt dat de uitvoer geldige JSON is, wat cruciaal is voor het integreren van het model met andere systemen. Het model kan echter nog steeds moeite hebben met complexe JSON-structuren als de prompt niet duidelijk is.

Gebruik JSON-modus wanneer u betrouwbare gegevensextractie nodig heeft of wanneer u een systeem bouwt dat afhankelijk is van specifieke JSON-schema's. Deze functie is met name nuttig voor ontwikkelaars die parseringsfouten willen vermijden en ervoor willen zorgen dat de uitvoer altijd geldig is. Het model ondersteunt deze modus samen met andere parameters zoals temperatuur en top_p, zodat u de uitvoerkwaliteit kunt fijnafstellen.

Instellingen voor JSON-modus

• Stel response_format in op json_object.
• Zorg ervoor voor duidelijke prompts voor structuur.
• Output valideren op naleving.

Rate limits: gelijktijdige verzoeken beheren

De API staat 300 verzoeken per minuut per sleutel en maximaal 8 gelijktijdige verzoeken tegelijk toe. Als je deze limieten overschrijdt, ontvang je een 429 Too Many Requests-fout. Dit is belangrijk om te overwegen als je een applicatie met hoog verkeer bouwt of meerdere instanties van je client draait.

Om rate limits effectief te beheren, implementeer je exponentiële backoff in je clientcode. Dit helpt je tijdelijke pieken in het verkeer af te handelen zonder de API te overbelasten. Je kunt ook je aanvraagtarief monitoren en je concurrency-instellingen daarop aanpassen. Onthoud dat elke sleutel aan deze tarieven is gebonden; als je een hogere doorvoer nodig hebt, moet je mogelijk aanvragen over meerdere sleutels verdelen.

Rate limit strategies

• Implementeer exponentiële backoff.
• Monitor de verzoekfrequentie.
• Verdeel verzoeken over sleutels.

Factureringsverrassingen: prepaid tegoed vs. abonnementen

Ons facturatiemodel is prepaid, wat betekent dat je je account oplaadt met crypto en alleen betaalt voor de tokens die je gebruikt. Dit verschilt van een abonnementsmodel waarbij je een vast maandbedrag betaalt, ongeacht het gebruik. Met prepaid tegoed heb je volledige controle over je uitgaven, en fouten zijn gratis, dus je betaalt alleen voor succesvolle voltooiingen.

Wanneer je laadt, kun je elk willekeurig heel bedrag van $20 tot $500 toevoegen in USDT (TRC20) of USDC (Base). Je krijgt ook bonuscredits afhankelijk van het bedrag: +5% vanaf $50, +10% vanaf $100 en +15% vanaf $200. Deze bonuscredits vervallen nooit, dus je kunt ze gebruiken wanneer je ze nodig hebt. Dit transparante facturatiemodel helpt je onverwachte kosten te vermijden en maakt het eenvoudig om je API-gebruik te budgetteren.

Facturatiegegevens

• Voorafbetaald krediet, geen abonnement.
• Alleen crypto: USDT of USDC.
• Bonuscredit voor hogere opwaarderingen.

Privacy: worden uw prompts gebruikt voor training?

Eén van de belangrijkste zorgen voor veel ontwikkelaars is of hun prompts worden gebruikt voor training. Met onze API worden je prompts niet gebruikt voor training, waardoor je data privé blijft. Dit is vooral belangrijk voor bedrijven die gevoelige informatie verwerken of hun conversatiedata veilig willen houden.

Je kunt je aanmelden met alleen een e-mailadres, er is geen telefoonnummer nodig. Deze minimale gegevensverzameling versterkt je privacy verder. Omdat we een onafhankelijke dienst zijn, delen we je gegevens niet met andere leveranciers en gebruiken we ze niet om andere modellen te verbeteren. Je prompts worden uitsluitend gebruikt om antwoorden te genereren voor je verzoeken.

Privacyfuncties

• Prompts niet gebruikt voor training.
• Minimale gegevensverzameling.
• Onafhankelijke service.