Fejlfinding af almindelige fejl med uncensored AI-chat

Hvorfor din ubegrænsede LLM stadig afviser anmodninger

Den mest almindelige årsag til, at en uncensored LLM tilsyneladende afviser en anmodning, er ikke et indholdsfilter, men en client-side fejl. Vores model er finjustet til at svare uden indholdsafvisninger for lovligt voksent brug, men den respekterer stadig den hårde indholdsbegrænsning: seksuelt indhold, der involverer mindreårige, afvises altid. Hvis du ser en afvisning, skal du tjekke response body for en fejlkode eller en specifik afvisningsmeddelelse frem for at antage, at modellen er defekt.

Et andet almindeligt problem er base_url-konfigurationen. Hvis du migrerer fra en anden udbyder, skal du sikre dig, at du peger på https://api.unrestrictedgptchat.com/v1. En forkert base_url vil resultere i en 404- eller 401-fejl, som ser ud som en afvisning, men faktisk er et forbindelsesproblem. Verificer også, at din API-nøgle er aktiv og ikke udløbet. Vi udsteder én aktiv nøgle pr. konto, og generering af en ny nøgle erstatter den gamle øjeblikkeligt.

Almindelige afvisningsscenarier

• Overtrædelse af hård grænse (indhold med mindreårige).
• Ugyldig base_url eller API-nøgle.
• Ugyldig anmodningskrop.

Forståelse grænsen for 100k kontekstvinduet

Din uncensored AI-chat-session kan håndle et samlet antal på 100.000 tokens for både prompt og completion kombineret. Dette store kontekstvindue giver dig mulighed for at indlæse omfattende dokumentation eller lange samtalehistorier uden at miste overblikket over fortællingen. Du skal dog håndtere dette vindue omhyggeligt for at undgå at ramme grænsen midt i en samtale.

Når kontekstvinduet næsten er fyldt, kan modellen begynde at glemme tidligere dele af samtalen. For at modvirke dette kan du overveje at forkorte ældre beskeder eller opsummere dem, før du tilføjer nye. Model-id'et, du bruger, er blot "uncensored", og det kører på vores egne servere, ikke som en proxy til en anden udbyder. Dette sikrer konsistent adfærd uanset input-længden, så længe du holder dig inden for 100k-token-grænsen.

Effektiv håndtering af kontekst

• Spor tokenforbrug pr. besked.
• Opsummer ældre beskeder for at spare plads.
• Overvåg det samlede tokenantal i din klient.

Maks. output tokens: undgå afkortede svar

Som standard vil modellen generere op til 2.048 tokens pr. anmodning, hvis du ikke angiver en max_tokens-værdi. Hvis dit svar bliver afbrudt midt i en sætning, skal du sandsynligvis øge denne grænse. Du kan indstille max_tokens op til 16.000 tokens pr. anmodning, hvilket er tilstrækkeligt til de fleste behov til generering af langt indhold.

Husk på, at øget max_tokens også øger dit tokenforbrug og din omkostning. Da faktureringen baseres på faktiske tokens brugt, vil længere svar koste mere. Fejl og afslag er dog gratis, så du betaler kun for succesfulde gennemførelser. Denne forudbetalte model betyder, at du kan eksperimentere med højere max_tokens uden at bekymre dig om uventede gebyrer fra en abonnementstjeneste.

Indstilling af max_tokens

• Standard: 2.048 tokens.
• Maksimalt: 16.000 tokens.
• Pris: $0,50 pr. 1M output-tokens.

Streaming vs. non-streaming: korrekt håndtering af SSE

Streaming via Server-Sent Events (SSE) er essentiel for en jævn brugeroplevelse, især i chatgrænseflader. API'et returnerer tokens én ad gangen, hvilket giver dig mulighed for at vise tekst, mens den genereres. Du skal dog håndtere SSE-streamet korrekt for at undgå at gå glip af tokens eller misfortolke dataene.

Hver SSE-hbegivenhed indeholder en tekstchunk, og den sidste chunk indeholder tokenbrugsdata. Sørg for, at din klient-side parser kan aggregere disse chunks og udtrække brugsstatistikkerne fra den sidste begivenhed. Hvis du bruger en standard OpenAI SDK, håndteres streaming normalt automatisk, men tilpasninger kræver omhyggelig opmærksomhed på SSE-protokollen.

Bedste praksis for streaming

• Parser SSE-hændelser korrekt.
• Aggreger tokens til visning.
• Udtræk forbrug fra den sidste chunk.

Funktionsskald: sikring af tool-kompatibilitet

Vores API understøtter function calling, hvilket giver modellen mulighed for at generere strukturerede data, der kan bruges til at udløse eksterne tools. Dette er nyttigt til opgaver som planlægning, datahentning eller eksekvering af specifikke handlinger. Modellen vil returnere et JSON-objekt indeholdende funktionsnavn og argumenter, som din klientkode derefter kan parse og eksekvere.

Sørg for, at dine funktionsdefinitioner er nøjagtige og matcher det forventede inputformat. Modellen kan hallucinere argumenter, hvis funktionsdefinitionen er tvetydig. Test din funktionskaldopsætning grundigt for at sikre, at modellen kan generere de korrekte funktionskald pålideligt. Husk, at model-id er "uncensored", og den er optimeret til at generere nøjagtige og nyttige funktionskald uden unødvendige afvisninger.

Tips til function calling

• Definer funktioner tydeligt.
• Test argumentgenerering.
• Håndter hallucinerede argumenter.

JSON-tilstand: håndhæver strenge output-formater

Når du vil have, at modellen returnerer strengt formateret JSON, kan du bruge response_format-parameteren indstillet til json_object. Denne tilstand sikrer, at outputtet er gyldig JSON, hvilket er afgørende for at integrere modellen med andre systemer. Modellen kan dog stadig have svært ved komplekse JSON-strukturer, hvis prompten ikke er klar.

Brug JSON-tilstand, når du har brug for pålidelig dataudtrækning, eller når du bygger et system, der afhænger af specifikke JSON-skemaer. Denne funktion er særligt nyttig for udviklere, der ønsker at undgå parsefejl og sikre, at outputtet altid er gyldigt. Modellen understøtter denne tilstand sammen med andre parametre som temperature og top_p, hvilket giver dig mulighed for at finjustere outputkvaliteten.

JSON-tilstand indstillinger

• Indstil response_format til json_object.
• Sikr klare prompts til struktur.
• Valider output for overholdelse.

Rate limits: Håndtering af samtidige anmodninger

API'en tillader 300 anmodninger i minuttet per nøgle og op til 8 samtidige anmodninger ad gangen. Hvis du overskrider disse grænser, modtager du en 429 Too Many Requests-fejl. Dette er vigtigt at overveje, hvis du bygger en højtrafik-applikation eller kører flere instanser af din klient.

For at håndtere rate limits effektivt skal du implementere eksponentiel backoff i din klientkode. Dette hjælper dig med at håndtere midlertidige trafiktoppe uden at overbelaste API'et. Du kan også overvåge din anmodningshastighed og justere dine concurrency-indstillinger derefter. Husk, at hver nøgle er begrænset til disse satser, så hvis du har brug for højere throughput, skal du muligvis fordele anmodninger på tværs af flere nøgler.

Strategier til rate limit

• Implementer eksponentiel backoff.
• Overvåg anmodningshastighed.
• Fordel anmodninger på tværs af nøgler.

Faktureringsoverraskelser: forudbetalt kredit vs. abonnementer

Vores faktureringsmodel er forudbetalt, hvilket betyder, at du toppede op på din konto med krypto og kun betaler for de tokens, du bruger. Dette adskiller sig fra en abonnementsmodel, hvor du betaler et fast månedligt gebyr uanset forbrug. Med forudbetalt kredit har du fuld kontrol over dine udgifter, og fejl er gratis, så du kun betaler for succesfulde gennemførelser.

Når du toppede op, kan du tilføje ethvert heltal fra $20 til $500 i USDT (TRC20) eller USDC (Base). Du får også bonuskredit afhængigt af beløbet: +5% fra $50, +10% fra $100 og +15% fra $200. Denne bonuskredit udløber aldrig, så du kan bruge den, når du har brug for det. Denne gennemsigtige faktureringsmodel hjælper dig med at undgå uventede gebyrer og gør det nemt at budgettere dit API-forbrug.

Faktureringdetaljer

• Forudbet kredit, ingen abonnement.
• Kun krypto: USDT eller USDC.
• Bonuskredit til større opladninger.

Privatliv: bruges dine prompts til træning?

En af de vigtigste bekymringer for mange udviklere er, hvorvidt deres prompts bruges til træning. Med vores API bruges dine prompts ikke til træning, hvilket sikrer, at dine data forbliver private. Dette er særligt vigtigt for virksomheder, der håndterer følsomme oplysninger, eller som ønsker at holde deres samtaledata sikre.

Du kan tilmelde dig med blot en e-mailadresse, og der kræves ikke et telefonnummer. Denne minimale dataindsamling styrker yderligere din privatliv. Da vi er en uafhængig tjeneste, deler vi ikke dine data med andre udbydere eller bruger dem til at forbedre andre modeller. Dine prompts bruges udelukkende til at generere svar på dine anmodninger.

Privatlivsfunktioner

• Prompts bruges ikke til træning.
• Minimal dataindsamling.
• Uafhængig tjeneste.