Solução de problemas de chat de IA sem censura: Erros comuns

Por que seu LLM sem censura ainda está recusando solicitações

A razão mais comum para um LLM sem censura parecer recusar uma solicitação não é um filtro de conteúdo, mas um erro do lado do cliente. Nosso modelo é ajustado para responder sem recusas de conteúdo para uso adulto legal, mas ainda respeita o limite rígido de conteúdo: conteúdo sexual envolvendo menores é sempre recusado. Se você vir uma recusa, verifique o corpo da resposta para um código de erro ou uma mensagem de recusa específica em vez de assumir que o modelo está quebrado.

Outro problema frequente é a configuração do base_url. Se você está migrando de outro provedor, certifique-se de apontar para https://api.unrestrictedgptchat.com/v1. Um base_url incompatível resultará em um erro 404 ou 401, que parece ser uma recusa, mas na verdade é um problema de conectividade. Além disso, verifique se sua chave de API está ativa e não expirada. Emitimos uma chave ativa por conta, e gerar uma nova chave substitui a antiga imediatamente.

Cenários comuns de recusa

• Violação de limite rígido (conteúdo envolvendo menores).
• base_url ou chave de API inválidos.
• Corpo da solicitação malformado.

Compreendendo o limite da janela de contexto de 100k

Sua sessão de chat de IA sem censura pode lidar com um total de 100.000 tokens para o prompt e a conclusão combinados. Esta janela de contexto grande permite que você alimente documentação extensa ou históricos de conversas longas sem perder o rastro da narrativa. No entanto, você deve gerenciar essa janela cuidadosamente para evitar atingir o limite no meio da conversa.

Quando a janela de contexto estiver quase cheia, o modelo pode começar a esquecer partes anteriores da conversa. Para mitigar isso, considere truncar mensagens mais antigas ou resumi-las antes de adicionar novas. O id do modelo que você usa é simplesmente "uncensored", e ele roda em nossos próprios servidores, não como proxy para outro fornecedor. Isso garante comportamento consistente independentemente do comprimento da entrada, desde que você permaneça dentro do limite de 100k tokens.

Gerenciamento eficiente de contexto

• Acompanhe o uso de tokens por mensagem.
• Resuma mensagens mais antigas para economizar espaço.
• Monitore a contagem total de tokens no seu cliente.

Tokens de saída máximos: evitando respostas truncadas

Por padrão, o modelo gerará até 2.048 tokens por solicitação se você não especificar um valor para max_tokens. Se sua resposta for cortada no meio da frase, provavelmente você precisa aumentar esse limite. Você pode definir max_tokens até 16.000 tokens por solicitação, o que é suficiente para a maioria das necessidades de geração de conteúdo longo.

Lembre-se de que aumentar o max_tokens também aumenta o uso de tokens e o custo. Como o faturamento é baseado em tokens realmente usados, respostas mais longas custarão mais. No entanto, erros e recusas são gratuitos, então você só paga por conclusões bem-sucedidas. Esse modelo pré-pago significa que você pode experimentar com max_tokens mais altos sem se preocupar com cobranças inesperadas de um serviço de assinatura.

Definindo max_tokens

• Padrão: 2.048 tokens.
• Máximo: 16.000 tokens.
• Custo: $0,50 por 1M de tokens de saída.

Streaming vs. não streaming: manipulação correta do SSE

O streaming via Server-Sent Events (SSE) é essencial para uma experiência de usuário fluida, especialmente em interfaces de chat. A API retorna tokens um por um, permitindo que você exiba o texto conforme é gerado. No entanto, você deve processar o stream SSE corretamente para evitar perder tokens ou interpretar os dados incorretamente.

Cada evento SSE contém um fragmento de texto, e o fragmento final inclui os dados de uso de tokens. Certifique-se de que seu analisador no lado do cliente possa agregar esses fragmentos e extrair as estatísticas de uso do último evento. Se você estiver usando um SDK padrão da OpenAI, o streaming geralmente é tratado automaticamente, mas implementações personalizadas exigem atenção cuidadosa ao protocolo SSE.

Melhores práticas de streaming

• Analise eventos SSE corretamente.
• Agregue tokens para exibição.
• Extraia dados de uso do chunk final.

Chamada de função: garantindo compatibilidade de ferramentas

Nossa API suporta chamada de funções, permitindo que o modelo gere dados estruturados que podem ser usados para acionar ferramentas externas. Isso é útil para tarefas como agendamento, recuperação de dados ou execução de ações específicas. O modelo retornará um objeto JSON contendo o nome da função e os argumentos, que o código do cliente pode então analisar e executar.

Garanta que suas definições de função sejam precisas e correspondam ao formato de entrada esperado. O modelo pode alucinar argumentos se a definição da função for ambígua. Teste sua configuração de chamada de função minuciosamente para garantir que o modelo possa gerar chamadas de função corretas de forma confiável. Lembre-se de que o id do modelo é "uncensored" e ele é otimizado para gerar chamadas de função precisas e úteis sem recusas desnecessárias.

Dicas para chamadas de função

• Defina funções claramente.
• Teste geração de argumentos.
• Trate argumentos alucinados.

Modo JSON: impondo formatos de saída estritos

Quando você precisa que o modelo retorne JSON estritamente formatado, você pode usar o parâmetro response_format definido como json_object. Este modo garante que a saída seja JSON válido, o que é crucial para integrar o modelo com outros sistemas. No entanto, o modelo ainda pode ter dificuldade com estruturas JSON complexas se o prompt não estiver claro.

Use o modo JSON quando precisar de extração de dados confiável ou estiver construindo um sistema que dependa de esquemas JSON específicos. Este recurso é particularmente útil para desenvolvedores que desejam evitar erros de análise e garantir que a saída seja sempre válida. O modelo suporta este modo junto com outros parâmetros como temperatura e top_p, permitindo que você ajuste a qualidade da saída.

Configurações do modo JSON

• Defina response_format para json_object.
• Garanta prompts claros para estrutura.
• Valide a saída quanto à conformidade.

Limites de taxa: gerenciando solicitações concorrentes

A API permite 300 solicitações por minuto por chave e até 8 solicitações concorrentes ao mesmo tempo. Se você exceder esses limites, receberá um erro 429 Too Many Requests. Isso é importante a considerar se você está construindo um aplicativo de alto tráfego ou executando várias instâncias do seu cliente.

Para gerenciar os limites de taxa de forma eficaz, implemente backoff exponencial no código do seu cliente. Isso ajudará a lidar com picos temporários de tráfego sem sobrecarregar a API. Você também pode monitorar sua taxa de solicitações e ajustar suas configurações de concorrência conforme necessário. Lembre-se de que cada chave está limitada a essas taxas, portanto, se precisar de maior capacidade de processamento, poderá ser necessário distribuir as solicitações entre várias chaves.

Estratégias de limite de taxa

• Implemente backoff exponencial.
• Monitore a taxa de solicitação.
• Distribuir as solicitações entre as chaves.

Surpresas no faturamento: crédito pré-pago vs. assinaturas

Nosso modelo de cobrança é pré-pago, o que significa que você recarrega sua conta com criptomoedas e paga apenas pelos tokens que utiliza. Isso é diferente de um modelo de assinatura, onde você paga uma taxa mensal fixa independentemente do uso. Com o crédito pré-pago, você tem controle total sobre seus gastos, e erros são gratuitos, então você paga apenas por conclusões bem-sucedidas.

Ao fazer um depósito, você pode adicionar qualquer valor inteiro de $20 a $500 em USDT (TRC20) ou USDC (Base). Você também recebe crédito bônus dependendo do valor: +5% a partir de $50, +10% a partir de $100 e +15% a partir de $200. Esse crédito bônus nunca expira, então você pode usá-lo sempre que precisar. Este modelo de faturamento transparente ajuda você a evitar cobranças inesperadas e facilita o orçamento do uso da API.

Detalhes de Cobrança

• Crédito pré-pago, sem assinatura.
• Apenas cripto: USDT ou USDC.
• Crédito bônus para recargas maiores.

Privacidade: seus prompts são usados para treinamento?

Uma das principais preocupações para muitos desenvolvedores é se seus prompts são usados para treinamento. Com nossa API, seus prompts não são usados para treinamento, garantindo que seus dados permaneçam privados. Isso é particularmente importante para empresas que lidam com informações sensíveis ou querem manter os dados de conversa seguros.

Você pode se cadastrar apenas com um endereço de e-mail, e nenhum número de telefone é necessário. Essa coleta mínima de dados aprimora ainda mais sua prividade. Além disso, como somos um serviço independente, não compartilhamos seus dados com outros fornecedores nem os usamos para melhorar outros modelos. Seus prompts são usados exclusivamente para gerar respostas para suas solicitações.

Recursos de privacidade

• Prompts não são usados para treinamento.
• Coleta mínima de dados.
• Serviço independente.