Pemecahan Masalah Chat AI Tanpa Sensor: Kesalahan Umum

Mengapa LLM tanpa sensor Anda masih menolak permintaan

Alasan paling umum mengapa LLM uncensored tampaknya menolak permintaan bukanlah filter konten, tetapi kesalahan sisi klien. Model kami disesuaikan untuk menjawab tanpa penolakan konten untuk penggunaan dewasa yang sah, tetapi model ini masih menghormati batas konten keras: konten seksual yang melibatkan anak di bawah umur selalu ditolak. Jika Anda melihat penolakan, periksa badan respons untuk kode error atau pesan penolakan spesifik daripada mengasumsikan model rusak.

Masalah lain adalah konfigurasi base_url. Jika Anda bermigrasi dari penyedia lain, pastikan Anda mengarahkan ke https://api.unrestrictedgptchat.com/v1. Kesalahan pada base_url akan menghasilkan kesalahan 404 atau 401, yang terlihat seperti penolakan tetapi sebenarnya adalah masalah konektivitas. Selain itu, verifikasi bahwa kunci API Anda aktif dan tidak kedaluwarsa. Kami menerbitkan satu kunci aktif per akun, dan menghasilkan kunci baru akan menggantikan kunci lama segera.

Skenario penolakan umum

• Pelanggaran batas keras (konten minor).
• base_url tidak valid atau kunci API.
• Body permintaan tidak valid.

Memahami batas jendela konteks 100k

Sesi chat AI tanpa sensor Anda dapat menangani total 100.000 token untuk prompt dan komposisi secara bersamaan. Jendela konteks besar ini memungkinkan Anda memasukkan dokumentasi ekstensif atau riwayat percakapan panjang tanpa kehilangan jejak narasi. Namun, Anda harus mengelola jendela ini dengan hati-hati untuk menghindari batas saat percakapan berlangsung.

Saat jendela konteks hampir penuh, model mungkin mulai melupakan bagian percakapan yang lebih awal. Untuk mengatasi hal ini, pertimbangkan untuk memangkas pesan yang lebih lama atau meringkasnya sebelum menambahkan yang baru. Model id yang Anda gunakan hanyalah "uncensored", dan model ini berjalan di server kami sendiri, bukan sebagai proksi ke vendor lain. Ini memastikan perilaku yang konsisten terlepas dari panjang input, selama Anda tetap dalam batas 100k token.

Mengelola konteks secara efisien

• Lacak penggunaan token per pesan.
• Ringkas pesan-pesan lama untuk menghemat ruang.
• Pantau hitungan token total di klien Anda.

Token output maksimal: menghindari respons yang terpotong

Secara default, model akan menghasilkan hingga 2.048 token per permintaan jika Anda tidak menentukan nilai max_tokens. Jika respons Anda terpotong di tengah kalimat, Anda kemungkinan perlu meningkatkan batas ini. Anda dapat mengatur max_tokens hingga 16.000 token per permintaan, yang cukup untuk sebagian besar kebutuhan pembuatan konten panjang.

Perhatikan bahwa meningkatkan max_tokens juga meningkatkan penggunaan token dan biaya Anda. Karena penagihan didasarkan pada token yang sebenarnya digunakan, respons yang lebih panjang akan lebih mahal. Namun, kesalahan dan penolakan gratis, jadi Anda hanya membayar untuk penyelesaian yang berhasil. Model pra-bayar ini berarti Anda dapat bereksperimen dengan max_tokens yang lebih tinggi tanpa khawatir tentang biaya tak terduga dari layanan berlangganan.

Pengaturan max_tokens

• Default: 2.048 token.
• Maksimal: 16,000 token.
• Biaya: $0.50 per 1M token output.

Streaming vs non-streaming: menangani SSE dengan benar

Streaming melalui Server-Sent Events (SSE) sangat penting untuk pengalaman pengguna yang lancar, terutama pada antarmuka obrolan. API mengembalikan token satu per satu, memungkinkan Anda menampilkan teks segera setelah dihasilkan. Namun, Anda harus menangani stream SSE dengan benar untuk menghindari kehilangan token atau kesalahan interpretasi data.

Setiap peristiwa SSE berisi potongan teks, dan potongan terakhir mencakup data penggunaan token. Pastikan parser sisi klien Anda dapat menggabungkan potongan-potongan ini dan mengekstrak statistik penggunaan dari peristiwa terakhir. Jika Anda menggunakan SDK OpenAI standar, streaming biasanya ditangani secara otomatis, tetapi implementasi kustom memerlukan perhatian hati-hati terhadap protokol SSE.

Praktik terbaik streaming

• Parse event SSE dengan benar.
• Agregasi token untuk tampilan.
• Ekstrak data penggunaan dari potongan akhir.

Pemanggilan fungsi: memastikan kompatibilitas alat

API kami mendukung pemanggilan fungsi, memungkinkan model menghasilkan data terstruktur yang dapat digunakan untuk memicu alat eksternal. Ini berguna untuk tugas seperti penjadwalan, pengambilan data, atau mengeksekusi aksi tertentu. Model akan mengembalikan objek JSON yang berisi nama fungsi dan argumen, yang kemudian dapat diparsing dan dieksekusi oleh kode klien Anda.

Pastikan definisi fungsi Anda akurat dan sesuai dengan format input yang diharapkan. Model dapat menghasilkan argumen yang tidak akurat jika definisi fungsinya ambigu. Uji pengaturan pemanggilan fungsi Anda secara menyeluruh untuk memastikan model dapat menghasilkan pemanggilan fungsi yang benar secara andal. Ingat bahwa id model adalah "uncensored," dan model ini dioptimalkan untuk menghasilkan pemanggilan fungsi yang akurat dan berguna tanpa penolakan yang tidak perlu.

Tips pemanggilan fungsi

• Tentukan fungsi dengan jelas.
• Uji generasi argumen.
• Tangani argumen yang terhallusinasi.

Mode JSON: memaksakan format output ketat

Saat Anda membutuhkan model untuk mengembalikan JSON yang diformat secara ketat, Anda dapat menggunakan parameter response_format yang diatur ke json_object. Mode ini memaksakan bahwa output adalah JSON yang valid, yang sangat penting untuk mengintegrasikan model dengan sistem lain. Namun, model mungkin masih kesulitan dengan struktur JSON yang kompleks jika prompt tidak jelas.

Gunakan mode JSON ketika Anda memerlukan ekstraksi data yang andal atau sedang membangun sistem yang bergantung pada skema JSON tertentu. Fitur ini sangat berguna bagi pengembang yang ingin menghindari kesalahan parsing dan memastikan output selalu valid. Model mendukung mode ini bersama parameter lain seperti temperature dan top_p, memungkinkan Anda menyesuaikan kualitas output.

Pengaturan mode JSON

• Atur response_format ke json_object.
• Pastikan prompt yang jelas untuk struktur.
• Validasi output untuk kepatuhan.

Batas laju: mengelola permintaan konkuren

API mengizinkan 300 permintaan per menit per kunci dan hingga 8 permintaan konkuren secara bersamaan. Jika Anda melebihi batas ini, Anda akan menerima kesalahan 429 Too Many Requests. Ini penting untuk dipertimbangkan jika Anda membangun aplikasi dengan lalu lintas tinggi atau menjalankan beberapa instance klien Anda.

Untuk mengelola batas laju secara efektif, terapkan backoff eksponensial dalam kode klien Anda. Ini akan membantu Anda menangani lonjakan lalu lintas sementara tanpa membebani API. Anda juga dapat memantau laju permintaan dan menyesuaikan pengaturan konkurensi Anda. Ingat bahwa setiap kunci dibatasi oleh laju tersebut, jadi jika Anda memerlukan throughput yang lebih tinggi, Anda mungkin perlu mendistribusikan permintaan di beberapa kunci.

Strategi batas laju

• Terapkan backoff eksponensial.
• Pantau laju permintaan.
• Distribusikan permintaan di seluruh kunci.

Kejutan penagihan: kredit pra-bayar vs. langganan

Model penagihan kami adalah prabayar, artinya Anda mengisi ulang akun Anda dengan kripto dan hanya membayar untuk token yang Anda gunakan. Ini berbeda dari model langganan di mana Anda membayar biaya bulanan tetap terlepas dari penggunaan. Dengan kredit prabayar, Anda memiliki kontrol penuh atas pengeluaran, dan kesalahan gratis, jadi Anda hanya membayar untuk penyelesaian yang berhasil.

Saat Anda mengisi ulang, Anda dapat menambahkan jumlah bulat apa pun dari $20 hingga $500 dalam USDT (TRC20) atau USDC (Base). Anda juga mendapatkan kredit bonus tergantung pada jumlahnya: +5% dari $50, +10% dari $100, dan +15% dari $200. Kredit bonus ini tidak pernah kadaluarsa, sehingga Anda dapat menggunakannya kapan saja Anda membutuhkannya. Model penagihan yang transparan ini membantu Anda menghindari biaya tak terduga dan memudahkan penganggaran penggunaan API Anda.

Detail penagihan

• Kredit prabayar, tanpa langganan.
• Hanya kripto: USDT atau USDC.
• Kredit bonus untuk pengisian saldo yang lebih besar.

Privasi: apakah prompt Anda digunakan untuk pelatihan?

Salah satu kekhawatiran utama bagi banyak pengembang adalah apakah prompt mereka digunakan untuk pelatihan. Dengan API kami, prompt Anda tidak digunakan untuk pelatihan, memastikan bahwa data Anda tetap privat. Ini sangat penting bagi bisnis yang menangani informasi sensitif atau ingin menjaga keamanan data percakapan mereka.

Anda dapat mendaftar hanya dengan alamat email, dan tidak diperlukan nomor telepon. Pengumpulan data minimal ini lebih meningkatkan privasi Anda. Selain itu, karena kami adalah layanan independen, kami tidak membagikan data Anda kepada vendor lain atau menggunakannya untuk meningkatkan model lain. Prompt Anda hanya digunakan untuk menghasilkan respons untuk permintaan Anda.

Fitur privasi

• Prompt tidak digunakan untuk pelatihan.
• Pengumpulan data minimal.
• Layanan independen.