Memecahkan chat ai tanpa sensor: kesilapan biasa

Mengapa LLM tanpa sensor anda masih menolak permintaan

Sebab paling biasa mengapa LLM tanpa sensor kelihatan menolak permintaan bukanlah penapis kandungan, tetapi ralat sisi klien. Model kami ditala untuk menjawab tanpa penolakan kandungan untuk penggunaan dewasa yang sah, tetapi ia masih menghormati had kandungan keras: kandungan seksual yang melibatkan kanak-kanak sentiasa ditolak. Jika anda melihat penolakan, semak badan respons untuk kod ralat atau mesej penolakan khusus daripada menganggap model rosak.

Masalah lain ialah konfigurasi base_url. Jika anda sedang berpindah dari penyedia lain, pastikan anda mengarahkan ke https://api.unrestrictedgptchat.com/v1. Base_url yang tidak sepadan akan menghasilkan ralat 404 atau 401, yang kelihatan seperti penolakan tetapi sebenarnya adalah isu sambungan. Juga, sahkan bahawa kunci API anda aktif dan tidak luput. Kami mengeluarkan satu kunci aktif per akaun, dan menjana kunci baru menggantikan kunci lama serta-merta.

Senario penolakan biasa

• Pelanggaran had keras (kandungan kanak-kanak).
• base_url tidak sah atau kunci API.
• Badan permintaan tidak sah.

Memahami had jendela konteks 100k

Sesi chat AI tanpa sensor anda boleh mengendalikan jumlah 100,000 token untuk prompt dan penyelesaian gabungan. Jendela konteks besar ini membolehkan anda memasukkan dokumentasi yang luas atau sejarah perbualan yang panjang tanpa kehilangan jejak naratif. Walau bagaimanapun, anda mesti menguruskan jendela ini dengan berhati-hati untuk mengelakkan mencapai had semasa perbualan.

Apabila tetingkap konteks hampir penuh, model mungkin mula melupakan bahagian awal perbualan. Untuk mengurangkan ini, pertimbangkan untuk memotong mesej lama atau meringkaskannya sebelum menambah yang baru. ID model yang anda gunakan hanyalah "uncensored", dan ia berjalan pada pelayan kami sendiri, bukan sebagai proksi kepada vendor lain. Ini memastikan tingkah laku yang konsisten tidak kira panjang input, selagi anda kekal dalam sempadan 100k token.

Menguruskan konteks dengan cekap

• Jejak penggunaan token per mesej.
• Ringkaskan mesej lama untuk menjimatkan ruang.
• Pantau jumlah kiraan token dalam klien anda.

Token output maksimum: mengelakkan respons yang terpotong

Secara lalai, model akan menjana sehingga 2,048 token setiap permintaan jika anda tidak menentukan nilai max_tokens. Jika respons anda terputus di tengah ayat, anda mungkin perlu meningkatkan had ini. Anda boleh menetapkan max_tokens sehingga 16,000 token setiap permintaan, yang mencukupi untuk kebanyakan keperluan penjanaan kandungan panjang.

Perhatikan bahawa meningkatkan max_tokens juga meningkatkan penggunaan token dan kos anda. Oleh kerana pengebilan berdasarkan token sebenar yang digunakan, respons yang lebih panjang akan menelan kos lebih tinggi. Walau bagaimanapun, ralat dan penolakan adalah percuma, jadi anda hanya membayar untuk penyelesaian berjaya. Model pra-bayar ini bermaksud anda boleh bereksperimen dengan max_tokens yang lebih tinggi tanpa risau tentang caj tidak dijangka daripada perkhidmatan langganan.

Menetapkan max_tokens

• Lalai: 2,048 token.
• Maksimum: 16,000 token.
• Kos: $0.50 bagi setiap 1M token output.

Berstrim vs tidak berstrim: mengendalikan SSE dengan betul

Penghantaran secara berstrim melalui Server-Sent Events (SSE) adalah penting untuk pengalaman pengguna yang lancar, terutamanya dalam antara muka sembang. API mengembalikan token satu persatu, membolehkan anda memaparkan teks sejajar dengan penjanaan. Walau bagaimanapun, anda mesti mengendalikan strim SSE dengan betul untuk mengelakkan kehilangan token atau salah tafsir data.

Setiap acara SSE mengandungi kepingan teks, dan kepingan akhir termasuk data penggunaan token. Pastikan parser sisi klien anda boleh mengagregat kepingan ini dan mengekstrak statistik penggunaan daripada acara terakhir. Jika anda menggunakan SDK OpenAI piawai, penstriman biasanya ditangani secara automatik, tetapi pelaksanaan tersuai memerlukan perhatian teliti kepada protokol SSE.

Amalan terbaik penstriman

• Huraikan acara SSE dengan betul.
• Kumpulkan token untuk paparan.
• Ekstrak data penggunaan daripada pecahan akhir.

Pemanggilan fungsi: memastikan keserasian alat

API kami menyokong panggilan fungsi, membolehkan model menjana data berstruktur yang boleh digunakan untuk mencetus alat luar. Ini berguna untuk tugas seperti penjadualan, pengambilan data, atau melaksanakan tindakan tertentu. Model akan mengembalikan objek JSON yang mengandungi nama fungsi dan hujah, yang kod klien anda kemudian boleh uraikan dan laksanakan.

Pastikan definisi fungsi anda tepat dan sepadan dengan format input yang dijangka. Model mungkin menghasilkan hujah secara halus jika definisi fungsi tidak jelas. Ujikan setup panggilan fungsi anda dengan teliti untuk memastikan model boleh menjana panggilan fungsi yang betul dengan boleh dipercayai. Ingat bahawa model id adalah "uncensored," dan ia dioptimumkan untuk menjana panggilan fungsi yang tepat dan berguna tanpa penolakan yang tidak perlu.

Petua pemanggilan fungsi

• Takrifkan fungsi dengan jelas.
• Uji penjanaan hujah.
• Tangani hujah yang dihallusinasi.

Mod JSON: memaksakan format output yang ketat

Apabila anda mahu model mengembalikan JSON yang diformatkan secara ketat, anda boleh menggunakan parameter response_format yang ditetapkan kepada json_object. Mod ini memaksakan bahawa output adalah JSON yang sah, yang sangat penting untuk mengintegrasikan model dengan sistem lain. Walau bagaimanapun, model mungkin masih menghadapi kesulitan dengan struktur JSON yang kompleks jika petanda tidak jelas.

Gunakan mod JSON apabila anda memerlukan pengekstrakan data yang boleh dipercayai atau apabila anda membina sistem yang bergantung pada skema JSON tertentu. Ciri ini amat berguna untuk pembangun yang ingin mengelakkan ralat penguraian dan memastikan output sentiasa sah. Model menyokong mod ini bersama parameter lain seperti suhu dan top_p, membolehkan anda menapis kualiti output.

Tetapan mod JSON

• Tetapkan response_format kepada json_object.
• Pastikan arahan yang jelas untuk struktur.
• Sahkan output untuk pematuhan.

Had kadar: mengurus permintaan serentak

API membolehkan 300 permintaan per minit per kunci dan sehingga 8 permintaan serentak pada masa yang sama. Jika anda melebihi had ini, anda akan menerima ralat 429 Too Many Requests. Ini penting untuk dipertimbangkan jika anda membina aplikasi trafik tinggi atau menjalankan pelbagai contoh klien anda.

Untuk mengurus had kadar dengan berkesan, laksanakan backoff eksponen dalam kod klien anda. Ini akan membantu anda mengendalikan lonjakan trafik sementara tanpa membanjiri API. Anda juga boleh memantau kadar permintaan anda dan menyesuaikan tetapan kekonkurensian anda. Ingat bahawa setiap kunci terhad kepada kadar ini, jadi jika anda memerlukan kelajuan throughput yang lebih tinggi, anda mungkin perlu mengagihkan permintaan merentasi beberapa kunci.

Strategi had kadar

• Laksanakan penangguhan eksponen.
• Pantau kadar permintaan.
• Agihkan permintaan merentasi kunci.

Kejutan pembayaran: kredit pra-bayar vs. langganan

Model pengebilan kami adalah pra-bayar, bermakna anda menambah baki akaun anda dengan kripto dan hanya membayar untuk token yang anda gunakan. Ini berbeza dengan model langganan di mana anda membayar yuran bulanan tetap tanpa mengira penggunaan. Dengan kredit pra-bayar, anda mempunyai kawalan penuh terhadap perbelanjaan anda, dan kesilapan adalah percuma, jadi anda hanya membayar untuk penyelesaian yang berjaya.

Apabila anda menambah baki, anda boleh menambah mana-mana jumlah bulat dari $20 hingga $500 dalam USDT (TRC20) atau USDC (Base). Anda juga mendapat kredit bonus bergantung pada jumlah: +5% dari $50, +10% dari $100, dan +15% dari $200. Kredit bonus ini tidak pernah luput, jadi anda boleh menggunakannya bila-bila anda memerlukannya. Model pengebilan telus ini membantu anda mengelakkan caj tidak dijangka dan memudahkan bajet penggunaan API anda.

Butiran bil

• Kredit prabayar, tiada langganan.
• Kripto sahaja: USDT atau USDC.
• Kredit bonus untuk baki atas yang lebih besar.

Privasi: adakah arah anda digunakan untuk latihan?

Salah satu kebimbangan utama bagi ramai pembangun adalah sama ada prompt mereka digunakan untuk latihan. Dengan API kami, prompt anda tidak digunakan untuk latihan, memastikan data anda kekal peribadi. Ini amat penting untuk perniagaan yang mengendalikan maklumat sensitif atau ingin mengekalkan keselamatan data perbualan mereka.

Anda boleh mendaftar hanya dengan alamat e-mel, dan tiada nombor telefon diperlukan. Pengumpulan data minimum ini further meningkatkan privasi anda. Selain itu, kerana kami merupakan perkhidmatan bebas, kami tidak berkongsi data anda dengan vendor lain atau menggunakannya untuk meningkatkan model lain. Prompt anda digunakan semata-mata untuk menjana respons untuk permintaan anda.

Ciri privasi

• Prompt tidak digunakan untuk latihan.
• Pengumpulan data minimum.
• Perkhidmatan bersandar.