Kunci yang bocor adalah penyebab paling umum tagihan API membengkak tak terkendali. BroadNet Inference memberi Anda dua kontrol: IP allow-list dan pencabutan cepat.
Dua jenis kredensial
| Kredensial | Dipakai untuk | Perlakukan sebagai |
|---|---|---|
| Kunci inferensi | Permintaan model ke /v1/* |
Rahasia untuk satu aplikasi atau agen |
| Kredensial portal | Otomatisasi akun: kunci, IP yang diizinkan, pembelian | Wewenang penuh atas akun |
Keduanya hanya ditampilkan sekali. Portal hanya menyimpan hash SHA-256, jadi tidak bisa menampilkan kunci itu lagi. Kunci inferensi bayar sesuai pemakaian berlaku satu tahun sejak dibuat, dan satu akun bisa memiliki hingga sepuluh kunci aktif.
Atur allow-list
Di halaman akun, tambahkan satu alamat IPv4 atau IPv6 atau rentang CIDR per baris, maksimal 32 entri. Daftar kosong berarti tidak ada pembatasan IP. Kunci baru mewarisi daftar akun ini. Edge memeriksa IP klien yang dilaporkan Cloudflare pada setiap permintaan API.
Untuk mengelola daftar akun dari skrip, PUT /portal/allowed_ips menggantinya dalam satu panggilan (memerlukan kredensial portal).
Beri satu kunci daftarnya sendiri saat Anda membuatnya dengan kredensial portal:
curl -X POST https://inference.broadnet.ai/portal/keys \
-H "Authorization: Bearer $BROADNET_PORTAL_CREDENTIAL" \
-H "Content-Type: application/json" \
-d '{"label":"worker-1","allowed_ips":["203.0.113.7","198.51.100.0/24"]}'
allowed_ips per kunci menggantikan daftar akun yang diwarisi untuk kunci tersebut. Respons memuat kunci mentahnya satu kali saja; segera simpan.
Cabut kunci yang bocor dengan cepat
DELETE /portal/keys/{alias} mencabut kunci bayar sesuai pemakaian, dan DELETE /portal/keys/hourly/{alias} mencabut kunci per jam (biaya pembelian awalnya tetap berlaku). Setelah pencabutan atau perubahan allow-list, permintaan baru berhenti dalam lima detik.
curl -X DELETE https://inference.broadnet.ai/portal/keys/$KEY_ALIAS \
-H "Authorization: Bearer $BROADNET_PORTAL_CREDENTIAL"
Isi KEY_ALIAS dengan alias yang ditampilkan untuk kunci itu di halaman akun atau di GET /portal/keys. Alias bukan kunci rahasianya. Jika kredensial portal bocor, cabut dengan DELETE /portal/credentials/{id}: kredensial itu bisa melakukan apa saja yang bisa dilakukan akun Anda.
Pemecahan masalah
- 403 dari server yang sudah Anda daftarkan. Edge melihat alamat egress publik Anda, bukan IP privat server. Server di belakang NAT gateway, proxy, atau load balancer keluar lewat alamat perangkat tersebut. Server dengan IPv6 bisa keluar lewat IPv6 meskipun Anda hanya mendaftarkan alamat IPv4-nya. Daftarkan alamat yang benar-benar dipakai permintaan untuk keluar, atau rentang CIDR yang mencakupnya.
- Kunci baru mengabaikan daftar akun. Array
allowed_ipsper kunci menggantikan daftar akun yang diwarisi untuk kunci tersebut. Periksa apa yang Anda kirim saat membuatnya. - 409
key_limit_reached. Akun sudah memiliki sepuluh kunci aktif. Cabut satu yang tidak Anda pakai lagi. - Permintaan masih berhasil beberapa detik setelah pencabutan. Ini wajar hingga lima detik selama cache menyusul.
Permintaan dari alamat yang tidak ada di daftar mendapat 403. Lihat semua kode error BroadNet dan kapan harus mencoba ulang. Untuk mengirim permintaan pertama dengan kunci baru, ikuti panduan OpenAI Python SDK. Entri glosarium IP allow-list menjelaskan konsepnya secara umum.

