BroadRouter
Mulai

Batasi kunci API ke server Anda dengan IP allow-list

Diperbarui

Tambahkan alamat IPv4 atau IPv6 keluar (egress) server Anda, atau rentang CIDR, ke allow-list akun, maksimal 32 entri. Kunci baru mewarisi daftar ini kecuali Anda mengirim allowed_ips saat membuatnya. Permintaan dari alamat lain mendapat 403, dan perubahan allow-list atau pencabutan kunci berlaku dalam lima detik.

Kunci yang bocor adalah penyebab paling umum tagihan API membengkak tak terkendali. BroadNet Inference memberi Anda dua kontrol: IP allow-list dan pencabutan cepat.

Dua jenis kredensial

Kredensial Dipakai untuk Perlakukan sebagai
Kunci inferensi Permintaan model ke /v1/* Rahasia untuk satu aplikasi atau agen
Kredensial portal Otomatisasi akun: kunci, IP yang diizinkan, pembelian Wewenang penuh atas akun

Keduanya hanya ditampilkan sekali. Portal hanya menyimpan hash SHA-256, jadi tidak bisa menampilkan kunci itu lagi. Kunci inferensi bayar sesuai pemakaian berlaku satu tahun sejak dibuat, dan satu akun bisa memiliki hingga sepuluh kunci aktif.

Atur allow-list

Di halaman akun, tambahkan satu alamat IPv4 atau IPv6 atau rentang CIDR per baris, maksimal 32 entri. Daftar kosong berarti tidak ada pembatasan IP. Kunci baru mewarisi daftar akun ini. Edge memeriksa IP klien yang dilaporkan Cloudflare pada setiap permintaan API.

Untuk mengelola daftar akun dari skrip, PUT /portal/allowed_ips menggantinya dalam satu panggilan (memerlukan kredensial portal).

Beri satu kunci daftarnya sendiri saat Anda membuatnya dengan kredensial portal:

curl -X POST https://inference.broadnet.ai/portal/keys \
  -H "Authorization: Bearer $BROADNET_PORTAL_CREDENTIAL" \
  -H "Content-Type: application/json" \
  -d '{"label":"worker-1","allowed_ips":["203.0.113.7","198.51.100.0/24"]}'

allowed_ips per kunci menggantikan daftar akun yang diwarisi untuk kunci tersebut. Respons memuat kunci mentahnya satu kali saja; segera simpan.

Cabut kunci yang bocor dengan cepat

DELETE /portal/keys/{alias} mencabut kunci bayar sesuai pemakaian, dan DELETE /portal/keys/hourly/{alias} mencabut kunci per jam (biaya pembelian awalnya tetap berlaku). Setelah pencabutan atau perubahan allow-list, permintaan baru berhenti dalam lima detik.

curl -X DELETE https://inference.broadnet.ai/portal/keys/$KEY_ALIAS \
  -H "Authorization: Bearer $BROADNET_PORTAL_CREDENTIAL"

Isi KEY_ALIAS dengan alias yang ditampilkan untuk kunci itu di halaman akun atau di GET /portal/keys. Alias bukan kunci rahasianya. Jika kredensial portal bocor, cabut dengan DELETE /portal/credentials/{id}: kredensial itu bisa melakukan apa saja yang bisa dilakukan akun Anda.

Pemecahan masalah

  • 403 dari server yang sudah Anda daftarkan. Edge melihat alamat egress publik Anda, bukan IP privat server. Server di belakang NAT gateway, proxy, atau load balancer keluar lewat alamat perangkat tersebut. Server dengan IPv6 bisa keluar lewat IPv6 meskipun Anda hanya mendaftarkan alamat IPv4-nya. Daftarkan alamat yang benar-benar dipakai permintaan untuk keluar, atau rentang CIDR yang mencakupnya.
  • Kunci baru mengabaikan daftar akun. Array allowed_ips per kunci menggantikan daftar akun yang diwarisi untuk kunci tersebut. Periksa apa yang Anda kirim saat membuatnya.
  • 409 key_limit_reached. Akun sudah memiliki sepuluh kunci aktif. Cabut satu yang tidak Anda pakai lagi.
  • Permintaan masih berhasil beberapa detik setelah pencabutan. Ini wajar hingga lima detik selama cache menyusul.

Permintaan dari alamat yang tidak ada di daftar mendapat 403. Lihat semua kode error BroadNet dan kapan harus mencoba ulang. Untuk mengirim permintaan pertama dengan kunci baru, ikuti panduan OpenAI Python SDK. Entri glosarium IP allow-list menjelaskan konsepnya secara umum.

A metal key whose bow is shaped like curly braces { }, with the text "One API key. More possibilities."

Pertanyaan umum

Bagaimana cara membatasi kunci API LLM ke alamat IP server saya?

Tambahkan alamat egress publik server, atau rentang CIDR, ke allow-list akun di halaman akun BroadNet, atau kirim allowed_ips saat membuat kunci lewat POST /portal/keys. Permintaan dari alamat lain mana pun ditolak dengan 403.

Apakah allow-list kosong memblokir semuanya?

Tidak. Daftar kosong berarti tidak ada pembatasan IP, jadi kunci berfungsi dari alamat mana pun. Tambahkan setidaknya satu entri untuk mengaktifkan pembatasan.

Bisakah kunci inferensi dipakai untuk membuat kunci lain?

Tidak. Kunci inferensi hanya memanggil rute model /v1/*. Membuat dan mencabut kunci, mengubah IP yang diizinkan, dan membeli kunci per jam memerlukan kredensial portal, yang memegang wewenang penuh atas akun.

Seberapa cepat pencabutan kunci yang bocor berlaku?

Menurut dokumentasi BroadNet, permintaan baru berhenti dalam lima detik setelah pencabutan atau perubahan allow-list, karena keputusan otorisasi bisa tersimpan selama itu di cache yang direplikasi.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity