Key bị lộ là nguyên nhân phổ biến nhất khiến hóa đơn API tăng vọt ngoài kiểm soát. BroadNet Inference cho bạn hai công cụ kiểm soát: danh sách IP cho phép và thu hồi nhanh.
Hai loại thông tin xác thực
| Thông tin xác thực | Dùng cho | Xem nó như |
|---|---|---|
| Key inference | Request model tới /v1/* |
Bí mật của một ứng dụng hoặc agent |
| Thông tin xác thực portal | Tự động hóa tài khoản: key, IP được phép, mua hàng | Toàn quyền với tài khoản |
Cả hai chỉ hiện một lần. Portal chỉ giữ hash SHA-256, nên không thể hiện lại key. Key inference trả theo mức dùng có hiệu lực một năm kể từ khi tạo, và một tài khoản giữ được tối đa mười key đang hoạt động.
Đặt danh sách cho phép
Trên trang tài khoản, thêm mỗi dòng một địa chỉ IPv4 hoặc IPv6 hoặc một dải CIDR, tối đa 32 mục. Danh sách trống nghĩa là không giới hạn IP. Key mới kế thừa danh sách của tài khoản này. Edge kiểm tra IP client mà Cloudflare báo về ở mọi request API.
Để quản lý danh sách tài khoản bằng script, PUT /portal/allowed_ips thay toàn bộ danh sách trong một lần gọi (cần thông tin xác thực portal).
Cấp cho một key danh sách riêng khi bạn tạo nó bằng thông tin xác thực portal:
curl -X POST https://inference.broadnet.ai/portal/keys \
-H "Authorization: Bearer $BROADNET_PORTAL_CREDENTIAL" \
-H "Content-Type: application/json" \
-d '{"label":"worker-1","allowed_ips":["203.0.113.7","198.51.100.0/24"]}'
allowed_ips riêng của key sẽ thay thế danh sách kế thừa từ tài khoản cho key đó. Phản hồi chứa key gốc đúng một lần; hãy lưu lại ngay.
Thu hồi nhanh key bị lộ
DELETE /portal/keys/{alias} thu hồi key trả theo mức dùng, còn DELETE /portal/keys/hourly/{alias} thu hồi key theo giờ (khoản phí mua ban đầu vẫn giữ nguyên). Sau khi thu hồi hoặc đổi danh sách cho phép, request mới dừng trong vòng năm giây.
curl -X DELETE https://inference.broadnet.ai/portal/keys/$KEY_ALIAS \
-H "Authorization: Bearer $BROADNET_PORTAL_CREDENTIAL"
Đặt KEY_ALIAS là alias hiển thị cho key trên trang tài khoản hoặc trong GET /portal/keys. Alias không phải là key bí mật. Nếu thông tin xác thực portal bị lộ, hãy thu hồi nó bằng DELETE /portal/credentials/{id}: nó làm được mọi việc tài khoản của bạn làm được.
Xử lý sự cố
- Lỗi 403 từ server đã có trong danh sách. Edge thấy địa chỉ egress công khai của bạn, không phải IP nội bộ của server. Server đứng sau NAT gateway, proxy hoặc load balancer đi ra ngoài bằng địa chỉ của thiết bị đó. Server có IPv6 có thể đi ra bằng IPv6 dù bạn chỉ khai báo địa chỉ IPv4 của nó. Hãy khai báo địa chỉ mà request thực sự đi ra, hoặc một dải CIDR bao trùm địa chỉ đó.
- Key mới bỏ qua danh sách tài khoản. Mảng
allowed_ipsriêng của key thay thế danh sách kế thừa từ tài khoản cho key đó. Kiểm tra bạn đã truyền gì lúc tạo. - 409
key_limit_reached. Tài khoản đã có mười key đang hoạt động. Hãy thu hồi một key không còn dùng. - Request vẫn thành công vài giây sau khi thu hồi. Đây là bình thường trong tối đa năm giây, trong lúc cache cập nhật.
Request từ địa chỉ không có trong danh sách nhận lỗi 403. Xem tất cả mã lỗi của BroadNet và khi nào nên thử lại. Để gửi request đầu tiên với key mới, làm theo hướng dẫn OpenAI Python SDK. Mục từ điển về danh sách IP cho phép giải thích khái niệm này ở mức tổng quát.

