---
title: "Ano ang exponential backoff? Retry na may jitter | BroadRouter"
description: "Inuulit ng exponential backoff ang pumalyang API call nang may palaking paghihintay at random na jitter. Paano ito gumagana, ano ang ire-retry, at sa LLM 429."
url: https://broadrouter.com/fil/glossary/exponential-backoff/
lang: fil
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Isinalin mula sa Ingles sa tulong ng AI. [Basahin ang orihinal sa Ingles](https://broadrouter.com/glossary/exponential-backoff/) (na-update noong 2026-11-16).

# Exponential backoff

Na-update 2026-11-16

Ang exponential backoff ay estratehiya sa pag-retry kung saan mas matagal na naghihintay ang client pagkatapos ng bawat pumalyang attempt, kadalasang dinodoble ang delay hanggang sa isang cap, bago sumubok ulit. Ikinakalat ng random na jitter sa bawat paghihintay ang mga retry ng maraming client para hindi sila sabay-sabay na tumama sa server.

Tinatawag ding: backoff sa retry, pag-retry na may backoff, backoff and jitter, retry with backoff, jittered backoff, capped exponential backoff, full jitter

Kapag sinabi ng API na “dahan-dahan”, lalo lang lumalala kapag nag-retry ka agad. Mas matagal na naghihintay ang exponential backoff bawat pagkakataon.

## Paano ito gumagana

Pagkatapos ng isang pagpalya, maghintay ng base delay, saka doblehin ito sa bawat bagong pagpalya, hanggang sa isang maximum. Sa 1-segundong base at 32-segundong cap, ganito ang mga paghihintay: 1, 2, 4, 8, 16, 32, 32 segundo. Huminto pagkatapos ng fixed na bilang ng attempt at ilabas ang error.

Hindi sapat ang backoff lang. Kung sabay-sabay pumalya ang 100 client, sabay-sabay din silang magre-retry. Ikinukumpara ng AWS post ni Marc Brooker ang “Full Jitter” (random na paghihintay mula zero hanggang sa kasalukuyang cap), “Equal Jitter” at “Decorrelated Jitter”. Equal Jitter ang pinakamahina, at ang Full Jitter ay “uses less work, but slightly more time.” (Salin ng BroadRouter: “mas kaunting trabaho ang gamit, pero bahagyang mas matagal.”) Ang konklusyon niya: ang jittered backoff ay “should be considered a standard approach for remote clients.” (Salin ng BroadRouter: “dapat ituring na karaniwang paraan para sa mga remote client.”)

```python
import random, time

def call_with_backoff(fn, attempts=6, base=1.0, cap=32.0):
    for n in range(attempts):
        try:
            return fn()
        except RetryableError:
            if n == attempts - 1:
                raise
            time.sleep(random.uniform(0, min(cap, base * 2 ** n)))  # full jitter
```

## Bakit ito mahalaga

-   **Bilang din ang mga 429.** Nagbababala ang gabay ng OpenAI sa rate limit na “unsuccessful requests contribute to your per-minute limit, so continuously resending a request won’t work.” (Salin ng BroadRouter: “bilang sa per-minute limit mo ang mga hindi matagumpay na request, kaya hindi gagana ang tuloy-tuloy na muling pagpapadala ng request.”) Kapag paulit-ulit mong binabanatan ang isang [rate limit](https://broadrouter.com/fil/glossary/rate-limit/), naka-lock out ka pa rin.
-   **Dumarami ang mga retry.** Ayon sa Builders’ Library ng AWS, “selfish” (makasarili) ang mga retry, at inirerekomenda nitong mag-retry sa iisang punto lang sa stack; kapag nagre-retry ang bawat layer, puwedeng dumami nang maraming beses ang load.
-   **Mga side effect.** Ligtas lang i-retry ang call na naniningil ng pera kapag may [idempotency key](https://broadrouter.com/fil/glossary/idempotency-key/).
-   **Mas mabuti ang pag-iwas kaysa sa retry.** Limitahan ang mga request na in flight sa ibaba ng [concurrency](https://broadrouter.com/fil/glossary/concurrency/) limit mo para bihira ang 429 sa simula pa lang.

## Sa BroadNet Inference

Sinasabi ng error table ng BroadNet na sagutin ang 429 ng “response details and bounded backoff” (Salin ng BroadRouter: “mga detalye ng response at bounded na backoff”) at i-retry ang 500, 502, 503 at 504 “with bounded exponential backoff.” (Salin ng BroadRouter: “gamit ang bounded na exponential backoff.”) Pumapayag ang pay-as-you-go key sa 30 request kada minuto at 4 na in flight. Para sa 400, 401, 403, 413 at 422, ayusin muna ang sanhi. Itago ang `X-Request-ID` header para sa support. Itinatakda ng [gabay sa errors at retries](https://broadrouter.com/fil/guides/errors-and-retries/) ang bilang ng retry ng SDK, at may limiter at queue code ang [paano i-handle ang mga 429 ng LLM API](https://broadrouter.com/fil/blog/handle-llm-api-429-rate-limits/). Ipinapakita ng [rate limit calculator](https://broadrouter.com/tools/llm-rate-limit-calculator/) kung gaano karaming traffic ang kasya sa ilalim ng isang limit.

## Mga tanong

### Aling mga error ang dapat kong i-retry gamit ang backoff?

Rate limit (429), server error (5xx), timeout at naputol na connection. Huwag i-retry nang walang binago ang 400, 401, 403, 413 o 422; ayusin muna ang request o ang key.

### Bakit kailangan ng jitter?

Kung wala ito, sabay-sabay ding magre-retry ang mga client na sabay-sabay pumalya, at mabibigatan ulit ang server. Ginagawang random ng jitter ang bawat paghihintay kaya kumakalat ang mga retry.

### Nagba-back off na ba ang mga OpenAI SDK?

Oo. Nire-retry ng mga opisyal na OpenAI SDK ang mga connection error, 429 at 5xx na response gamit ang maikling exponential backoff. I-set nang tahasan ang max\_retries, mas mataas para sa mahahabang batch job, at magdagdag ng sarili mong limiter sa ibabaw nito.

## Tingnan din

-   [Rate limit](https://broadrouter.com/fil/glossary/rate-limit/) (termino)
-   [Idempotency key](https://broadrouter.com/fil/glossary/idempotency-key/) (termino)
-   [Concurrency](https://broadrouter.com/fil/glossary/concurrency/) (termino)
-   [API key](https://broadrouter.com/fil/glossary/api-key/) (termino)
-   [Request timeout](https://broadrouter.com/fil/glossary/request-timeout/) (termino)
-   [Model fallback](https://broadrouter.com/fil/glossary/model-fallback/) (termino)
-   [Mga error code ng BroadNet Inference at kailan dapat mag-retry](https://broadrouter.com/fil/guides/errors-and-retries/) (gabay)
-   [Paano gamitin ang OpenAI Python SDK sa BroadNet Inference](https://broadrouter.com/fil/guides/openai-python-sdk/) (gabay)
-   [Paano ayusin ang 429 error sa LLM API: backoff, jitter at limiter](https://broadrouter.com/fil/blog/handle-llm-api-429-rate-limits/) (artikulo)
-   [Matagal na tumatakbong agent: timeout, retry at checkpoint na matibay](https://broadrouter.com/fil/blog/long-running-agents-timeouts-retries/) (artikulo)

Subukan ito sa totoong workload mo. May US$5 na panimulang credit ang mga bagong account para sa Gemma at transcription. Kailangan ng top-up para sa DeepSeek, GLM, at Qwen3.8.

[Magsimula](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=fil-glossary-exponential-backoff&utm_content=page-cta) ·

**Mga source**

-   [AWS Architecture Blog, Exponential Backoff And Jitter (Marc Brooker)](https://aws.amazon.com/blogs/architecture/exponential-backoff-and-jitter/)
-   [AWS Builders' Library, Timeouts, retries and backoff with jitter](https://builder.aws.com/content/3EumjoZascWd1oZiEgL8ORlv3qE/timeouts-retries-and-backoff-with-jitter)
-   [OpenAI, gabay sa rate limits (pag-retry gamit ang exponential backoff)](https://developers.openai.com/api/docs/guides/rate-limits)
-   [API reference ng BroadNet Inference, mga error, request ID at retry (Ingles)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=fil-glossary-exponential-backoff&utm_content=sources#errors)
