---
title: "Apakah itu penyedia inferens? Pengehosan LLM dijelaskan"
description: "Penyedia inferens menjalankan model AI pada GPU sendiri atau sewaan dan menjual akses melalui API. Bezanya dengan makmal model dan router, dan perkara untuk disemak."
url: https://broadrouter.com/ms/glossary/inference-provider/
lang: ms
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Diterjemahkan daripada bahasa Inggeris dengan bantuan AI. [Baca versi asal dalam bahasa Inggeris](https://broadrouter.com/glossary/inference-provider/) (dikemas kini 2026-11-15).

# Penyedia inferens (inference provider)

Dikemas kini 2026-11-15

Penyedia inferens ialah syarikat yang menjalankan model pembelajaran mesin, selalunya LLM open-weight, pada GPU yang dimiliki, dipajak atau disewanya, dan menjual akses kepadanya melalui API, biasanya berharga setiap token, setiap permintaan atau setiap unit masa. Ia mengendalikan perkhidmatan, penskalaan dan perkakasan.

Juga dikenali sebagai: penyedia API LLM, penyedia inferens LLM, LLM inference provider, LLM API provider, model hosting provider, AI inference provider

Apabila model open-weight dikeluarkan, seseorang masih perlu menjalankannya. Penyedia inferens ialah syarikat yang melakukannya.

## Cara ia berfungsi

Penyedia memuatkan pemberat model ke dalam GPU, menjalankan perisian perkhidmatan yang mengumpulkan permintaan secara kelompok dan mengurus memori, dan meletakkan API di hadapannya. Kebanyakannya menyediakan [API serasi OpenAI](https://broadrouter.com/ms/glossary/openai-compatible-api/), jadi anda bertukar penyedia dengan menukar base URL, kunci dan ID model.

Istilah ini meliputi beberapa bentuk perniagaan:

-   **Makmal model** yang melayan model mereka sendiri.
-   **Hos bebas** yang melayan model open-weight daripada banyak makmal.
-   **Awan** yang menyewakan GPU atau endpoint terurus, kadangkala dibilkan setiap [jam GPU](https://broadrouter.com/ms/glossary/gpu-hour/).
-   **Pengagregat.** Inference Providers oleh Hugging Face memberikan akses kepada “hundreds of machine learning models, powered by world-class inference providers” (Terjemahan BroadRouter: “ratusan model pembelajaran mesin, dikuasakan oleh penyedia inferens bertaraf dunia”) melalui satu token. [Router LLM](https://broadrouter.com/ms/glossary/llm-router/) berfungsi dengan cara yang sama.

Oleh sebab bentuk API dikongsi, kod yang sama berjalan pada mana-mana penyedia. Hanya tiga nilai berubah, seperti yang ditanda oleh komen dalam kod di bawah: `base_url` ialah penyedia, `api_key` ialah kuncinya, dan `model` ialah ID modelnya:

```python
import os
from openai import OpenAI

msgs = [{"role": "user", "content": "Hello"}]
client = OpenAI(
    base_url="https://inference.broadnet.ai/v1",          # the provider
    api_key=os.environ["BROADNET_API_KEY"],  # its key
)
client.chat.completions.create(model="broadnet/deepseek-v4.1-flash", messages=msgs)  # its model ID
```

Harga juga berbeza: setiap token, setiap minit audio, setiap jam, atau harga tetap setiap sesi.

## Mengapa ia penting

Memilih penyedia kebanyakannya bermaksud memilih pertukaran yang tidak dapat dilihat daripada nama model:

-   **Pengendalian data.** Pengekalan, pengelogan dan penggunaan untuk latihan berbeza-beza. Cari dasar [zero data retention](https://broadrouter.com/ms/glossary/zero-data-retention/) yang bertulis.
-   **Tempat ia dijalankan.** Rantau dan subpemproses penting untuk pematuhan.
-   **Had.** Keserentakan, had kadar dan panjang konteks boleh lebih rendah daripada maksimum model.
-   **Pilihan perkhidmatan.** Ketepatan nombor dan tetapan perkhidmatan mempengaruhi kelajuan dan kadangkala output.
-   **Bentuk harga.** Bentuk yang sesuai bergantung pada trafik anda; lihat [perbandingan harga penyedia](https://broadrouter.com/ms/blog/llm-inference-provider-pricing-compared/).
-   **Tahap harga.** Model terbuka yang sama boleh berharga beberapa kali ganda lebih mahal pada satu penyedia berbanding yang lain. Lihat [model sama, hos berbeza](https://broadrouter.com/ms/blog/same-llm-different-host-prices/).

## Di BroadNet Inference

BroadNet Inference ialah penyedia inferens. Kenyataan privasinya menyatakan model sendiri dan model open-weight yang dihoskannya “run on BroadNet-owned or leased hardware in the United States, with partner capacity as backup” (Terjemahan BroadRouter: “berjalan pada perkakasan milik atau pajakan BroadNet di Amerika Syarikat, dengan kapasiti rakan kongsi sebagai sandaran”), dan model yang dilayan oleh rakan kongsi berjalan di bawah terma zero data retention dengan rakan kongsi inferens di AS. Kandungan permintaan dan respons tidak disimpan.

Ia menawarkan model chat, termasuk [DeepSeek V4.1 Flash](https://broadrouter.com/ms/models/deepseek-v4.1-flash/) dan GLM 5.3, serta dua model speech-to-text melalui API serasi OpenAI di `https://inference.broadnet.ai/v1`. Pengebilan ialah bayar ikut guna setiap token atau setiap minit audio, kunci sejam, atau pelan harga tetap untuk DeepSeek V4.1 Flash. Gunakan [senarai semak penyedia](https://broadrouter.com/ms/blog/choose-llm-api-provider-checklist/) untuk membandingkannya dengan penyedia lain mengikut kriteria anda sendiri.

## Soalan lazim

### Apakah perbezaan antara penyedia inferens dan router LLM?

Penyedia menjalankan model itu sendiri, pada perkakasan yang dimiliki, dipajak atau disewanya. Router memajukan permintaan anda kepada salah satu daripada beberapa penyedia melalui satu API dan satu bil. Sesetengah syarikat melakukan kedua-duanya.

### Adakah dua penyedia yang melayan model terbuka yang sama memberikan jawapan yang sama?

Tidak selalu. Ketepatan nombor (precision), had konteks, tetapan lalai dan perisian perkhidmatan boleh berbeza, jadi output boleh berbeza. Uji pada prompt anda sendiri sebelum bertukar.

### Bagaimanakah saya menukar penyedia inferens?

Dengan API serasi OpenAI, tukar tiga nilai: base URL, kunci API dan ID model. Kemudian jalankan semula eval anda, kerana model yang sama boleh berkelakuan berbeza pada penyedia lain.

## Lihat juga

-   [Penghala LLM (LLM router)](https://broadrouter.com/ms/glossary/llm-router/) (istilah)
-   [Model open-weight (model pemberat terbuka)](https://broadrouter.com/ms/glossary/open-weight-model/) (istilah)
-   [API serasi OpenAI (OpenAI-compatible API)](https://broadrouter.com/ms/glossary/openai-compatible-api/) (istilah)
-   [Inferens tanpa pelayan (serverless inference)](https://broadrouter.com/ms/glossary/serverless-inference/) (istilah)
-   [Zero data retention (ZDR, tiada pengekalan data)](https://broadrouter.com/ms/glossary/zero-data-retention/) (istilah)
-   [SLA (perjanjian tahap perkhidmatan)](https://broadrouter.com/ms/glossary/sla/) (istilah)
-   [Penamatan model (model deprecation)](https://broadrouter.com/ms/glossary/model-deprecation/) (istilah)
-   [Permintaan pertama ke BroadNet Inference dengan curl](https://broadrouter.com/ms/guides/curl-quickstart/) (panduan)
-   [Halakan LiteLLM ke BroadNet Inference (SDK dan proksi)](https://broadrouter.com/ms/guides/litellm-proxy-custom-provider/) (panduan)
-   [Cara memilih penyedia API LLM: senarai semak 20 perkara](https://broadrouter.com/ms/blog/choose-llm-api-provider-checklist/) (artikel)
-   [Harga model terbuka di penyedia inferens: 6 dibandingkan](https://broadrouter.com/ms/blog/llm-inference-provider-pricing-compared/) (artikel)
-   [Model sama, hos berbeza: sejauh mana harga API LLM berbeza](https://broadrouter.com/ms/blog/same-llm-different-host-prices/) (artikel)

Cuba dengan beban kerja sebenar anda. Akaun baharu bermula dengan kredit US$5 untuk Gemma dan transkripsi. DeepSeek, GLM dan Qwen3.8 memerlukan tambah nilai.

[Mulakan](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ms-glossary-inference-provider&utm_content=page-cta) ·

**Sumber**

-   [Hugging Face, dokumentasi Inference Providers](https://huggingface.co/docs/inference-providers/index)
-   [BroadNet, kenyataan privasi dan pengekalan data Inference API (tempat model dijalankan) (Bahasa Inggeris)](https://www.broadnet.ai/inference-privacy)
-   [Rujukan API BroadNet Inference (Bahasa Inggeris)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ms-glossary-inference-provider&utm_content=sources)
