---
title: "Apa itu vocabulary size pada tokenizer LLM? | BroadRouter"
description: "Vocabulary size adalah jumlah token berbeda yang dikenal model. Ukurannya di DeepSeek, GLM, Qwen, dan Gemma, dan kenapa lebih besar tak selalu berarti hemat token."
url: https://broadrouter.com/id/glossary/vocabulary-size/
lang: id
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Diterjemahkan dari bahasa Inggris dengan bantuan AI. [Baca versi asli bahasa Inggris](https://broadrouter.com/glossary/vocabulary-size/) (diperbarui 2026-11-16).

# Ukuran kosakata (vocabulary size)

Diperbarui 2026-11-16

Vocabulary size (ukuran kosakata) adalah jumlah token berbeda di tokenizer sebuah model bahasa, masing-masing dengan ID dan embedding sendiri. Kosakata yang lebih besar bisa mengodekan teks umum dengan lebih sedikit token, tetapi memperbesar lapisan embedding dan output, dan hanya membantu untuk teks yang dipakai melatih kosakatanya.

Disebut juga: ukuran kosakata, vocabulary size, kosakata tokenizer, ukuran vocab, jumlah token tokenizer, vocab size, vocab\_size, tokenizer vocabulary, token vocabulary

Vocabulary size memberi tahu berapa banyak potongan teks berbeda yang bisa direpresentasikan model dengan satu [token](https://broadrouter.com/id/glossary/token/).

## Cara kerjanya

Kosakata tokenizer [BPE](https://broadrouter.com/id/glossary/bpe/) terdiri atas simbol dasarnya ditambah setiap merge yang dipelajarinya. Dokumentasi Hugging Face memberi contoh GPT generasi pertama: 478 token dasar + 40.000 merge = 40.478. Pembuat tokenizer memilih ukuran target sebelum pelatihan.

Kami membaca kosakata dari `tokenizer.json` yang di-pin untuk setiap model di Hugging Face pada 2026-11-14:

| Tokenizer | Entri kosakata | Total ID termasuk token khusus |
| --- | --- | --- |
| DeepSeek V4.1 Flash | 128.000 | 129.280 |
| GLM 5.3 | 154.820 | 154.856 |
| Qwen3.8 27B | 248.044 | 248.077 |
| Gemma 4 26B A4B (basis Google) | 262.144 | 262.144 |
| OpenAI o200k\_base (referensi) | 199.998 | 200.019 |

Model card Gemma 4 menyebut kosakata 262K, dan itu cocok. Model card Qwen3.8 mencantumkan ukuran embedding 248.320 “padded” (terjemahan: dengan padding), lebih besar dari 248.077 ID yang benar-benar dipakai.

## Mengapa penting

Bagi pengguna API, vocabulary size adalah petunjuk tidak langsung tentang biaya per kata. Yang menentukan adalah teks apa yang dipakai melatih merge-nya. Bandingkan token per 100 kata untuk 39,037 kata Bahasa Arab Standar Modern yang sama di [dataset tokenizer](https://broadrouter.com/data/tokenizer-efficiency/) kami:

-   DeepSeek V4.1 Flash, 128.000 entri: 86,690 / 39,037 x 100 = 222.1
-   GLM 5.3, 154.820 entri: 95,230 / 39,037 x 100 = 243.9
-   Qwen3.8 27B, 248.044 entri: 71,424 / 39,037 x 100 = 183.0
-   Gemma 4, 262.144 entri: 79,120 / 39,037 x 100 = 202.7

GLM 5.3 punya lebih banyak entri daripada DeepSeek, tetapi memakai lebih banyak token pada teks ini. Gemma punya entri terbanyak, tetapi bukan yang paling ringkas. Untuk prosa bahasa Inggris, kelimanya berada di antara 127 dan 132 token per 100 kata, jadi di sana vocabulary size hampir tidak berpengaruh.

Aturannya: ukur teks Anda sendiri dengan [tokenizer](https://broadrouter.com/id/glossary/tokenizer/) model tersebut, alih-alih menebak biaya dari angka kosakatanya.

## Di BroadNet Inference

BroadNet tidak memublikasikan vocabulary size; angka di atas berasal dari repo model publik. Baris Gemma memakai tokenizer basis Google, yang kami asumsikan tetap dipakai oleh build Gemma 4 VL 26B milik BroadNet. Untuk melihat efeknya pada prompt Anda sendiri, pakai [penghitung token](https://broadrouter.com/tools/token-counter/), dan untuk memilih model bagi bahasa Arab, baca [memilih LLM untuk bahasa Arab](https://broadrouter.com/id/blog/choosing-an-llm-for-arabic/) bersama [studi token per kata](https://broadrouter.com/id/blog/tokens-per-word-arabic-english/).

## Pertanyaan umum

### Apakah kosakata yang lebih besar berarti lebih sedikit token?

Sering, tetapi tidak selalu. Dalam uji kami pada 2026-11-14, Gemma 4 punya kosakata terbesar (262.144), tetapi memakai 347 token untuk teks Arab yang dikodekan Qwen3.8 27B, dengan 248.044 entri, dalam 316 token.

### Kenapa vocab\_size dan file tokenizer tidak cocok?

Config model sering mem-padding tabel embedding ke angka bulat dan menyisihkan ID untuk token khusus. Qwen3.8 27B mencantumkan ukuran dengan padding 248.320, sementara tokenizer.json-nya memakai ID 0 sampai 248.076 (ID dimulai dari 0), jadi totalnya 248.077.

### Di mana saya bisa menemukan vocabulary size sebuah model?

Di config.json model sebagai vocab\_size, atau dengan memuat tokenizer.json-nya dan menghitung entrinya. Nilai di config sering sudah di-padding, jadi file tokenizer memberi jumlah pasti token yang dipakai.

## Lihat juga

-   [Tokenizer](https://broadrouter.com/id/glossary/tokenizer/) (istilah)
-   [Byte pair encoding (BPE)](https://broadrouter.com/id/glossary/bpe/) (istilah)
-   [Token](https://broadrouter.com/id/glossary/token/) (istilah)
-   [Context window (jendela konteks)](https://broadrouter.com/id/glossary/context-window/) (istilah)
-   [Token per kata bahasa Arab vs Inggris: mengapa bahasa Arab lebih mahal](https://broadrouter.com/id/blog/tokens-per-word-arabic-english/) (artikel)
-   [Memilih API LLM untuk bahasa Arab: apa yang perlu diuji](https://broadrouter.com/id/blog/choosing-an-llm-for-arabic/) (artikel)

Coba dengan beban kerja Anda yang sebenarnya. Akun baru mendapat kredit US$5 untuk Gemma dan transkripsi. DeepSeek, GLM, dan Qwen3.8 memerlukan top up.

[Mulai](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=id-glossary-vocabulary-size&utm_content=page-cta) ·

**Sumber**

-   [Hugging Face Transformers, algoritma tokenisasi (vocabulary size sebagai simbol dasar ditambah merge)](https://huggingface.co/docs/transformers/tokenizer_summary)
-   [Model card Hugging Face, google/gemma-4-26B-A4B-it (kosakata 262K)](https://huggingface.co/google/gemma-4-26B-A4B-it)
-   [Model card Hugging Face, Qwen/Qwen3.8-27B (embedding dengan padding 248.320)](https://huggingface.co/Qwen/Qwen3.8-27B)
-   [Repo model Hugging Face, zai-org/GLM-5.3 (sumber tokenizer.json GLM)](https://huggingface.co/zai-org/GLM-5.3)
