Một model phần lớn là một file số rất lớn, tức trọng số của nó. Khi nhà phát triển công bố file đó, ai cũng có thể chạy model trên phần cứng của mình.
Cách hoạt động
Huấn luyện tạo ra trọng số: các tham số mà mạng nơ-ron đã học được. Open Source Initiative mô tả trọng số mở là “the final weights and biases of a trained neural network.” (Bản dịch: trọng số và bias cuối cùng của một mạng nơ-ron đã huấn luyện). Có chúng, bạn có thể chạy inference, fine-tune hoặc lượng tử hóa model.
Theo OSI, trọng số mở thường không bao gồm:
- code huấn luyện;
- thông tin chi tiết về dữ liệu huấn luyện.
Định nghĩa Open Source AI của OSI yêu cầu cả hai, cùng với trọng số, để người khác nghiên cứu và tái tạo model. Nhiều model phổ biến là trọng số mở nhưng không phải mã nguồn mở theo nghĩa đó. Các báo cáo của chính phủ Mỹ dùng một cách gọi gần giống: model có “widely available model weights” (Bản dịch: trọng số model được công bố rộng rãi). Ví dụ, Google gọi dòng Gemma là “open models” (Bản dịch: model mở).
Mỗi bản phát hành trọng số mở đều kèm giấy phép. Phổ biến có Apache-2.0 và MIT, trong khi một số khác hạn chế dùng thương mại. Giấy phép quyết định bạn có được phục vụ model cho người khác qua API hay không.
Vì sao quan trọng
- Chọn nơi chạy. Tự host để kiểm soát hoàn toàn, hoặc gọi một trong nhiều nhà cung cấp phục vụ cùng model.
- Quyền riêng tư. Bạn có thể giữ dữ liệu trên phần cứng của mình, hoặc chọn nơi host có chính sách không lưu giữ dữ liệu.
- Không bị khóa. Nếu một nhà cung cấp đổi điều khoản, cùng trọng số đó chạy được ở nơi khác. Một API tương thích OpenAI biến việc chuyển đổi thành một thay đổi cấu hình.
- Cùng tên, cách phục vụ khác nhau. Hai nhà cung cấp có thể phục vụ một model với mức lượng tử hóa, giới hạn context hay thiết lập khác nhau. Hãy thử trên prompt của chính bạn.
Trên BroadNet Inference
Danh mục model của BroadNet viết “~270 models run on our GPUs” (Bản dịch: khoảng 270 model đã chạy trên GPU của chúng tôi) (số liệu phòng lab, tháng 9 năm 2026). Con số này tính mọi model mà BroadNet nói đã chạy, benchmark, lượng tử hóa hoặc fine-tune, kể cả những model họ đã loại, chứ không chỉ các model trên API. Tuyên bố quyền riêng tư của BroadNet mô tả hạ tầng là phần cứng tại Mỹ do BroadNet sở hữu hoặc thuê, với năng lực của đối tác làm dự phòng. Danh mục model của BroadNet hiển thị giấy phép, vì theo lời họ, giấy phép “decide what can be served through an API.” (Bản dịch: quyết định những gì được phục vụ qua API). BroadNet Gemma 4 VL 26B là bản build của BroadNet từ Gemma 4 của Google. BroadNet Transcribe Arabic dựa trên Cohere Transcribe, và BroadNet báo cáo model này đứng thứ 2/37 (số liệu tháng 9 năm 2026; bảng xếp hạng trực tiếp ngày 15 tháng 11, 2026 ghi nhận thứ 4/39) trên Open Universal Arabic ASR Leaderboard, và đứng đầu trong số các model có giấy phép cho phép phục vụ qua API.
Để chọn model cho văn bản tiếng Ả Rập, xem chọn LLM cho tiếng Ả Rập.