BroadRouter
开始使用

开放权重模型(open-weight model)

更新于

开放权重模型是公开发布训练好的权重、任何人都可以下载和运行的机器学习模型,通常附带有条件的许可证。它不同于完全开源的 AI,后者还会公开训练代码和训练数据的详细信息,让其他人能够研究并复现模型。

又称: 开放权重、开源模型、开源大模型、开放模型、权重开源、open-weight model、open weights、open model、open-weights LLM、openly available model weights

一个模型主要就是一个由数字组成的超大文件,也就是它的权重。开发者公开这个文件后,任何人都可以在自己的硬件上运行这个模型。

工作原理

训练产生权重,即神经网络学到的参数。开放源代码促进会(OSI)把开放权重描述为 “the final weights and biases of a trained neural network.”(译文:训练好的神经网络最终的权重和偏置。)有了它们,你就可以运行推理、微调或量化模型。

按 OSI 的说法,开放权重通常不包括:

  • 训练代码;
  • 训练数据的详细信息。

OSI 的开源 AI 定义要求在权重之外同时公开这两项,让其他人能够研究并复现模型。许多热门模型是开放权重的,但并不是这个意义上的开源。美国政府的报告使用了一个相关的说法:具有 “widely available model weights”(译文:广泛可得的模型权重)的模型。例如,Google 把它的 Gemma 系列称为 “open models”(开放模型)。

每个开放权重的发布都附带许可证。常见的有 Apache-2.0 和 MIT,另一些则限制商用。许可证决定了你能否通过 API 把模型提供给他人使用。

为什么重要

  • 可以选择在哪里运行。 自行部署以获得完全控制,或者调用提供同一模型的多家服务商之一。
  • 隐私。 你可以把数据留在自己的硬件上,或者选择提供零数据保留的托管方。
  • 不被锁定。 如果某家服务商改了条款,同样的权重可以在别处运行。OpenAI 兼容 API 让切换只是改一下配置。
  • 同名不同配置。 两家服务商提供同一个模型时,量化方式、上下文上限或设置都可能不同。请用你自己的提示词测试。

在 BroadNet Inference 上

BroadNet 的模型目录说 “~270 models run on our GPUs”(译文:约 270 个模型在我们的 GPU 上运行)(实验室数据,2026 年 9 月)。这个数字统计的是 BroadNet 称自己运行、基准测试、量化或微调过的所有模型,包括被它排除的模型,而不只是其 API 上的模型。它的隐私声明把托管描述为 BroadNet 自有或租用的美国硬件,并以合作伙伴的算力作为备份。它的模型目录会标明许可证,因为用它的话说,许可证 “decide what can be served through an API.”(译文:决定了哪些模型可以通过 API 提供服务。)BroadNet Gemma 4 VL 26B 是 BroadNet 基于 Google Gemma 4 构建的版本。BroadNet Transcribe Arabic 基于 Cohere Transcribe,BroadNet 报告它在 Open Universal Arabic ASR Leaderboard 上排名 第 2 名(共 37 个) (这是 2026年9月的数据;2026年11月15日实时榜单上为 39 个中的第 4 名),并在许可证允许通过 API 提供服务的模型中排名第一。

要为阿拉伯语文本选择模型,请看如何为阿拉伯语选择大模型。

常见问题

开放权重模型等同于开源吗?

按开放源代码促进会(OSI)的定义,不等同。开放权重给你的是训练好的模型。开源 AI 还要求公开完整的训练代码和训练数据的详细信息,让其他人能够研究并重建它。

任何开放权重模型都能商用吗?

不能。许可证各不相同。有些允许商用和通过 API 提供服务,有些则是非商用或附加了条件。请阅读你所用的那个具体检查点的许可证。

为什么要通过托管 API 使用开放权重模型?

运行大模型需要 GPU、推理服务软件和运维工作。托管 API 让你凭一个密钥就能用上同一个模型,同时保留以后自行部署的选择。

以 Markdown 格式阅读问 ChatGPT问 Claude问 Perplexity