---
title: "Отбракованные модели BroadNet: LLM, речь, OCR, эмбеддинги"
description: "BroadNet публикует отвергнутые модели с причинами: чат-модели, не прошедшие проверку на утечку учётных данных, и проигравшие модели речи, OCR и эмбеддингов."
url: https://broadrouter.com/ru/blog/models-broadnet-ruled-out/
lang: ru
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Переведено с английского с помощью ИИ. [Читать оригинал на английском](https://broadrouter.com/blog/models-broadnet-ruled-out/) (обновлён 2026-11-16).

# Какие модели BroadNet протестировала и отбраковала и почему

Команда BroadNet Inference · 4 мин чтения · Опубликовано 2026-11-15 · Обновлено 2026-11-16

В каталоге моделей BroadNet около 30 моделей и методов помечены как отбракованные после тестов в её лаборатории. Причины в основном делятся на пять групп: модель проиграла более сильной на той же задаче, проверка на утечку учётных данных, лицензия, запрещающая отдавать модель через API, формат квантования, проигравший в прямом сравнении, и регрессии на арабском. Все результаты — собственные измерения BroadNet за сентябрь 2026 года.

## Главное

-   Каталог BroadNet помечает каждую модель меткой PROD, SERVED, BENCH, QUANT, FT или RULED OUT и указывает причину каждой отбраковки.
-   Набор тестов BroadNet на утечку учётных данных не допустил к задачам безопасности три чат-модели: Qwen3.5 35B A3B, а также GLM 4.7 Flash и Nemotron 3 Nano 30B A3B, которые остаются с меткой SERVED, а не RULED OUT.
-   Спекулятивное декодирование EAGLE3 отбраковано: при 32 одновременных запросах оно отняло 69% пропускной способности.
-   LlamaParse отбракован как действующее решение для разбора документов: он терял таблицы, а самостоятельный хостинг, по словам BroadNet, обходился на 98% дешевле за 1000 страниц.
-   Победы в публичных рейтингах не выдержали реального арабского трафика BroadNet у нескольких моделей эмбеддингов.

**На этой странице**

1.  Какие чат-модели BroadNet отбраковала?
2.  Какие модели речи отбракованы?
3.  Какие модели для документов, эмбеддингов и изображений проиграли?
4.  Чему учат эти отказы?

[Каталог моделей](https://www.broadnet.ai/inference/models) BroadNet перечисляет все модели, которые, по её словам, она запускала, тестировала, квантовала или дообучала на собственном оборудовании, а отвергнутые помечает с указанием причины. Метку RULED OUT несут около 30 моделей и методов. Цифры ниже измерены в лаборатории BroadNet в сентябре 2026 года; это результаты BroadNet, а не наши.

В каталоге шесть меток: PROD (обслуживала живой трафик), SERVED (в формулировке каталога — “ran on our fleet”, перевод: «запускалась на нашем парке серверов»), BENCH (протестирована на бенчмарках), QUANT (квантование выполнила BroadNet), FT (дообучена BroadNet) и RULED OUT (отбракована).

## Какие чат-модели BroadNet отбраковала?

| Модель | Что сделала BroadNet | Почему отбракована |
| --- | --- | --- |
| Qwen3.5 35B A3B (AWQ 4-bit) | Обслуживалась как скоростной уровень, около 164 токенов/с | Не прошла набор тестов BroadNet на утечку учётных данных для задач безопасности |
| GLM 4.7 Flash (AWQ) | Обслуживалась в экспериментальном режиме | Метка SERVED, а не RULED OUT: по словам BroadNet, модель не допущена к задачам безопасности из-за тестов на утечку учётных данных и не выведена в продакшен |
| Nemotron 3 Nano 30B A3B (NVFP4) | Обслуживалась с собственным парсером рассуждений | Метка SERVED, а не RULED OUT: по словам BroadNet, модель не допущена к задачам безопасности из-за тестов на утечку учётных данных и не выведена в продакшен |
| Qwen3.6 35B A3B | Обслуживалась на RTX 5090 и GB10 | Уступила место чат-бота Gemma 4 26B |
| Gemma 4 E4B (AWQ INT4) | Обслуживалась на GB10 как соседняя модель, около 94 токенов/с | Уступила место чат-бота Gemma 4 26B |
| Gemma 4 26B A4B NVFP4 (три издателя) | Оценивалось квантование | Выведена из работы в пользу AWQ после прямого сравнения на GPU sm\_120 и sm\_121 |
| Спекулятивное декодирование EAGLE3 | Тестировалось для обслуживания под полной нагрузкой | Отняло 69% пропускной способности при 32 одновременных запросах; оставлены драфтеры с предсказанием нескольких токенов |

Эта закономерность важна для всех, кто выбирает открытую модель. Три отказа связаны с безопасностью, а не с качеством: модели были достаточно быстрыми, но повторяли учётные данные. Именно такой сбой [исследование Safety Map](https://broadrouter.com/ru/blog/llm-safety-map-39-models/) BroadNet чаще всего находило у моделей mixture-of-experts с небольшим числом активных параметров. Модель, которая заняла место чат-бота, Gemma 4 26B A4B, BroadNet продаёт как [Gemma 4 VL 26B](https://broadrouter.com/ru/models/gemma-4-vl-26b/).

## Какие модели речи отбракованы?

| Модель | Почему отбракована |
| --- | --- |
| Gemma 4 E2B, Gemma 4 12B (как транскрайберы) | Вместо них оставлен аудиовариант E4B |
| Omnilingual ASR 300M, 1B, 3B и варианты CTC (Meta) | Место заняла версия 7B |
| Voxtral Mini 3B / 4B Realtime (Mistral) | Отбракованы для арабского |
| ArTSTv3 (линейка MBZUAI) | Отбракована для арабского места; оставлена Cohere Transcribe Arabic |
| FireRedVAD, DeepFilterNet, BNR (предобработка) | После прямого сравнения принято определение голосовой активности Silero |

BroadNet сообщает, что оставленная модель, Cohere Transcribe Arabic 07-2026, показывает долю ошибок в словах 21.1 на диалектной речи MASC — против 22.3 у ElevenLabs Scribe v2 и 31.5 у Whisper large-v3 в её собственном тесте. Эту модель она предлагает как [BroadNet Transcribe Arabic](https://broadrouter.com/ru/models/cohere-transcribe-arabic/). В каталоге также сказано, что Whisper large-v3 тестировалась как запасной вариант.

## Какие модели для документов, эмбеддингов и изображений проиграли?

**OCR и разбор документов**

-   **LlamaParse**, действующий API, набрал 16.6 на подмножестве OmniDocBench от BroadNet. BroadNet отбраковала его, потому что «it loses tables, and self-hosting is 98% cheaper per 1,000 pages» (перевод: «он теряет таблицы, а самостоятельный хостинг на 98% дешевле за 1000 страниц»).
-   **olmOCR-2, HunyuanOCR, GOT-OCR 2.0 и Nanonets OCR2** оценены и отбракованы; Nanonets — из-за условий лицензии. В продакшене оставлена dots.mocr, потому что она и разбирает документ, и описывает рисунки, хотя PaddleOCR-VL 1.6 набрала больше (94.74 против 86.81).

**Эмбеддинги**

-   **gemini-embedding-2** отбракована для арабского после регрессии относительно gemini-embedding-001 (0.767 против 0.824 на бенчмарке поиска BroadNet).
-   **nomic-embed-text v1.5**, прежнее действующее решение, набрала 0.468 в целом и 0.130 на арабском и выведена из работы.
-   **Octen 8B, Harrier 0.6B и Nemotron Embed 1B** обслуживались и были отбракованы на реальном арабском трафике, «where our podium held despite their public-board wins» (перевод: «где наши лидеры удержались, несмотря на их победы в публичных рейтингах»).

BroadNet приводит ещё один вывод, который оказался важнее выбора модели: инструкция для запроса, подобранная под конкретную нагрузку, сдвинула качество поиска (nDCG) на 0.048 — больше, чем переход с модели эмбеддингов на 4B на модель на 8B.

**Генерация изображений и безопасность**

-   **Cosmos3 Super 64B и HunyuanImage 3.0 80B** отбракованы из-за требований к оборудованию и условий лицензии.
-   **openai/privacy-filter 1.5B** поймал 100% учётных данных, но 0% сумм зарплат в корпусе утечек BroadNet, поэтому как файрвол он отбракован.

## Чему учат эти отказы?

Четыре урока верны и за пределами стека BroadNet:

1.  **Тестируйте задачу, а не рейтинг.** Несколько моделей эмбеддингов, побеждавших в публичных рейтингах, проиграли на реальном арабском трафике.
2.  **Безопасность — отдельный фильтр.** Быстрая и способная модель всё равно может провалить тест на учётные данные. Проведите такой тест до того, как модель увидит секреты; [методика оценки](https://broadrouter.com/ru/blog/llm-sensitive-data-safety-evaluation-method/) BroadNet — хорошая отправная точка.
3.  **Лицензия решает, что можно отдавать через API.** Некоммерческие модели, такие как Voxtral 4B TTS и Higgs Audio v3, присутствуют в каталоге лишь как планка качества.
4.  **Решения по обслуживанию тоже измеряются.** Форматы квантования и методы драфтинга отбраковывались по цифрам прямых сравнений, а не по умолчанию. См. статью [об оборудовании GPU и подходе BroadNet к обслуживанию моделей](https://broadrouter.com/ru/blog/broadnet-gpu-fleet-and-serving/).

Каждое число здесь получено в лаборатории и на трафике одной компании. Используйте их как короткий список того, что стоит проверить, а затем [оцените модели на своих данных](https://broadrouter.com/ru/blog/evaluate-llm-before-switching/), прежде чем переходить. Строку с пометкой «отбракована» или «протестирована» к тому же нельзя вызвать через API; статья [о том, как читать каталог моделей](https://broadrouter.com/ru/blog/understand-model-status/), объясняет, как отличить работающие, доступные по запросу и исследовательские записи.

Бесплатные инструменты по теме (на английском)

-   [LLM API cost calculator](https://broadrouter.com/tools/llm-api-cost-calculator/) Price a workload on every model at once, with cache hits, reasoning and a flat-plan check.
-   [LLM token counter](https://broadrouter.com/tools/token-counter/) Exact token counts with each model's real tokenizer, with a token view and cost.
-   [Context window calculator](https://broadrouter.com/tools/context-window-calculator/) Will it fit? Window used per model, room left for output, cost to send.

[Бесплатные инструменты (на английском)](https://broadrouter.com/tools/)

## Термины в этой статье

[AWQ (activation-aware weight quantization)](https://broadrouter.com/ru/glossary/awq/)

AWQ (activation-aware weight quantization) — это метод посттренировочной квантизации, который сжимает веса LLM до низкой точности, обычно до 4-битных целых. По статистике активаций на небольшом калибровочном наборе он находит самые важные каналы весов и масштабирует их, чтобы они меньше теряли в точности. Обратное распространение ему не нужно.

[Квантизация (quantization)](https://broadrouter.com/ru/glossary/quantization/)

Квантизация — это хранение чисел нейросети, в первую очередь её весов, в формате пониженной точности, например 8- или 4-битном вместо 16-битного, чтобы модель занимала меньше памяти и часто работала быстрее. Хорошие методы сохраняют потерю точности небольшой.

[Распознавание речи (speech-to-text)](https://broadrouter.com/ru/glossary/speech-to-text/)

Распознавание речи (speech-to-text, автоматическое распознавание речи, ASR) — это технология, которая превращает устную речь в письменный текст. API распознавания речи принимает аудиофайл или поток и возвращает расшифровку, обычно с оплатой за минуту аудио. Точность измеряют долей ошибок в словах (WER), и она зависит от акцента, диалекта и качества записи.

[Синтез речи (text-to-speech, TTS)](https://broadrouter.com/ru/glossary/text-to-speech/)

Синтез речи (text-to-speech, TTS) — это преобразование письменного текста в звучащую речь. API TTS принимает текст, голос и формат вывода, например MP3 или WAV, и возвращает сгенерированную речь. Это обратная задача по отношению к распознаванию речи, которое превращает аудио в текст.

[Спекулятивное декодирование (speculative decoding)](https://broadrouter.com/ru/glossary/speculative-decoding/)

Спекулятивное декодирование — это техника инференса, при которой небольшая быстрая черновая модель предлагает несколько следующих токенов, а большая целевая модель проверяет их за один прямой проход и оставляет принятые. Генерация ускоряется, а распределение выходных токенов не меняется.

[INT4](https://broadrouter.com/ru/glossary/int4/)

INT4 — это 4-битный целочисленный формат, способный представить 16 уровней. В инференсе LLM под ним обычно понимают 4-битную квантизацию только весов (W4A16): веса хранятся в INT4 с коэффициентами масштабирования и разворачиваются в 16 бит во время вычислений, занимая примерно четверть памяти 16-битных весов.

[Prefill и decode (префилл и декодирование)](https://broadrouter.com/ru/glossary/prefill-and-decode/)

Prefill и decode — это две фазы инференса LLM. На этапе prefill модель параллельно обрабатывает весь промпт и заполняет KV-кэш; на этапе decode она генерирует ответ по одному токену, повторно используя этот кэш. Prefill в основном определяет время до первого токена, decode — скорость вывода.

[RAG (генерация, дополненная поиском)](https://broadrouter.com/ru/glossary/rag/)

RAG (retrieval-augmented generation, генерация, дополненная поиском) — это подход, при котором приложение сначала находит во внешнем хранилище, например поисковом или векторном индексе, фрагменты, относящиеся к вопросу, а затем добавляет их в промпт, чтобы языковая модель отвечала по этому тексту, а не только по памяти.

## Вопросы и ответы

### Зачем BroadNet публикует модели, которые отвергла?

В каталоге сказано, что компания публикует «what we rule out as carefully as what we ship» (перевод: «то, что мы отбраковываем, так же тщательно, как то, что выпускаем»), чтобы покупатели видели логику каждой рекомендации. Отказ с указанной причиной — это довод, который можно проверить на своей нагрузке.

### Значит ли «отбракована», что модель плохая?

Нет. Большинство отказов касаются одного места в собственном конвейере BroadNet, на той конфигурации и том трафике, о которых сообщает BroadNet. Qwen3.6 35B A3B и Gemma 4 E4B уступили место чат-бота Gemma 4 26B, но для вашей задачи они могут подойти.

### Что такое набор тестов на утечку учётных данных?

Это проверка BroadNet того, повторяет ли модель учётные данные, которые видит; она основана на опубликованной компанией методике оценки работы с чувствительными данными. Модели, не прошедшие её, не допускаются в продакшен для задач безопасности.

### Почему модели отбраковывают из-за лицензий?

Некоторые сильные модели, например Voxtral 4B TTS и Higgs Audio v3, разрешены только для некоммерческого использования, поэтому BroadNet тестирует их лишь как планку качества и не может отдавать их через платный API.

### Доступны ли отбракованные модели в BroadNet Inference?

Нет. Через API продаются шесть моделей, и ещё три доступны по запросу. Модели с пометкой «отбракована» не предлагаются.

## Читайте также

-   [GPU-парк и подход к инференсу BroadNet — по описанию самой BroadNet](https://broadrouter.com/ru/blog/broadnet-gpu-fleet-and-serving/)
-   [Как оценить LLM перед сменой провайдера](https://broadrouter.com/ru/blog/evaluate-llm-before-switching/)
-   [Safety Map: как 39 LLM обращаются с конфиденциальными данными](https://broadrouter.com/ru/blog/llm-safety-map-39-models/)
-   [API распознавания арабской речи: как выбрать в 2026 году](https://broadrouter.com/ru/blog/arabic-speech-to-text-api-buyers-guide/)
-   [Live, по запросу, исследования: как читать каталог моделей](https://broadrouter.com/ru/blog/understand-model-status/)
-   [Альтернативы Artificial Analysis: где сравнивать LLM в 2026 году](https://broadrouter.com/ru/blog/artificial-analysis-alternatives/)
-   [SLA LLM API: что обещают Azure, Bedrock, Google и OpenAI](https://broadrouter.com/ru/blog/llm-api-sla-uptime-compared/)
-   [Руководство: BroadNet Inference в браузере: без регистрации](https://broadrouter.com/ru/guides/try-broadnet-inference-playground/)

Проверьте на своей реальной нагрузке. Новые аккаунты получают стартовый грант US$5 на Gemma и распознавание речи. Для DeepSeek, GLM и Qwen3.8 нужно пополнить баланс.

[Начать](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-blog-models-broadnet-ruled-out&utm_content=page-cta) ·

**Источники**

-   [Каталог моделей BroadNet: все модели, которые она запускает, тестирует, квантует или дообучает, включая отбракованные (измерения за сентябрь 2026; дата обращения 2026-11-15) (на английском)](https://www.broadnet.ai/inference/models)
-   [BroadNet Research: выводы о спекулятивном декодировании и обслуживании моделей (дата обращения 2026-11-15) (на английском)](https://www.broadnet.ai/research)
-   [Страница модели Gemma 4 VL 26B у BroadNet (дата обращения 2026-11-15) (на английском)](https://www.broadnet.ai/inference/models/gemma-4-vl-26b)
-   [Страница модели BroadNet Transcribe Arabic (дата обращения 2026-11-15) (на английском)](https://www.broadnet.ai/inference/models/cohere-transcribe-arabic)
