Кроме обычных открытых моделей gpt-oss, у OpenAI есть менее известная ветка — gpt-oss-safeguard. Это не чат-бот для повседневных вопросов, а инструмент для одной задачи: проверять тексты на соответствие правилам, которые вы сами напишете. Например, находить спам в комментариях, оскорбления в чате поддержки или запрещённые товары в объявлениях.
Модели вышли осенью 2025 года, распространяются с открытыми весами по лицензии Apache 2.0 и работают на своём сервере или компьютере. Разбираем, чем они отличаются от обычных gpt-oss, кому полезны и как написать политику, чтобы модель работала точно.
Что такое gpt-oss-safeguard
gpt-oss-safeguard — это дообученные версии gpt-oss, которые умеют рассуждать о безопасности. Главная идея — «приносите свою политику»: вместо встроенного списка запрещённого вы передаёте модели собственные правила в системном сообщении, а она решает, нарушает ли текст эти правила, и объясняет почему.
Есть две версии:
| Модель | Параметры | Активные параметры | Где запускать |
|---|---|---|---|
| gpt-oss-safeguard-120b | 117 млрд | 5,1 млрд | Одна GPU на 80 ГБ (например, H100) |
| gpt-oss-safeguard-20b | 21 млрд | 3,6 млрд | Видеокарта с 16 ГБ памяти |
Обе модели обучены на формате ответов harmony и, по словам OpenAI, корректно работают только с ним. Если вы запускаете их через vLLM, Ollama или LM Studio, формат применяется автоматически.
Чем она отличается от обычной gpt-oss
Обычные gpt-oss-20b и gpt-oss-120b — универсальные модели: пишут тексты, отвечают на вопросы, работают с кодом. safeguard-версии OpenAI рекомендует использовать только для задач безопасности, а для всего остального — обычные gpt-oss.
Отличается она и от других моделей-фильтров. В руководстве OpenAI и ROOST её противопоставляют «готовым» фильтрам:
- «Готовые» фильтры вроде LlamaGuard или ShieldGemma: у них заранее зашито, что считать опасным, и свою классификацию в них не задашь.
- Модель, которая следует вашей политике, — gpt-oss-safeguard: правила задаёте вы, и их можно поменять в любой момент без переобучения.
Ещё одно преимущество — прозрачность. Модель показывает разработчику ход своих рассуждений, поэтому легко понять, почему тот или иной текст помечен. Важно: эти рассуждения предназначены для команды, а не для показа обычным пользователям.
Для каких задач она подходит
По описанию OpenAI, модель рассчитана на:
- фильтрацию входящих запросов и ответов других языковых моделей;
- разметку контента на площадке в реальном времени;
- офлайн-разметку больших массивов для команд модерации.
Примеры использования: модерация комментариев и отзывов, проверка объявлений на маркетплейсе, фильтр для чат-бота поддержки, поиск спама. Руководство адресовано инженерам по безопасности платформ, разработчикам приложений и авторам правил модерации, которые хотят протестировать формулировки на реальных примерах.
Как написать политику
Качество работы почти полностью зависит от того, как написана политика. OpenAI и ROOST советуют оформлять её как руководство для модераторов, а не как эссе.
Структура
Политика должна состоять из четырёх частей:
- Инструкция — что модель должна сделать и в каком формате ответить.
- Определения — краткие объяснения ключевых терминов.
- Критерии — что считается нарушением, а что нет.
- Примеры — 4–6 коротких случаев около границы, с метками 0 (допустимо) и 1 (нарушение).
Простой шаблон на русском для политики против спама:
<code># Политика: спам в комментариях</code><br><code>## ИНСТРУКЦИЯ: оцени комментарий и ответь 0 или 1.</code><br><code>## ОПРЕДЕЛЕНИЯ: спам — массовая реклама, ссылки на сторонние магазины, повторяющиеся сообщения.</code><br><code>## НАРУШЕНИЕ (1): реклама товаров и услуг, призывы перейти по ссылке.</code><br><code>## ДОПУСТИМО (0): мнение о статье, вопрос автору, ссылка на источник по теме.</code><br><code>## ПРИМЕРЫ: …</code>
Длина
Модель может справиться с политикой примерно до 10 тыс. токенов, но по ранним тестам оптимальный объём — 400–600 токенов. Если правил много, ужмите каждую категорию до 300–600 токенов с одним-двумя примерами нарушений и допустимых случаев.
Формулировки
- Избегайте слов «обычно» и «как правило» — они дают ложные срабатывания.
- Для неоднозначных случаев предусмотрите передачу на ручную проверку.
- Укажите, какое правило главнее, если текст нарушает сразу несколько.
- Можно проверять несколько политик в одном запросе, но каждая новая немного снижает точность.
Уровень рассуждений
Как и обычные gpt-oss, safeguard-модели поддерживают три уровня рассуждений: низкий, средний и высокий. По умолчанию используется средний. Высокий уровень помогает в сложных случаях, где правила пересекаются, а низкий даёт быстрые ответы для больших потоков контента.
Как запустить
Модели можно скачать с Hugging Face или запустить привычными инструментами:
- Ollama: <code>ollama run gpt-oss-safeguard:20b</code> или <code>ollama run gpt-oss-safeguard:120b</code>;
- LM Studio: <code>lms get openai/gpt-oss-safeguard-20b</code>;
- vLLM: <code>vllm serve openai/gpt-oss-safeguard-120b</code> — для серверов с мощными GPU;
- Transformers — для запуска на обычных видеокартах.
Попробовать модель без установки можно в демо на Hugging Face. Версии 20b хватает видеокарты на 16 ГБ — подробнее о том, какие модели тянут игровые видеокарты, мы писали в статье о замене ChatRTX на RTX. Если нужна модель общего назначения покрупнее, посмотрите Mistral Medium 3.5 с открытыми весами.
Ограничения
- Качество на русском языке официально отдельно не описано, поэтому проверьте модель на собственном наборе примеров до запуска в работу.
- Она медленнее и дороже обычных классификаторов, а классификатор, обученный на тысячах ваших примеров, скорее всего, справится со своей узкой задачей лучше. OpenAI советует сначала отсеивать поток простыми быстрыми фильтрами и отправлять в safeguard только спорные случаи.
- Это классификатор, а не полноценная система модерации: решения в спорных случаях лучше отдавать людям.
- Без формата harmony модель работает некорректно.
Если стандартного поведения не хватает и нужно подстроить модель под свои данные, пригодится руководство по дообучению открытых моделей через LoRA.
Частые вопросы
gpt-oss-safeguard бесплатная?
Да, веса доступны бесплатно по лицензии Apache 2.0, в том числе для коммерческого использования. Платить нужно только за собственное железо или облачные серверы.
Можно ли использовать её как обычный чат-бот?
Технически да, но OpenAI рекомендует её только для задач безопасности. Для общения и работы с текстами лучше обычные gpt-oss.
Какую версию выбрать?
Для локального запуска и быстрых проверок — 20b. Для промышленной модерации с высоким уровнем рассуждений — 120b на сервере с GPU на 80 ГБ.
Что такое ROOST?
Robust Open Online Safety Tools — организация, которая развивает открытые инструменты безопасности для онлайн-площадок. Вместе с OpenAI она подготовила руководство по gpt-oss-safeguard, а её открытый движок правил Osprey умеет вызывать модель для спорных случаев.
