🔥 OpenAI випустили дві нові відкриті моделі - gpt-oss-safeguard 20B та 120B

Моделі побудовані на базі gpt-oss і спеціалізуються на класифікації тексту за критеріями безпеки. Головна фішка - правила фільтрації визначає сам користувач під час інференсу, і вони можуть бути абсолютно будь-якими.

На перший погляд ніша здається вузькою, але насправді завдань з модерації контенту величезна кількість, особливо з огляду на зростання популярності ШІ.

За словами OpenAI, моделі показують відмінні результати, якщо їм дати чіткі інструкції. У компанії вже використовують їх для оцінки безпеки запитів та елайнменту моделей.

Зручність у тому, що різні ситуації потребують різних політик: для неповнолітніх одна, для моделей інша, для бізнесу третя - і при цьому не треба навчати окремі класифікатори під кожен кейс.