OpenAI демонстрирует, что GPT-4 может оценивать посты в социальных сетях в соответствии с контентной политикой. Предполагается, что система будет работать значительно быстрее и гибче, чем человеческие модераторы.

Чтобы утвердить GPT-4 в качестве надежной системы модерации, OpenAI сначала проводит согласование с человеческими экспертами. Сначала OpenAI поручает экспертам по контентной политике просмотреть контент, подлежащий модерации.

Затем GPT-4, получив информацию о контентной политике, проводит аналогичную оценку. После чего модель сталкивается с оценкой человеческих экспертов и должна объяснить любое отклонение от нее.

На основе этих объяснений можно скорректировать контентную политику таким образом, чтобы в последующих случаях модерации модель получала ту же оценку, что и человек. Когда оценки человека и GPT-4 достоверно совпадают, модель можно использовать на практике.

По данным OpenAI, система модерации постоянно совершенствуется и обучается по мере уточнения и прояснения контентных политик. Значительно более быстрое принятие изменений в политике позволяет сэкономить много времени: модель может реализовать изменение политики в течение нескольких часов. Для этого необходимо обучить модераторов, что может занять несколько месяцев.

Для того чтобы вычислительные усилия были минимальными, OpenAI использует более мелкую модель, которая после точной настройки с учетом предсказаний более крупной модели берет на себя выполнение задач по модерированию.

По мнению OpenAI, предложенный метод использования GPT-4 для модерации может быть воспроизведен любым человеком, имеющим доступ к его API.