Социальная сеть "Одноклассники" начала временно ограничивать пользователей, которые пишут оскорбительные комментарии. Для этого была внедрена модель машинного обучения, которая автоматически находит токсичные комментарии и блокирует их авторов на время от 1 до 24 часов, в зависимости от частоты таких высказываний.

Модель была обучена на 400 000 недружелюбных или провоцирующих комментариев. Чтобы понять, какие комментарии считаются токсичными, "Одноклассники" провели опрос среди своих пользователей. В результате внедрения модели время обработки жалоб на токсичные посты сократилось в три раза, и люди быстрее получают помощь. Это позволило уменьшить количество негативных комментариев под постами, фотографиями и видео на 47%.