Социальная сеть Одноклассники внедрила модель машинного обучения для временного ограничения пользователей, оставляющих оскорбительные комментарии. Эта технология позволила сократить долю и количество негативных высказываний под постами, фотографиями и видео на 47%, сообщили в компании.
Модель автоматически выявляет токсичные комментарии и ограничивает авторов в написании новых на определенный промежуток времени – от одного до 24 часов, в зависимости от частоты негативных высказываний.
По данным исследования ОК, негативные посты вызывают злость у более чем 40% пользователей, принявших участие в опросе. Модель обучалась на 400 тыс. недружелюбных и провоцирующих негативную дискуссию высказываниях. Кроме того, новая технология позволила сократить время обработки жалоб на токсичные посты в три раза.
Директор по продукту ОК Александр Москвичев отметил, что треть всех жалоб на платформе связаны с негативными комментариями, а 80% обращений в службу поддержки касаются токсичности.
«Мы обучали эту модель больше года и продолжим совершенствовать ее в дальнейшем. Вместе с другими продуктовыми решениями, которые мы внедрили за последние два года, ограничение токсичных комментаторов позволит соцсети не только быстрее вернуть на платформу редко посещающих ОК пользователей, но и привлечь новых», — заявил Москвичев.
Ранее в этом году Одноклассники начали автоматически обнаруживать нецензурные слова и скрывать их, а также размывать изображения эротического характера. Модерация на базе машинного обучения позволяет ограничивать нежелательный контент, включая материалы 18+ и сцены насилия. В прошлом году соцсеть запустила модель, ограничивающую навязчивые знакомства и общение с нежелательными собеседниками.
