ОК почти вдвое сократили токсичность в комментариях с помощью ИИ

Сеть Одноклассники внедрила разработку на основе Искусственного интеллекта для ограничения тех авторов, которые оставляют токсичные и оскорбительные комментарии. Если пользователь оставит подобный комментарий, он не сможет написать новое сообщение в течение определенного промежутка времени — от одного часа до 24 часов. Нововведение на основе машинного обучения позволило сократить долю и количество негативных высказываний под постами, фотографиями и видео на 47%.

Директор по продукту Александр Москвичев отметил, что у пользователей есть потребность в пространстве для безопасного и уважительного общения и треть всех жалоб была связана с негативными комментариями.

«Мы обучали эту модель больше года и продолжим совершенствовать её в дальнейшем», - пообещал Москвичев. Он выразил надежду, что это позволит вернуть на платформу тех пользователей, которые сократили свое посещение и привлечь новых.