Российская соцсеть сократила уровень токсичности в комментариях

Искусственный интеллект (ИИ) внедренный на российской социальной сети «Одноклассники», временно ограничивает пользователей, которые публикуют оскорбительные комментарии.

Эту информацию сообщили в пресс-релизе, который поступил в редакцию портала «Лента.ру».

Новая модель машинного обучения, внедренная в «Одноклассниках», автоматически выявляет токсичные комментарии и блокирует их авторов на определенный период времени — от одного часа до 24 часов, в зависимости от активности пользователя в публикации негативных высказываний. Это привело к сокращению числа подобных сообщений на 47 процентов под постами, фотографиями и видео.

Такие меры направлены на создание более безопасной и дружественной среды в социальной сети, где пользователи могут общаться и выражать свое мнение, не опасаясь оскорблений и негатива. Это позитивно сказывается на общей атмосфере в сообществе и способствует развитию позитивного взаимодействия между участниками.

Исследование, проведенное соцсетью, выявило, что более 40 процентов опрошенных испытывают злость от негативных постов. Пользователи выражают потребность в безопасном и уважительном общении, что подтверждается третьей частью жалоб на платформе, связанных с негативными комментариями. Директор по продукту соцсети «Одноклассники» Александр Москвичев отметил, что 80 процентов обращений в службу поддержки касаются проблем с токсичными комментариями.

Большинство пользователей соцсетей стремятся к позитивному и конструктивному общению, и негативные посты могут серьезно повлиять на их эмоциональное состояние. Следовательно, создание безопасного пространства для диалога становится ключевой задачей для платформы.

По словам Александра Москвичева, важно развивать механизмы контроля за токсичными комментариями и обеспечивать поддержку пользователям, сталкивающимся с негативом. Социальные сети должны активно работать над улучшением культуры общения и предоставлением инструментов для борьбы с негативом в онлайн-среде.

Новые технологии в области машинного обучения позволили обучить ML-модель на огромном объеме данных - 400 тысяч недружелюбных высказываний. Этот шаг существенно улучшил процесс обработки жалоб на токсичные посты, сократив время реакции в три раза. Благодаря этому стало возможным быстрее помогать пользователям решать их проблемы.

Вместе с другими инновационными продуктовыми решениями, внедренными в последние два года, фильтрация токсичных комментариев поможет социальной сети не только улучшить опыт редко посещающих пользователей, но и привлечь новую аудиторию. Это важный шаг в создании безопасной и дружественной онлайн среды для всех участников.

Ранее платформа «Одноклассники» уже начала использовать автоматическое обнаружение нецензурных слов и скрытие их, а также размытие изображений с эротическим содержанием. Эти меры направлены на поддержание высоких стандартов контента и защиту пользователей от вредоносного воздействия в сети.

Развитие технологий в области машинного обучения позволило социальным сетям эффективно фильтровать нежелательный контент и защищать пользователей от различных негативных воздействий. К примеру, одна из соцсетей внедрила систему модерации на основе искусственного интеллекта, которая блокирует информацию, предназначенную для лиц старше 18 лет. Важно отметить, что в 2023 году данная платформа также представила новую ML-модель, которая эффективно ограничивает навязчивые попытки знакомства и общения с нежелательными собеседниками.

Новая технология модерации, основанная на машинном обучении, позволяет социальным сетям более точно и быстро выявлять и удалять контент, который может нарушать правила платформы или наносить вред пользователям. Такие инновации способствуют созданию безопасного и комфортного онлайн-пространства для всех участников сообщества.

Благодаря постоянному совершенствованию алгоритмов и моделей машинного обучения, социальные сети продолжают улучшать качество модерации контента и повышать уровень защиты пользователей от нежелательных ситуаций. Важно, чтобы подобные инновации шли в ногу с развитием интернет-среды и отражали актуальные потребности и требования пользователей.

Источник и фото - lenta.ru