26 ноября 2024, 09:00 26 ноября 2024, 10:00 26 ноября 2024, 11:00 26 ноября 2024, 12:00 26 ноября 2024, 13:00 26 ноября 2024, 14:00 26 ноября 2024, 15:00 26 ноября 2024, 16:00 26 ноября 2024, 17:00 26 ноября 2024, 18:00 26 ноября 2024, 19:00

"Одноклассники" сократили на 47% число негативных комментариев с помощью ИИ

Администрация социальной сети "Одноклассники" внедрила систему на основе машинного обучения, которая вводит ограничения для пользователей, пишущих оскорбительные комментарии.

Создатели системы использовали модель машинного обучения (ML-модель). Она автоматически выявляет токсичные сообщения под видео, фотографиями и постами пользователей. Автор лишается возможности писать что-либо на срок от одного часа до суток.

"Мы видим по запросам пользователей, что у нашей аудитории есть потребность в пространстве для безопасного и уважительного общения: треть всех жалоб на платформе связаны с негативными, по мнению пользователей, комментариями", — добавил директор по продукту "Одноклассников" Александр Москвичев.

Применение ML-модели уже позволило сократить число оскорбительных комментариев на 47%. Искусственный интеллект обучился, проанализировав 400 тысяч негативных высказываний. Также модель будет совершенствоваться во время работы.

Благодаря ИИ обработка жалоб на токсичные комментарии происходит в три раза быстрее.

Также в "Одноклассниках" ML-модели используются для обнаружения нецензурной брани, изображений эротического содержания и фотографий со сценами насилия. Весь найденный неприемлемый контент скрывается, чтобы не доставлять дискомфорта пользователям.

Ранее президент РФ Владимир Путин заявил, что России необходимо развивать суверенный искусственный интеллект.