Искусственный интеллект спрячет "токсичные" комментарии в Chrome

Компания Jigsaw (бывшая Google Ideas, а ныне — часть холдинга Alphabet) — разработчик инструментов для обхода цензуры, борьбы с кибербуллингом и харрасментом в онлайне — выпустила расширение для браузера Chrome, которое автоматически скрывает "токсичные" комментарии в социальных сетях. Новый плагин Tune доступен для скачивания из магазина Chrome Web Store, а его исходный код открыт.

Дополнение позволяет настраивать видимость записей, которые могут показаться оскорбительными. Регулируя шайбу, можно убавить "громкость" и уменьшить объем гневных постов либо разрешить показ сообщений отдельного типа, содержащих нападки, оскорбления или ненормативную лексику. При желании, выкрутив шабу на ноль, можно вовсе скрыть любые пользовательские записи.

В Jigsaw говорят, что Tune — это экспериментальный продукт, разработка которого пока не завершена. Плагин совместим только с некоторыми сайтами: YouTube, Twitter, Facebook (запрещена в РФ), Reddit и Disqus. Для распознавания "токсичного" текста применяются модели машинного обучения. Те же самые инструменты используются в Perspective AI — системе искусственного интеллекта, позволяющей блогерам и авторам каналов на YouTube и Twitter скрывать комментарии, которые алгоритмы сочтут оскорбительными.

Пока Tune умеет работать только с английским языком. Все комментарии на других языках будут показаны сверху либо, в зависимости от настроек, полностью скрыты.