21 сентября 2020, 11:34 21 сентября 2020, 12:34 21 сентября 2020, 13:34 21 сентября 2020, 14:34 21 сентября 2020, 15:34 21 сентября 2020, 16:34 21 сентября 2020, 17:34 21 сентября 2020, 18:34 21 сентября 2020, 19:34 21 сентября 2020, 20:34 21 сентября 2020, 21:34

Отображающий фотографии в Twitter алгоритм уличили в расизме

В социальной сети Twitter нейросети ответственны не только за составление персонализированной ленты или рекомендации аккаунтов. Алгоритму поручена и такая, казалось бы, рутинная операция как обрезка опубликованных пользователями изображений — задача состоит в том, чтобы автоматически показать пользователю в ленте наиболее релевантную часть фото или картинки, не умещающейся целиком в стандартную рамку.

В социальной сети Twitter нейросети ответственны не только за составление персонализированной ленты или рекомендации аккаунтов. Алгоритму поручена и такая, казалось бы, рутинная операция как обрезка опубликованных пользователями изображений — задача состоит в том, чтобы автоматически показать пользователю в ленте наиболее релевантную часть фото или картинки, не умещающейся целиком в стандартную рамку.

Как выяснили пользователи, примененный соцсетью алгоритм выбора части снимка, несущей максимум информации, оказался "расистским". При прочих равных он отдавал предпочтение лицам людей европеоидной расы, а темнокожих "дискриминировал".

Установили это, проведя эксперименты со специально созданными изображениями — в них вставляли, например, фото Барака Обамы и сенатора-республиканца Митча Макконнела, размещая их в разных концах вытянутого в высоту изображения, середина которого оставалась пустой. Результат можно увидеть ниже:

Было высказано предположение, что на результат влияет не цвет кожи, а фон снимка — алгоритм якобы выбирает более светлый. Однако тестирование это опровергло:

В Twitter отреагировали на обнаруженную тенденциозность соцсети, заявив: алгоритм перед внедрением протестировали на расовую и гендерную предвзятость, но проблем не нашли. Поскольку пользовательский эксперимент демонстрирует обратное, команда разработчиков проведет более тщательный анализ созданного кода.

Читайте также

Видео по теме

Эфир

Лента новостей

Авто-геолокация