Twitter сообщает, что отказался от обрезки искусственного интеллекта из-за расы и гендерных предубеждений

Впервые мы услышали идею о том, что алгоритм обрезки изображений Twitter может иметь некоторые предубеждения, был в сентябре 2020 года. Инженер-криптограф Тони Аркьери загрузил два изображения с изображением лидера большинства в Сенате Митча МакКоннелла и бывшего президента Барака Обамы, и оба раза ИИ обрезал лицо МакКоннелла.

Когда споры в конце концов дошли до людей в Twitter, компания пообещала проанализировать свою модель. Наконец, мы можем прочитать эти выводы.

Twitter поделился результатами анализа алгоритмов

В начале мая Twitter наконец-то выпустил превью полноразмерных изображений на мобильных графиках. Сообщение в блоге Twitter показало, что приложение отказалось от алгоритма обрезки изображений после того, как анализ показал, что в нем присутствуют расовые и гендерные предубеждения.

Платформа начала использовать алгоритм заметности в 2018 году для обрезки изображений. Twitter говорит, что модели значимости обучаются на данных отслеживания взгляда человека, которые затем используются алгоритм для оценки того, какие предметы / элементы на изображении, по его мнению, наиболее важны для большинства люди.

Затем алгоритм будет вычислять оценку значимости для всех частей изображения, прежде чем выбрать точку с наивысшей оценкой в ​​качестве центра кадрирования.

Проведя количественный тест для проверки потенциальных предубеждений, команда обнаружила, что алгоритм заметности, похоже, предпочитает женщин мужчинам, а белым - черным.

Twitter также проверил алгоритм на «мужской взгляд», но никаких доказательств предвзятости объективации обнаружено не было.

Даже если алгоритм заметности был скорректирован, чтобы отразить полное равенство между расами и гендерными подгруппами, мы [Twitter] обеспокоены из-за репрезентативного вреда автоматизированного алгоритма, когда людям не разрешается представлять себя так, как они хотят, на Платформа. Важность также несет в себе другой потенциальный вред, выходящий за рамки этого анализа, включая нечувствительность к культурным нюансам.

При рассмотрении компромиссов между скоростью и согласованностью автоматизированного сбора урожая и связанными с ним рисками, Twitter сообщает, что его команда осознала, что решение о том, как кадрировать изображение, лучше всего принимают люди, а не алгоритмы.

Связанный: Технологические тенденции, которые уже меняют будущее

Twitter избавился от автоматической обрезки изображений

Twitter больше не использует алгоритм заметности и теперь полностью отображает фотографии со стандартным соотношением сторон как на iOS, так и на Android. Создавая твит, вы обнаружите, что новое обновление также включает настоящий предварительный просмотр загруженных изображений, чтобы вы знали, как все будет выглядеть после публикации.

Если вам интересно прочитать научную статью об исследовании, вы можете найти ее на arXiv.org. Вы также можете найти код Twitter для анализа на GitHub.

Как загружать и просматривать изображения 4K в Twitter

Приложение Twitter теперь позволяет загружать и просматривать изображения в формате 4K. Вот как изменить ваши настройки.

Читать далее

Об авторе