Пользователи Twitter обнаруживают потенциальные расовые предубеждения в алгоритме автоматической обрезки

Twitter пытается определить, почему его функция предварительного просмотра фотографий показывает признаки расовой предвзятости. Несколько пользователей обнаружили, что черные лица с большей вероятностью будут обрезаны при предварительном просмотре фотографий, чем белые лица.

Ошибка в алгоритме Twitter

Когда вы видите изображение в Twitter, это просто предварительный просмотр, вам нужно нажать на него, чтобы увидеть все изображение. Твиттер использует алгоритм обрезки фотографий, определяющий, что вы увидите при предварительном просмотре изображений.

В 2018 году Twitter объявил о своей интеллектуальной функции автоматической обрезки в сообщении на Блог Twitter. Эта функция использует «заметность», чтобы отточить наиболее заметные части фотографий, а затем соответствующим образом обрезает изображения для предварительного просмотра.

Пользователи Twitter обнаружили, что нейронная сеть платформы может иметь расовые предубеждения. Один из пользователей опубликовал фотографию сенатора США Митча МакКоннелла и бывшего президента США Барака Обамы.

Предварительный просмотр изображения явно вырезает лицо Обамы, даже когда его лицо помещено вверху фотографии. Когда тот же пользователь попытался инвертировать цвета изображения, лицо Обамы наконец появилось на превью изображения.

Другие пользователи начали проводить собственные эксперименты. Снова и снова пользователи обнаруживали, что алгоритм последовательно предпочитает белые лица черным.

Лиз Келли, член команды по связям с общественностью Twitter, разослала твит в ответ на выводы пользователей Twitter. Она отметила, что, хотя команда Twitter уже проверила алгоритм на предмет предвзятости, ей необходимо провести дополнительное расследование.

Все эти открытия произошли из твита пользователя о Проблема с вызовом Zoom. Zoom постоянно не мог обнаружить лицо своего черного друга, когда он пытался использовать виртуальный фон. Когда пользователь обратился в Твиттер, чтобы опубликовать скриншоты проблемы, Твиттер вырезал его чернокожего друга из превью изображения.

Устранение предубеждений в Twitter

Хотя все эти эксперименты носят неформальный характер, они, кажется, высвечивают реальную проблему. Твиттеру определенно придется поближе взглянуть на свою функцию автоматической обрезки и посмотреть, есть ли в ней укоренившиеся расовые предубеждения.

Тем не менее, алгоритм автоматического кадрирования Twitter - не единственная функция Twitter, подвергавшаяся критике. В конце концов, многие пользователи также не являются поклонниками алгоритма платформы, который автоматически упорядочивает вашу ленту.

Как (и почему) отключить алгоритмические каналы в Twitter, Instagram и Facebook

Алгоритмические ленты обслуживают только социальные сети. Вот как перейти на хронологические ленты в Twitter, Instagram и Facebook.

Об авторе