Twitter заплатив українцю 3500 доларів за виявлення расистської помилки в алгоритмах

Компанія Twitter заплатила $3 500 українцю, аспіранту швейцарського університету EFPL Богдану Кулиничу за виявлену проблему у роботі соцмережі. Він виявив, що алгоритм обрізання зображень Twitter віддає перевагу молодим людям, струнким фігурам та світлішій шкірі, повідомляють британське видання The Guardian та українське AIN.ua

Кулинич продемонстрував упередженість в алгоритмі, який під час прев’ю фокусується на «найцікавіших» частинах зображень.

Аби довести упередженість, Кулинич спершу штучно згенерував зображення людей з різними характеристиками, а потім пропустив їх через алгоритм обрізання Twitter, щоб побачити, на чому фокусується програма. Він також «розмножив» зображення людей, однак у них був різний тон шкіри, статура та вік. І таким чином Кулинич показав, що алгоритм фокусується на більш молодих, струнких і світлошкірих людях.

Twitter давно використовує автоматичну обрізку зображень, щоб вони не займали забагато місця в основній стрічці, і щоб в одному твіті можна було показувати кілька зображень. Соцмережу розкритикували у 2020 році через цей алгоритм після того, як користувачі помітили, що він регулярно фокусується на білих людях та обрізає зображення темношкірих людей – і навіть на білих собаках, обрізаючи чорних. Наприклад, під час прев’ю цього твіту відображується лише світлий пес, однак, якщо розгорнути зображення, виявиться, що там є ще і чорний. Або в цьому твіті під час превʼю показується світлошкірий сенатор Мітчелл Макконнелл, але після розгортання фото виявиться, що там ще є темношкірий Барак Обама.

Тоді компанія спочатку вибачилася: «Наша команда провела тест на упередженість і не знайшла доказів расової або гендерної упередженості. Але з цих прикладів зрозуміло, що нам потрібно провести глибший аналіз». Однак у глибшому дослідженні власні дослідники Twitter виявили лише дуже невелику упередженість на користь білих і жіночих обличь.

Цей інцидент підштовхнув компанію запустити програму, у рамках якої дослідникам заплатили б 3500 доларів за виявлену проблему в алгоритмі обрізання зображень.