Twitter oznámil výsledky své otevřené soutěže o nalezení chyb ve svém systému ořezávání fotek.
Výzva pro odměny byla zahájena v červenci poté, co uživatelé Twitteru ukázali, že automatický nástroj pro ořezávání stránek upřednostňuje tváře lidí se světlejší pletí před těmi s tmavší. Vyvolalo to několik otázek o tom, jak software upřednostnil barvu pleti a určité faktory před ostatními.
Cílem úkolu bylo zjistit, jaké další chyby a předsudky může mít systém ořezávání, aby se problémy napravily.
Na prvním místě se umístil Bogdan Kulynych, jehož příspěvek ukázal, jak mohou filtry krásy hrát s modelem hodnocení algoritmu, který naopak umocňuje tradiční standardy krásy. Podání ukázalo, že algoritmus preferuje mladé a štíhlé tváře se světlým nebo teplým odstínem pleti. Kulynych vyhrál 3 500 $.
Druhé místo obsadila společnost HALT AI, technologický startup v Torontu, který zjistil, že snímky starých a postižených lidí byly vyříznuty z fotografií. Tým dostal 2 000 $ za to, že se umístil na druhém místě.
Třetí místo a 500 dolarů získal Roya Pakzad, zakladatel Taraaz Research, který objevil, že algoritmus upřednostňuje ořezávání latinských písem před arabskými, což by mohlo poškodit jazykovou rozmanitost.
Podrobné výsledky představil na DEF CON 29 Rumman Chowdhury, ředitel týmu META na Twitteru. Tým META studuje neúmyslné problémy v algoritmech a odstraňuje jakýkoli druh genderové a rasové zaujatosti, kterou takové systémy mohou mít.
Údaje získané z této soutěže budou použity k odstranění chyb a zkreslení v algoritmu oříznutí a pomohou zajistit inkluzivnější prostředí.
