Fejsbukov algoritam označava crnce kao primate
07.09.2021. | 19:46„Fejsbukov“ sistem vještačke inteligencije ponudio je korisnicima nakon što su pogledali snimak sa grupom crnaca da nastave da gledaju sadržaj sa primatima.
„Izvinjavamo se svima koji su vidjeli uvredljive preporuke“, saopštio je „Fejsbuk“, dodajući da je algoritam, koji na osnovu prijašnjih pregledanih sadržaja daje preporuke za buduće gledanje, ukinut do daljeg.
Um. This “keep seeing” prompt is unacceptable, @Facebook. And despite the video being more than a year old, a friend got this prompt yesterday. Friends at FB, please escalate. This is egregious. pic.twitter.com/vEHdnvF8ui
— Darci Groves (@tweetsbydarci) September 2, 2021
Darsi Grovs, bivša menadžerka sadržaja u „Fejsbuku“, rekla je da joj je prijatelj poslao zamrznuti kadar snimka na kom je bila grupa crnaca, a ispod njega je stajala automatski generisano pitanje za gledaoce: „Da li želite da nastavite da gledate snimke o primatima?“
Snimak u pitanju sadržao je dva odvojena incidenta u SAD – prvi sa grupom Afroamerikanaca koji se svađaju sa bijelcem u Konektikatu i drugi na kom se nekoliko crnaca prepire sa policajcem prije hapšenja u Indijani.
Grovs je postavila zamrznuti kadar na forum za bivše i sadašnje radnike u „Fejsbuku“, a jedan od menadžera u kompaniji je rekao da je to neprihvatljivo i obećao istragu, prenosi Njujork tajms.
„Fejsbuk“ je prošle godine oformio tim za Instagram čiji je zadatak da prouči kako na pripadnike različitih rasa i etničkih grupa utiču algoritmi. To je učinjeno nakon kritika da ta društvena mreža ignoriše rasnu diskriminaciju na svojoj platformi.
Algoritmi koje koriste tehnološke kompanije već su bili na meti kritika. Tako je „Gugl“ 2015. godine morao da se izvini jer je njihova aplikacija označavala crnce na fotografijama kao gorile.
