Conform The New York Times, sistemul de inteligență artificială al Facebook a confundat în mod eronat un bărbat de origine africană cu o primată. Eroarea a fost descoperită întâmplător de un utilizator, care după ce a vizionat un videoclip cu niște bărbați de culoare a fost întrebat de rețeaua de socializare dacă este interesat să vadă mai multe videoclipuri despre maimuțe.
Facebook folosește un sistem bazat pe inteligență artificială pentru a clasifica persoanele și obiectele care apar în conținutul multimedia. Tehnologia este utilizată cu scopul de a sugera utilizatorilor conținut similar cu cel deja văzut.
În trecut, mai multe cercetări au arătat că majoritatea tehnologiilor de tip „machine learning” au încă mari dificultăți în identificarea persoanelor de origine non-caucaziană, cu erori adesea grave și de neiertat, în special atunci când vine vorba de tehnologiile de recunoaștere facială utilizate în scopuri de siguranță publică.
Între timp, Facebook a dezactivat sistemul de recomandări video bazat pe AI. Compania dorește să-și facă timp pentru a-și îmbunătăți funcția și pentru a preveni ca o greșeală ofensivă de acest tip să se repete în viitor.
Videoclipul în cauză, scrie New York Times, a fost publicat de ziarul Daily Mail și a descris câteva persoane de origine africană certându-se cu membri ai forțelor de ordine.
