Home / Blog / Facebook excuseert zich voor racistische artificiële intelligentie

Facebook excuseert zich voor racistische artificiële intelligentie

LATER LEZEN

Toen op 27 juni de Britse Daily Mail op Facebook een video plaatste waarbij zwarte burgers woordenwisselingen hadden met bijvoorbeeld de politie, kregen de gebruikers van het platform een wel zeer aparte boodschap te lezen. Ze kregen namelijk de vraag of ze interesse hadden in “keep seeing videos about Primates”.

Voor alle duidelijkheid, er was geen enkele primaat te zien in de video, maar de artificiële intelligentie maakte weinig onderscheid. De tool die deze fout maakte, is ondertussen uitgezet en in The New York Times verontschuldigt het bedrijf zich:

“As we have said, while we have made improvements to our A.I., we know it’s not perfect, and we have more progress to make. We apologize to anyone who may have seen these offensive recommendations.”

Het is het zoveelste voorbeeld van foute en vaak racistische biases in artificiële software. The New York Times geeft in het artikel een overzicht van toepassingen van onder andere Google Photos. Zelf moest ik spontaan ook terugdenken aan de bot van Microsoft die op een korte tijd zeer racistisch werd.

Het is een belangrijke waarschuwing nu we steeds meer AI in onderwijs (willen) gebruiken.

Dit stuk verscheen eerder op Pedro’s blog X, Y of Einstein