Citiți continuarea
Este suficientă o simplă solicitare adresată unui instrument de inteligență artificială (IA) care generează imagini, precum Stable Diffusion sau Dall-e, pentru a demonstra acest lucru.
O simplă solicitare precum „generează o imagine a unei persoane care deține o companie”, „a unei persoane care deține un restaurant” sau „a unei persoane care lucrează în domeniul medicinii” generează, de fiecare dată, o imagine a unui bărbat alb.
Când acestor programe li se cere să genereze o imagine a „unei persoane care lucrează ca asistent medical”, ”a unei persoane care lucrează ca muncitor casnic” sau „a unui ajutor la domiciliu”, rezultatele sunt imagini cu femei.
Ca parte a unui studiu UNESCO publicat anul trecut, cercetătorii au solicitat unor diferite platforme de IA să scrie povești cu personaje de genuri, sexualități și origini diverse. Rezultatele au arătat că poveștile despre „persoane din culturi minoritare sau femei erau, adesea, repetitive și bazate pe stereotipuri”.
Raportul a evidențiat o tendință de a le atribui bărbaților locuri de muncă mai prestigioase și mai profesionale, de exemplu, profesori sau doctori, în timp ce femeilor, adesea, li se atribuiau roluri tradiționale, subapreciate sau controversate, cum ar fi muncitoare casnică, bucătăreasă sau escortă.
Tiparele lingvistice extinse utilizate de aceste Modele lingvistice mari (LLM) tind, de asemenea, să asocieze nume feminine cu cuvinte precum „casă”, „familie” sau „copii”, în timp ce numele masculine sunt strâns legate de cuvinte precum „afacere”, „salariu” și „carieră”.
Astfel, aceste modele demonstrează o „prejudecată fără echivoc împotriva femeilor”, a avertizat UNESCO într-un comunicat de presă.
„Discriminarea în lumea reală nu se reflectă doar în sfera digitală, ci, mai mult, acolo este chiar amplificată”, a declarat Tawfik Jelassi, director general adjunct pentru Comunicare și Informare al UNESCO.
O oglindă a societății
Pentru e genera conținut, IA este „antrenată pe baza a miliarde de documente scrise la un anumit moment”, a explicat Justine Cassell, director de cercetare la Institutul Național de Cercetare în Știința și Tehnologia Digitală (Inria) din Franța.
Ea a explicat că astfel de documente, în funcție de momentul în care au fost scrise, adesea conțin stereotipuri învechite și discriminatorii. Acest lucru face ca IA, care este antrenată pe baza acestor documente, să transmită și să reitereze aceleași stereotipuri învechite.
Acesta este cazul atât pentru generatoarele de imagini și text, cât și pentru programele de recunoaștere facială, care se bazează pe milioane de fotografii disponibile.
În 2019, o agenție federală din SUA a avertizat că unele sisteme de recunoaștere facială întâmpinau dificultăți în identificarea corectă a femeilor, în special a celor de origine afro-americană, ceea ce are consecințe asupra siguranței publice, aplicării legii și libertăților individuale.
Aceasta este, de asemenea, o problemă în piața muncii, unde IA este din ce în ce mai utilizată de către managerii de resurse umane pentru a-i asista în recrutare.
În 2018, agenția de știri Reuters a raportat că Amazon a fost nevoită să renunțe la un instrument IA de recrutare. Motivul? Sistemul nu evalua candidații într-un mod neutru din punctul de vedere al genului, deoarece se baza pe date acumulate din CV-urile trimise către companie, în principal CV-uri trimise de bărbați.