Judecătorii AI găzduiesc rasistul frumos

$config[ads_kvadrat] not found

Racist Robot? | Microsoft AI Experiment Under Fire

Racist Robot? | Microsoft AI Experiment Under Fire
Anonim

Evenimentele de frumusețe nu au fost niciodată o platformă pentru diversitate și se pare că introducerea AI nu rezolvă problema.

Compania Beauty A.I. a găzduit recent cel de-al doilea concurs de frumusețe internațional evaluat de AI.

Cei cinci judecători de robot au obținut peste 3.000 de concurenți de sex masculin și feminin, pe cinci categorii: ridurile, claritatea pielii și pigmentarea, similitudinea cu modelele din cadrul grupului lor rasial, simetria și vârsta cronologică versus percepută. Nu este cu totul altceva decât metricile folosite de concursurile tradiționale de frumusețe (deși nu exista nici o componentă de talent), AI a judecat frumusețea bazată pe metrici calitative față de prejudecăți umane.

Sau așa că gânditorii se gândeau. Concurenții au reprezentat 100 de țări, dar numai unul dintre cei 44 de câștigători a avut o culoare de piele probabil mai închisă. Ceilalți câștigători au fost predominant caucazieni sau asiatici.

"Ceea ce contează în frumusețe este percepția. Percepția este modul în care vă vedeți voi și alți oameni, iar această percepție este aproape întotdeauna părtinitoare. Cu toate acestea, oamenii sănătoși arată mai atrăgător în ciuda vârstei și naționalității lor ", afirmă Beauty AI pe site-ul său.

Youth Laboratories, compania care se află în spatele concursului, susține că misiunea sa este de a folosi învățarea profundă și analiza semantică masivă pentru a "găsi modalități eficiente de a încetini îmbătrânirea și de a ajuta oamenii să pară sănătoși și frumoși".

"Dacă nu aveți mulți oameni de culoare în cadrul setului de date, atunci ar putea să aveți rezultate părtinitoare", a declarat Alex Zhavoronkov, directorul de știință al Beauty.ai Gardianul. "Când antrenezi un algoritm pentru a recunoaște anumite tipare … este posibil să nu ai suficiente date sau datele ar putea fi părtinitoare".

Chiar și în cazul unei ardei goale, AI poate învăța rapid stereotipul în același mod ca și omul. Aceste tipuri de prejudecăți nu pot fi văzute doar în procesarea imaginilor, ci și în învățarea limbilor străine.

Ca și în majoritatea cazurilor de discriminare din partea AI, concursul rasist reflectă tendințele umane. Recent, a avut loc o reacție rasistă în Japonia, când o femeie jumătate indiană a câștigat Miss Japan. În istoria aproape 100 de ani a concursului, doar opt femei negre au fost încoronate Miss America.

Beauty.AI se mândrește cu parteneri precum Nvidia și Microsoft, al căror cel mai cunoscut AI a fost cel rasist și sexist chatbot Tay.

$config[ads_kvadrat] not found