Instrumentul secret care a ales candidații care ar putea face parte din companie a arătat o părtinire foarte clară împotriva femeilor

@abc_tecnologia Actualizat: 15/10/2018 14: 10h

candidații care

Știri conexe

Inteligența artificială (AI) nu este imbatabilă. Și Amazon a experimentat-o ​​deja în propriile sale cărnuri. Deși tehnologia este de obicei un aliat, nu toate deciziile pot depinde de ea. Din acest motiv, Amazon a decis să renunțe la AI care l-a ajutat să recruteze angajați pentru că este clar sexistă.

După cum a raportat Reuters, instrumentul secret bazat pe AI cu care Amazon a ales cine ar putea face parte din companie a arătat o tendință foarte clară împotriva femeilor.

Compania de Jeff Bezos a început în 2014 pentru a construi programe de calculator care a examinat CV-urile solicitanților. Scopul a fost mecanizarea căutării și găsirea celui mai bun talent, au mărturisit surse apropiate companiei Reuters.

Automatizarea a fost cheia dominanței Amazon asupra comerțului electronic, indiferent dacă este vorba de depozite sau de luarea deciziilor de stabilire a prețurilor. Instrumentul experimental de angajare a companiei a folosit AI pentru a evalua candidații între una și cinci stele, deoarece produsele cumpărate de utilizatori prin intermediul site-ului web sunt evaluate.

În 2015, compania și-a dat seama că noul său sistem nu califica candidații pentru locuri de muncă pentru dezvoltatori de software și alte posturi tehnice într-un mod neutru din punct de vedere al genului. După cum explică Reuters, acest lucru se datorează faptului că AI a fost educată cu CV-urile candidate colectate de-a lungul unui deceniu. Majoritatea erau bărbați, astfel încât AI a fost antrenat cu un dominare masculină clară. Astfel, sistemul informatic Amazon a optat întotdeauna pentru bărbați. Programele care includeau cuvântul „femei” au fost penalizate, indiferent de pregătirea lor.

Amazon a editat programele de computer pentru a le face neutre, dar nu a funcționat. Candidații au continuat să fie clasificați într-un mod discriminatoriu, astfel încât compania din Seattle a desființat în cele din urmă AI la începutul anului 2017, deoarece directorii și-au pierdut speranța că proiectul va trece.

Compania nu a oferit niciodată declarații cu privire la această practică sexistă, apărând în același timp că este angajată în diversitatea și egalitatea la locul de muncă.

Limba masculină

Experimentul Amazon a început într-un moment crucial pentru companie. învățare automată câștiga teren în lumea tehnologiei, iar departamentul de resurse umane al Amazonului era pe punctul de a se angaja într-o serie de angajări: din iunie 2015, forța de muncă globală a companiei s-a triplat.

Confruntat cu această situație, el a creat o echipă la Centrul de Inginerie din Edinburgh, formată din până la doisprezece persoane. Scopul lor era să dezvolte o IA care să poată accesa rapid webul și să identifice candidații care merită recrutați, au declarat pentru Reuters surse apropiate companiei.

Grupul a creat 500 de modele de calculatoare axat pe funcții și locații specifice postului. Au învățat pe fiecare să recunoască aproximativ 50.000 de termeni care au apărut pe CV-urile candidaților din trecut. Algoritmii au învățat să acorde puțină importanță abilităților obișnuite în rândul solicitanților. Cu toate acestea, tehnologia a favorizat candidații care s-au descris folosind verbe care se găsesc de obicei mai frecvent în CV-urile inginerilor.

Un instrument aliat

Potrivit unui sondaj realizat în 2017 de firma de software pentru talente CareerBuilder, 55% dintre managerii de resurse umane din SUA au declarat că AI va fi o parte obișnuită a locului de muncă în următorii cinci ani.

Recrutorii pot folosi tehnologia pentru a lărgi rețeaua de recrutare și pentru a reduce dependența de opiniile subiective ale profesioniștilor în resurse umane. Nihar șah, care predă învățarea automată la Universitatea Carnegie Mellon, spune că mai este mult de lucru. «Cum să ne asigurăm că algoritmul este corect, cum să ne asigurăm că este într-adevăr interpretabil și explicabil, este încă destul de departe», Spune expertul.

În ciuda acestui fapt, există unele companii care pariază să profite de AI pentru angajare. LinkedIn, de exemplu, oferă companiilor care caută candidați clasamente algoritmice ale solicitanților în funcție de modul în care profilul lor se potrivește cu oferta.

cu toate acestea, John Jersin, Vicepreședintele LinkedIn Talent Solutions, s-a asigurat că serviciul nu înlocuiește recrutorii tradiționali. „Cu siguranță, nu ar trebui să aveți încredere în niciun sistem AI în mod orb și să luați decizia de a angaja sau nu de unul singur, deoarece tehnologia nu este încă pregătită”, a declarat Jersin pentru Reuters.