Topline
Mjetet e rekrutimit të punës që pretendojnë se përdorin inteligjencën artificiale për të shmangur paragjykimet gjinore dhe racore mund të mos përmirësojnë diversitetin në punësim dhe në fakt mund të përjetësojnë ato paragjykime, argumentuan të dielën studiuesit nga Universiteti i Kembrixhit, duke hedhur programet - të cilat kanë tërhequr kritika në të kaluarën - si një mënyrë për të përdorur teknologjinë për të ofruar një zgjidhje të shpejtë për një problem më të thellë.
Shfaqet sistemi i njohjes së fytyrës i mbështetur nga AI i Google Vision.
Getty Images
Fakte kyçe
Në një punim të botuar nga Filozofia dhe Teknologjia, studiuesit shikuan pretendimet nga disa kompani që ofrojnë mjete rekrutimi të fuqizuara nga AI, shumë prej të cilave pretendojnë se eliminojnë paragjykimet dhe promovojnë diversitetin duke fshehur emrat, gjinitë dhe identifikuesit e tjerë të kandidatëve, dhe disa prej të cilave renditen kandidatët bazuar në skanimet e CV-ve, vlerësimet në internet dhe analizat e të folurit dhe shprehjeve të fytyrës së aplikantëve.
Studiuesit - dy profesorë në Qendrën për Studime Gjinore të Universitetit të Kembrixhit - argumentuan se këto mjete mund të nxisin në të vërtetë uniformitetin në punësim, sepse ato riprodhojnë paragjykimet kulturore të "kandidatit ideal", i cili historikisht ka qenë meshkuj të bardhë ose evropianë.
Mjetet gjithashtu mund të mos përmirësojnë diversitetin sepse bazohen në të dhënat e kaluara të kompanisë dhe kështu mund të promovojnë kandidatë që janë më të ngjashëm me punonjësit aktualë.
Ka "pak përgjegjësi për mënyrën se si janë ndërtuar apo testuar këto produkte," tha në një deklaratë Eleanor Drage, një bashkëautore e studimit dhe studiuese me Qendrën për Studime Gjinore të Universitetit të Kembrixhit, duke shtuar se teknologjia mund të shërbejë si një "e rrezikshme". burim i “dezinformatave se si rekrutimi mund të jetë i “i njëanshëm” dhe më i drejtë”.
Citimi thelbësor
“Duke pretenduar se racizmi, seksizmi dhe forma të tjera të diskriminimit mund të hiqen nga procesi i punësimit duke përdorur inteligjencën artificiale, këto kompani reduktojnë racën dhe gjininë në pika të parëndësishme të të dhënave, në vend të sistemeve të pushtetit që formojnë mënyrën se si ne lëvizim nëpër botë. ”, tha Drage në një deklaratë.
tangjent
Amazon njoftoi në 2018 se do stop duke përdorur një mjet të rekrutimit të AI për të rishikuar CV-të e aplikantëve për punë pasi zbuloi se sistemi po diskriminonte fort femrat. Kjo për shkak se modelet kompjuterike në të cilat mbështetej u zhvilluan bazuar në CV-të e dorëzuara në kompani gjatë 10 viteve të fundit, të cilat kryesisht vinin nga aplikantët meshkuj.
Sfondi kryesor
Organizatat i janë drejtuar gjithnjë e më shumë AI për të ndihmuar në menaxhimin e proceseve të rekrutimit të vendeve të punës. Në një Sondazhi i 2020 nga më shumë se 300 drejtues të burimeve njerëzore të cituar nga autorët e gazetës së së dielës, firma konsulente Gartner zbuloi se 86% e punëdhënësve përdorin teknologjinë virtuale në praktikat e tyre të punësimit, një prirje që është përshpejtuar që kur pandemia Covid-19 detyroi shumë njerëz të ndërrojnë punën në internet. Ndërsa disa kompani kanë argumentuar se AI mund të ofrojë një proces punësimi me kosto dhe kohë më efektive, disa Ekspertët kanë gjetur sistemet kanë një tendencë për të nxitur - në vend që të eliminojnë - punësimin me paragjykim racor dhe gjinor duke përsëritur paragjykimet ekzistuese nga bota reale. Disa ligjvënës amerikanë kanë qëllim për të trajtuar paragjykimet në sistemet e inteligjencës artificiale, pasi teknologjia vazhdon të evoluojë shpejt dhe ekzistojnë pak ligje për ta rregulluar atë. Shtëpia e Bardhë u publikua këtë javë një “Projekt për një Propozim të të Drejtave të AI”, i cili argumenton se algoritmet e përdorura në punësim janë gjetur se “reflektojnë dhe riprodhojnë pabarazitë ekzistuese të padëshiruara” ose ngulitin “paragjykime dhe diskriminime të reja”. Projekti - i cili nuk është ligjërisht i detyrueshëm ose një politikë zyrtare e qeverisë - u bën thirrje kompanive të sigurojnë që AI nuk diskriminon ose shkel privatësinë e të dhënave dhe të ndërgjegjësojë përdoruesit se kur përdoret teknologjia.
Çfarë duhet të shikojmë
Në një listë rekomandimesh, autorët e së dielës Filozofia dhe Teknologjia Dokumenti sugjeroi kompanitë që zhvillojnë teknologjitë e AI të përqendrohen në pabarazi më të gjera, sistematike në vend të "rasteve të individualizuara të paragjykimit". Për shembull, ata sugjerojnë zhvilluesit e softuerit të shqyrtojnë kategoritë e përdorura për të renditur, përpunuar dhe kategorizuar kandidatët dhe se si këto kategori mund të nxisin diskriminimin duke u mbështetur në supozime të caktuara rreth gjinisë dhe racës. Studiuesit gjithashtu pretendojnë se profesionistët e burimeve njerëzore duhet të përpiqen të kuptojnë se si funksionojnë mjetet e rekrutimit të AI dhe cilat janë disa nga kufizimet e tyre të mundshme.
Fakt surprizues
Bashkimi Evropian ka klasifikuar softuerin e punësimit të fuqizuar nga AI dhe mjetet e vlerësimit të performancës si "rrezik të lartë" në të renë e tij. Drafti kuadri ligjor për AI, që do të thotë se mjetet do t'i nënshtrohen më shumë shqyrtimit dhe do të duhet të plotësojnë disa kërkesa të pajtueshmërisë.
Leximi më tej
DC dëshiron të udhëheqë luftën kundër paragjykimeve të AI (AXIOS)
Burimi: https://www.forbes.com/sites/madelinehalpert/2022/10/09/ai-powered-job-recruitment-tools-may-not-improve-hiring-diversity-experts-argue/