AI që shqyrton CV-të: testi dhe ligji

Në këtë numër

Shumë aplikime i lexon një program para se t'i shohë një njeri, dhe modelet gjuhësore e bëjnë të lirë shtimin e një filtri tjetër. Një filtër që rendit njerëz vendos kush shihet. Ky numër pyet çfarë gjeti një test i kujdesshëm kur ndryshoi vetëm emri, dhe çfarë kërkon tani ligji evropian para se një sistem i tillë të shqyrtojë dikë.

Në një studim të 2024-s, të njëjtat CV, me emra të ndryshëm, u renditën nga tri modele AI ndaj njoftimeve të vërteta për punë. Emrat që lidhen me të bardhët u preferuan në 85,1% të testeve, dhe emrat e burrave zezakë nuk fituan kurrë ndaj atyre të burrave të bardhë. Një korrigjim më 2026 dhe një test me emra të tjerë tregojnë sa vlen projektimi i testit. AI Act i quan këto sisteme me rrezik të lartë dhe u vë detyra ofruesve dhe punëdhënësve. Një test me emra të ndërruar dhe një kartë e mbyllin numrin.

Stiven Janaqi, Redaktor

Tema kryesore

E njëjta CV, një emër tjetër

Kyra Wilson dhe Aylin Caliskan morën 554 CV publike dhe 571 njoftime pune në nëntë profesione, nga drejtorët ekzekutivë te mësuesit. Çdo CV mori një emër që lidhet me burra ose gra zezakë ose të bardhë, dhe mbiemrin Williams. Tri modele AI të hapura, të ndërtuara për të krahasuar tekste, i renditën CV-të për çdo njoftim, dhe 10% e para u numëruan si të përzgjedhura.

Testet vetëm sipas racës, tri modele × nëntë profesione: cilat CV u përzgjodhën dukshëm më shpesh (2024): CV me emra që lidhen me të bardhët 85,1%, CV me emra që lidhen me zezakët 8,6%, Pa ndryshim të rëndësishëm 6,3%.

Ndërtimi funksionoi si filtër: pa emra, CV-të nga profesioni i njoftuar morën pikë më të larta se të tjerat në çdo profesion. Të vetmet teste ku fituan emrat që lidhen me zezakët erdhën nga njëri prej tri modeleve.

Leximi ynë

Asgjë në këto CV nuk ndryshonte përveç emrit. Çfarëdo që preferuan modelet, nuk ishte puna.

Wilson & Caliskan (2024), figura 4. Një simulim me emra dhe profesione amerikane, jo kontroll i një mjeti në përdorim; CV-të u prenë te 1.300 tokena. Pjesët janë nga 27 teste chi-katror me p < 0,05. Emrat e sinjalizojnë racën dhe gjininë vetëm përafërsisht, siç shënojnë autorët.

Burimi: Kyra Wilson & Aylin Caliskan, Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society 7, 2024

Shifrat

Grupi që humbi më shumë

Kërkuesit pastaj i krahasuan katër grupet çift më çift, përsëri 27 teste për çdo çift. Ndryshimet mes emrave të burrave dhe grave të bardha ishin më të voglat; krahasimet që përfshinin emra zezakësh treguan ndryshime më të mëdha.

Pjesa e 27 testeve ku CV-të e grupit të parë u përzgjodhën dukshëm më shpesh (2024): Burra të bardhë ndaj burrave zezakë 100%, Gra zezake ndaj burrave zezakë 66,7%, Gra të bardha ndaj grave zezake 48,1%, Gra zezake ndaj grave të bardha 25,9%, Gra të bardha ndaj burrave të bardhë 25,9%, Burra të bardhë ndaj grave të bardha 18,5%.

Emrat e burrave zezakë u preferuan ndaj atyre të grave zezake në 14,8% të testeve dhe ndaj atyre të burrave të bardhë në asnjë. Autorët shënojnë se kjo ndjek atë që studimet në terren për punësimin kanë gjetur prej kohësh, dhe se paragjykimi ndaj një grupi nuk është shuma e një efekti race dhe një efekti gjinie.

Leximi ynë

Një kontroll vetëm sipas racës dhe vetëm sipas gjinisë mund ta humbasë grupin që humbet më shumë. Testo kombinimet.

Wilson & Caliskan (2024), figurat 6–9; 20 emra për grup. Pjesa tjetër e çdo 100% janë teste pa ndryshim të rëndësishëm. Këto rezultate të kryqëzuara nuk u prekën nga korrigjimi i 2026-s dhe u përsëritën nga një ekip i Universitetit të Salzburgut.

Burimi: Kyra Wilson & Aylin Caliskan, Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society 7, 2024

Modeli

Çfarë kërkon AI Act

Aneksi III, pika 4(a) rendit AI-në që synohet për rekrutim ose përzgjedhje, veçanërisht për njoftime pune të synuara, për analizimin dhe filtrimin e aplikimeve dhe për vlerësimin e kandidatëve. Këto sisteme janë me rrezik të lartë; rregullat zbatohen nga 2 dhjetori 2027. Ja çfarë bie mbi secilën palë.

Ofruesi, që e ndërton

• I shqyrton të dhënat për paragjykime të mundshme dhe merr masa për t'i zbuluar, parandaluar dhe ulur (neni 10(2)(f), (g))
• Shkruan saktësinë dhe, kur duhet, rezultatet për grupe të caktuara në udhëzimet e përdorimit (13(3)(b))
• Ndërtohet që mbikëqyrësit ta kenë parasysh mbështetjen e tepërt dhe ta anashkalojnë dot rezultatin (14(4)(b), (d))

Punëdhënësi, që e përdor

• I mban të dhënat hyrëse që kontrollon të përshtatshme dhe mjaftueshëm përfaqësuese (26(4))
• I shpjegon një kandidati të prekur, kur e kërkon, rolin e AI-së dhe elementet kryesore të vendimit (86)
• Mund të bëhet vetë ofrues kur e kthen një sistem AI të përgjithshëm në filtër CV-sh (25(1)(c))

Rreshti i fundit vlen më shumë për firmat e vogla: një chatbot i përgjithshëm i vënë të rendisë kandidatët përdoret për një qëllim me rrezik të lartë për të cilin nuk u nxor në treg. Neni 25 i jep atëherë firmës që e bëri këtë detyrat e ofruesit sipas nenit 16.

Leximi ynë

“E kontrollon një njeri” nuk është mbikëqyrje nëse ai njeri sheh vetëm listën e shkurtër. Mbikëqyrja nis me të refuzuarit.

Rregullorja (BE) 2024/1689, nenet 10, 13, 14, 16, 25, 26 dhe 86 dhe Aneksi III; data nga neni 113 i ndryshuar me Rregulloren (BE) 2026/1744, që dispozitat e cituara këtu i la të pandryshuara. Fjalët dhe shënimi i leximit janë të redaksisë; nuk është këshillë ligjore. Datat, detyrat e tjera të punëdhënësit dhe neni 6(3) janë te Nr. 41. Eseja e lidhur është pikëpamja e autorit për kush vendos kur sistemi vendos i pari.

Burimet: European Parliament and Council of the European Union, Official Journal of the EU, 2024; European Parliament and Council of the European Union, Official Journal of the EU, 2026

Më shumë te eseja: Sistemi është më i shpejtë se ti

Çfarë thotë kërkimi

Një rezultat që u kthye

Testi kryesor përdori emra të bardhë që shfaqen në tekste rreth 5,5 herë më shpesh se emrat e zezakëve, sipas popullsisë. Në një provë të dytë emrat e bardhë ishin afërsisht po aq të shpeshtë sa ata të zezakëve. Asgjë tjetër nuk ndryshoi.

Pjesa e 27 testeve të racës që fitoi secili grup, sipas mënyrës si u zgjodhën emrat (2024): Emra që lidhen me të bardhët: Emra në përpjesëtim 85,1%, Emra po aq të shpeshtë 22,2%; Emra që lidhen me zezakët: Emra në përpjesëtim 8,6%, Emra po aq të shpeshtë 51,9%.

Në gusht 2026 autorët shtuan një korrigjim: pasi një ekip i Universitetit të Salzburgut u përpoq ta përsëriste studimin, u gjet një gabim në kod që i kishte ndërruar etiketat në testet vetëm sipas gjinisë. Emrat e grave, jo të burrave, ishin ata të preferuar në 51,9% të atyre testeve. Rezultatet për racën dhe ato të kryqëzuara qëndruan.

Leximi ynë

Një kontroll i vetëm është një lexim, jo një vendim. Pyet si u ndërtua testi, dhe nëse e përsëriti dikush.

Wilson & Caliskan (2024), versioni 3 në arXiv (30 gusht 2026) me shënimin e korrigjimit; seksioni për efektet e shpeshtësisë. Autorët e lexojnë përmbysjen si ndjeshmëri të modeleve ndaj sa shpesh shfaqet një emër. Shënimi i leximit është i redaksisë.

Burimi: Kyra Wilson & Aylin Caliskan, Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society 7, 2024

Si matet

Testo filtrin tënd

Metoda e studimit mund të kthehet në test për një filtër që një ekip e përdor tashmë: CV identike që ndryshojnë në një sinjal, të kaluara në të njëjtin hap, me normat e përzgjedhjes të krahasuara. Hapat më poshtë janë propozim i redaksisë, jo i studimit.

• Merr njoftime të vërteta, CV të sajuara. Pa të dhëna të kandidatëve të vërtetë; disa profesione.
• Ndrysho vetëm një sinjal. Një emër, një klub grash, një shkollë, një moshë; dhe kombinimet e tyre.
• Mbaj kufirin tënd të vërtetë. Pjesa që lexon vërtet një njeri, si 10% e para.
• Krahaso normat e përzgjedhjes. Për grup dhe për kombinim; pastaj ndrysho gjatësinë dhe fjalët.
• Raportoje. Ruaje regjistrin; njofto ofruesin për çdo rrezik (neni 26(5)).

Leximi ynë

Një filtër që nuk u testua kurrë me një emër të ndërruar nuk ka paragjykim të njohur, që nuk është njësoj si pa paragjykim.

Propozim i redaksisë, sipas modelit të Wilson & Caliskan (2024), që ndryshuan edhe gjatësinë e CV-ve dhe gjetën se kjo i ndryshonte rezultatet. Që nga korriku 2026, neni 4a u lejon punëdhënësve që përdorin AI me rrezik të lartë të përpunojnë të dhëna të ndjeshme për të zbuluar paragjykimin, me kushte të rrepta; nuk krijon detyrim. Intervista e strukturuar është te Nr. 65.

Burimet: Kyra Wilson & Aylin Caliskan, Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society 7, 2024; European Parliament and Council of the European Union, Official Journal of the EU, 2024; European Parliament and Council of the European Union, Official Journal of the EU, 2026

Mjeti i numrit

Një kartë për një filtër CV-sh

Një kartë për çdo sistem që i lexon aplikimet para një njeriu. Mjeti ATS CV tregon anën tjetër: si e lexon një CV programi i aplikimeve, dhe çfarë mund të bëjë kandidati që ajo të lexohet saktë.

1. Sistemi dhe qëllimi i tij i ndërtuar për rekrutim, apo mjet i përgjithshëm që e kthyem në të?
2. Çfarë bën në proces synon njoftime, filtron, rendit apo vlerëson; ku hyn një njeri
3. Kush i sheh të refuzuarit një emër, sa rishikohen, kush mund ta anashkalojë
4. Testi i fundit me emër të ndërruar data, sinjalet dhe kombinimet, rezultati, dërguar ofruesit
5. Të dhënat tona hyrëse njoftimet dhe kriteret që i japim: të lidhura me punën?
6. Kandidatët të njoftuar dhe me shpjegim ku mësojnë se përdoret AI; kush i përgjigjet një kërkese

Karta është propozim i redaksisë, i ndërtuar mbi nenet 14, 25, 26 dhe 86 të AI Act dhe mbi metodën e Wilson & Caliskan (2024); nuk është instrument i testuar dhe as këshillë ligjore. Detyrat e punëdhënësit para përdorimit, si informimi i përfaqësuesve të punonjësve, janë te Nr. 41.

Burimet: European Parliament and Council of the European Union, Official Journal of the EU, 2024; Kyra Wilson & Aylin Caliskan, Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society 7, 2024

Hape mjetin: CV për ATS

Burimet dhe metoda

Çdo shifër ka një burim.

Shifrat e këtij numri vijnë nga burimet më poshtë. Viti tregon sa e re është secila.

• Kyra Wilson & Aylin Caliskan, Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society 7, “Gender, Race, and Intersectional Bias in Resume Screening via Language Model Retrieval (arXiv version 3, with the authors' correction of 29 August 2026)”, 2024. https://arxiv.org/abs/2407.20371
• European Parliament and Council of the European Union, Official Journal of the EU, “Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act)”, 2024. https://eur-lex.europa.eu/eli/reg/2024/1689/oj
• European Parliament and Council of the European Union, Official Journal of the EU, “Regulation (EU) 2026/1744 amending Regulations (EU) 2024/1689, (EU) 2018/1139 and (EU) 2023/1230 (Digital Omnibus on AI)”, 2026. https://eur-lex.europa.eu/eli/reg/2026/1744/oj

Metoda editoriale

Çdo shifër u kontrollua për vitin, botuesin dhe çfarë mat, te teksti i plotë kur u hap. Burimi i lexuar vetëm te një përmbledhje, një abstrakt ose copa shënohet me “përmes”. Shifra që nuk u konfirmua te ajo që u lexua shënohet si e tillë në faqen e vet, ose lihet jashtë. Interpretimi i redaktorit shënohet “Leximi ynë”.

Redaktuar nga Stiven Janaqi, që përgjigjet për të; “redaksia” në këtë botim është ai. Tekstet, përkthimet, faqosja dhe kontrolli i shifrave te burimet e tyre bëhen në seanca pune me Claude, një model AI i Anthropic. Si bëhet kjo faqe