ENG: Algorithms that assess the risk of citizens becoming unemployed are currently being tested in a number of Danish municipalities. But according to a new study, gaining employment is not the only relevant goal for those out of work — nor should it be for an algorithm.
Together with two colleagues from the Computer Science department at the University of Copenhagen, Professor Thomas Hildebrandt and Professor Irina Shklovski, Naja Holten Møller has explored possible alternatives to using algorithms that predict job readiness for unemployed individuals as well as the ethical aspects that may arise.
An employment framework is able to output assessments made by an algorithm that, via data on the citizen’s gender, age, residence, education, income, ethnicity, history of illness, etc., spits out an estimate of how long the person — compared to other people from similar backgrounds — is expected to remain in the system and receive benefits. The researchers aim to challenge the misconceptions related to unemployment that raise ethical concerns.
One important finding from the paper tells us that “not all struggles come from personal failings and that the structures within which we operate are often just as implicated. Caseworkers clearly recognized their own limitations and that they sometimes might act from a place of bias or carelessness in their work, but there was no clear route for an algorithmic system to mitigate these issues. Instead, caseworkers pointed to the unnecessary problems that the institution of job placement itself created.”
RO: Algoritmii care evaluează riscul ca cetățenii să devină șomeri sunt în prezent testați în mai multe municipalități daneze. Însă, potrivit unui nou studiu, obținerea unui loc de muncă nu este singurul obiectiv relevant pentru cei care nu au un loc de muncă – și nici nu ar trebui să fie pentru un algoritm.
Împreună cu doi colegi de la departamentul de informatică al Universității din Copenhaga, profesorul Thomas Hildebrandt și profesoara Irina Shklovski, Naja Holten Møller a explorat posibilele alternative la utilizarea algoritmilor care prezic disponibilitatea de angajare a persoanelor aflate în șomaj, precum și aspectele etice care pot apărea.
Un cadru de ocupare a forței de muncă este capabil să scoată la iveală evaluările făcute de un algoritm care, prin intermediul datelor privind sexul, vârsta, domiciliul, educația, veniturile, etnia, istoricul de boli etc. ale cetățeanului, estimează perioada de timp în care se așteaptă ca persoana respectivă – în comparație cu alte persoane din medii similare – să rămână în sistem și să primească beneficii. Cercetătorii își propun să combată concepțiile greșite legate de șomaj care ridică probleme de ordin etic.
O constatare importantă din lucrare ne spune că “nu toate luptele provin din eșecuri personale și că structurile în cadrul cărora funcționăm sunt adesea la fel de implicate. Asistenții sociali și-au recunoscut în mod clar propriile limite și faptul că uneori ar putea acționa dintr-un loc de părtinire sau neglijență în munca lor, dar nu a existat o cale clară pentru un sistem algoritmic care să atenueze aceste probleme. În schimb, asistenții sociali au subliniat problemele inutile pe care instituția plasamentului în sine le crea.”
You can read more in the paper (this version is adapted and abridged from Source University of Copenhagen. “Researchers take a stand on algorithm design for job centers: Landing a job isn’t always the right goal.” ScienceDaily. ScienceDaily, 29 October 2020.).
Holten Møller, N., Shklovski, I. and Hildebrandt, T.T., 2020, October. Shifting concepts of value: Designing algorithmic decision-support systems for public services. In Proceedings of the 11th Nordic Conference on Human-Computer Interaction: Shaping Experiences, Shaping Society (pp. 1-12).
