Algoritmerna, ansvaret och arbetsplatserna

TCObloggar 2020-02-19

Algoritmernas intåg i arbetslivet väcker stora förhoppningar om bättre beslut, ökad effektivitet och en framtid där människa och maskin kompletterar varandra. Men samtidigt finns det frågor som behöver finna bra och framförallt praktiskt användbara svar. Där har de fackliga organisationerna en viktig uppgift.

Algoritmer av olika slag används till allt fler saker i dagens arbetsliv. Till användningsområdena hör att göra urval vid rekryteringar, att organisera arbete och vid beslutsfattande, inklusive vid myndighetsutövning.

Det är lätt att se fördelarna med att låta avancerade datorprogram hjälpa till med att sålla bland kandidater till ett jobb, optimera bemanning, minska transaktionskostnaderna när utbud och efterfrågan på arbetsmarknaden ska mötas eller bidra till att bättre (och billigare) beslut. Samtidigt finns det frågor som behöver finna bra och framförallt praktiskt användbara svar.

Vissa frågor är egentligen relativt enkla. Dit hör frågan om vem som är ansvarig för det som algoritmen gör. Det beskrivs ibland som en svår fråga, särskilt i situationer där algoritmen kombineras med maskininlärning och de svar den ger därför utvecklas över tid. Det ofta missbrukade begreppet artificiell intelligens (AI) kan ibland ställa till det lite extra genom att ge ettorna och nollorna ett sken av att besitta mänskliga kvaliteter.

Jag brukar säga att ny teknik och gammal juridik ofta passar väldigt bra ihop. Det gäller även i detta fall. Vi har redan idag på många områden lagstiftning som reglerar såväl tillverkares ansvar för produkter som ansvaret för de som använder dem.

Det är idag allmänt känt att användningen av algoritmer vid rekrytering kan leda till diskriminering. Tvärtemot föreställningen att maskinerna är fria från människors fördomar så kan de vara fulla av dem – eftersom den data de tränats på avspeglar existerande fördomar i samhället. En arbetsgivare som vid rekrytering använder en algoritm som leder till ett utfall som diskriminerar kan enligt Diskrimineringslagen aldrig skylla ifrån sig på någon annan. Inte på algoritmen, inte på tillverkaren, inte på något rekryteringsföretag som använt algoritmen på arbetsgivarens uppdrag.  

Samma sak gäller i en situation där en algoritm som används för att organisera arbete, till exempel för att fördela arbetstillfällen eller arbetsuppgifter, leder till en dålig arbetsmiljö i form av till exempel stress. Arbetsmiljöansvaret ligger hos arbetsgivaren. I detta sammanhang bör man komma ihåg att även algoritmer med andra syften än arbetsledning, till exempel beslutsstöd, kan påverka arbetsmiljön.

När algoritmer används i samband med myndighetsutövning är såväl ansvarsfrågan som vikten av att algoritmen håller hög kvalitet extra viktig.

Ett exempel som har fått mest uppmärksamhet är socialtjänsten i Trelleborgs kommun, som använder ett automatiserat beslutsfattande vid bedömning av om personer har rätt till försörjningsstöd.  Arbetsvärlden beskriver i ett reportage dels en del av de juridiska frågor detta har väckt, liksom Akademikerförbundet SSR:s JO-anmälan mot kommunen för att få ut koden till algoritmen och ”en förklaring av vad programmet gör som är begriplig för en lekman”.

Det sistnämnda är särskilt intressant. För även om frågan om vem som är ansvarig framstår som relativt enkel, så är frågan om hur man ska kunna bedöma om detta ansvar har tagits eller inte betydligt mer komplicerad.

I en artikel i Harvard Journal of Law & Technology, “Counterfactual Explanations Without Opening the Black Box: Automated Decisions and the GDPR”, skriver Sandra Wachter, Brent Mittelstadt och Chris Russel

Att få ut själva koden till algoritmen är enligt författarna inte bara svårt, då dessa som regel innehåller företagshemligheter som varken tillverkare eller användare vill avslöja, utan dessutom inte till särskilt stor hjälp. Istället bör vi söka efter metoder som kan ge förklaringar till algoritmernas resultat. Sådana förklaringar kan fylla tre olika syften: 1) att hjälpa den som berörs av ett automatiserat beslut att förstå varför ett visst beslut fattades, 2) att utgöra grund för att ifrågasätta, ompröva eller överklaga beslutet samt 3) att förstå vad som behöver ändras för att få ett annat resultat i framtiden. Inget av detta, menar Wachter, Mittelstads och Russel, kräver att vi ger oss in i det automatiska beslutssystemets interna konstruktion. Den metod de föreslår är att använda kontrafaktiska förklaringar.

Ett enkelt exempel på en kontrafaktisk förklaring är att en person som nekats ett banklån får reda på att det beror på att hen har en för låg årsinkomst (t ex 300 000 kr) samt en uppgift om hur hög den hade behövt vara (t ex 450 000 kr) för att lånet skulle ha beviljats. Det ger den presumtiva låntagaren informationen att det t ex inte var hens kredithistorik som var problemet och dessutom en uppfattning om vad som behöver förändras för att ett lån ska beviljas.

Ofta är det ju dock mer komplicerat än så och många olika variabler inblandade. Wachter et al menar att utgångspunkten bör vara att hitta de omständigheter som om de varit lite annorlunda hade lett till ett annat beslut - de närmaste av alternativa världar. Man testar alltså alternativa hypoteser för att hitta den variabel eller kombination av variabler som om de hade varit minst annorlunda hade gett ett annat utfall.

Istället för att försöka beskriva hur algoritmen gör för att komma fram till sitt beslut fokuserar kontrafaktiska förklaringar på att identifiera de externa faktorer som avgjorde utfallet i det individuella fallet.

Överfört till en socialtjänst handläggning av biståndsbeslut, eller profilering inom den aktiva arbetsmarknadspolitiken, skulle detta, som jag förstår det, innebära att man inte nöjer sig med beskrivningen att algoritmen tar hänsyn till x, y och z (vilket dessutom kan vara svårt att definiera i fall av mer avancerad maskininlärning) utan även kräver svar på om det var individens inkomsthistorik, utbildningsnivå, tidigare arbetslöshet, kön, bostadsort eller annat som hade störst betydelse för utfallet.

Det är en typ av information som ofta är betydligt mer begriplig för en lekman, men som ändå gör det möjligt att kontrollera och föra en diskussion om det lagliga och lämpliga i det automatiserade beslutet.

Vad gäller att avslöja diskriminering i algoritmerna så menar Wachter et al att det bästa sättet är statistisk analys av en mängd beslut, inte förklaringar av ett enskilt beslut, men att kontrafaktiska förklaringar av enskilda beslut kan vara det som ger bevis för att en algoritms beslut påverkas av en variabel som utgör en diskrimineringsgrund och att den därför kan vara diskriminerande. Till detta kan läggas att man även bör analysera variabler som har ett starkt samband med en diskrimineringsgrund för att på så vis försöka blottlägga indirekt diskriminering.

Även om jag tycker att det finns mycket i Wachters, Mittelstad och Russels idéer som är intressanta så är min poäng inte att kontraktfaktiska förklaringar är den modell som man nödvändigtvis ska använda för att skapa transparens när algoritmer används i beslutsstöd eller för automatiserade beslut.

Min poäng är istället att vi behöver hitta metoder som hjälper oss att förstå konsekvenserna av en viss algoritm som är användbara i vardagen. Betydelsen av detta i anslutning till myndighetsutövning har jag beskrivit ovan, men det gäller även i förhållandet mellan arbetsgivare och arbetstagare.

Även om man aldrig får tillåta att en arbetsgivare gömmer sig bakom en algoritm istället för att förklara sina beslut så kommer det att finnas situationer där möjligheten att analysera och diskutera konsekvenserna av en algoritm i ett personaladministrativt system, beslutsstöd eller system för automatiserade beslut kommer att ha stor betydelse. Att hitta praktiskt användbara metoder för detta är därför en viktig facklig fråga.

Samhällspolitisk chef

Sjukföräkringen förbättras i den riktning som TCO drivit

Beskedet att sjukförsäkringen nu ändras åt det håll TCO jobbat för under många år kommer få stor betydelse för tjänstemannagrupperna på arbetsmarknaden, skriver Therese Svanström.

Läs bloggen

Debatt

Arbetares rättigheter kränks i produktionen till Black Friday

Företagen måste ta ansvar för kränkningar mot dem som gör de kläder, datorer och andra saker du funderar på att köpa på Black Friday. Nu krävs skärpt EU-lagstiftning, skriver ordföranden från TCO, SSR, Unionen, ST, Vision, Lärarförbundet, Finansförbundet och Union to union.

Nyheter

Förändringar på arbetsmarknaden i fokus för Eurofound

Kristina Lovén Seldén, arbetsmarknadspolitisk utredare på TCO, har nyligen blivit invald som styrelseledamot i Eurofound - en gemensam institution inom EU vars styrelse består av företrädare för regeringar, arbetsmarknadens parter och EU-kommissionen. Eurofounds uppdrag är att på basis av forskning förmedla kunskap för att stödja utvecklingen av en bättre social-, sysselsättnings- och arbetsmarknadspolitik i EU. Lovén Seldén representerar de svenska facken.

Pressmeddelanden

Välkommet besked att Las-utredningens förslag läggs åt sidan

Arbetsmarknadsminister Eva Nordmark meddelade under torsdagsförmiddagen att regeringen avser att gå vidare med parternas lösningar och inte den så kallade Las-utredningens förslag. TCO välkomnar beskedet.

Debatt

Gränsen på 180 dagar ett slöseri

TCO har länge sett och uppmärksammat bristerna i sjukförsäkringen. Därför var vi bland dem som krävde ett rejält omtag och en tydligare försäkring med ett större fokus på rehabilitering och att ta tillvara på kompetens och erfarenhet snarare än att snabbt pressa sjukskrivna ut i arbetslöshet eller till arbeten där den enskildes utbildning och kunskap inte togs tillvara.

Nyheter

Se våra webbinarier: Så påverkas arbetsmiljön av coronapandemin

Coronapandemin har förändrat arbetslivet, både för de som jobbat hemma och de som gått till jobbet. Men hur har det påverkat arbetsmiljön? I tre olika seminarier diskuterar vi detta, men även vilka lärdomar vi kan ta med oss in i framtiden. Du kan se seminarierna här.

Pressmeddelanden

Tummen ned för EU:s lagförslag om minimilöner

EU-kommissionen presenterade idag ett direktivförslag om minimilöner. Förslaget är inte lika långtgående som befarats, men bedömningen är fortfarande att det nya förslaget riskerar att allvarligt skada partsmodellen om det genomförs. TCO uppmanar Sveriges regering att agera kraftfullt i EU för att förhindra lagförslaget.

Gå till Aktuellt

TCO bloggar

Therese Svanström - Ordförande TCO

26 november, 2020

Sjukförsäkringen förbättras i den riktning som TCO drivit – hurra!

Sjukförsäkringen kommer att förändras, vilket är väldigt positivt. Vi i TCO har bedrivit ett aktivt påverkansarbete i många år för att förbättra försäkringen och besked vi fick under torsdagen 26 november är en viktig delseger. Det kommer att få stor betydelse inte minst för tjänstemannagrupperna på arbetsmarknaden.

Trygghetssystem, Sjukförsäkringen

Oscar Wåglund Söderström - Internationell chef

27 november, 2020

Black Friday - TCO kräver EU-lag för mänskliga rättigheter

Idag är det Black Friday. Hela veckan har mejlkorgen fylls av erbjudanden om stora rabatter på elektronik, mode, sportartiklar och massor av annat. Men under vilka förhållanden tillverkas de här produkterna? Runt om i världen har människor fått det bättre tack vare global handel, men det finns också allvarliga missförhållanden på företag runt om i världen. TCO vill se en ny EU-lag som kräver att företag visar att varor och tjänster tillverkas på ett ansvarsfullt sätt och att fackliga och andra mänskliga rättigheter respekteras fullt ut. För att lagen inte ska bli tandlös krävs att facket får en tydlig roll, både när regelverket tas fram och när den ska tillämpas i praktiken.

EU, Internationellt

Therese Svanström - Ordförande TCO

20 november, 2020

Gör partsmodellen (och dig själv) en tjänst – tacka ditt fackliga ombud

Under förra veckan lyfte ett av de politiska ungdomsförbunden sin frustration över de då pågående löneförhandlingarna inom handelns område som riskerade leda till konflikt. Tyvärr drog de väldigt stora växlar på en utmaning som parterna på svensk arbetsmarknad är vana att hantera – en oenighet om löner och villkor. Det brukar i slutändan brukar lösa sig och det var väldigt länge sedan vi hade större strejker i det här landet som fick allvarliga konsekvenser för anställda, företag eller organisationer. Ungdomsförbundet ville helt enkelt ge facket sparken. Helt och hållet. Fuck facken löd slagorden.

Partsmodellen

Oscar Wåglund Söderström - Internationell chef

19 november, 2020

Sätt press på Polen och Ungern om rättsstat och EU-budget

Europaparlamentet och ministerrådet har enats om en ”rättsstatsmekanism” för att garantera att pengar från EU:s budget och den stora återhämtningsfonden bara går till länder som respekterar rättsstatens principer. Men Polen och Ungern håller emot och lägger veto. Vid det extra EU-toppmötet idag är det viktigt att den svenska regeringen sätter kraftig press på Polen och Ungern. Att koppla utbetalning av EU-pengar till respekt för rättsstaten var ett av TCO:s viktigaste krav på regeringen för att stödja förslaget om återhämtningsplanen i somras.

Ekonomi och tillväxt, EU, Internationellt

Lena Orpana - Utredare pensionsfrågor, statistiker

17 november, 2020

Vad innebär kvällstidningarnas superpension?

Pensionerna är ett återkommande tema på kvällstidningarnas löpsedlar. Nu senast handlade det om ”superpengar” i form av tillägg och avdrag. Men vad innebär det?

Arbetsrätt, Omställning och utbildning, Pension

Kristina Lovén Seldén - Utredare arbetsmarknadspolitik

13 november, 2020

Vad är möjligt och vad är lämpligt? Om kommunernas roll i den statliga arbetsmarknadspolitiken

Planerna på en reformerad Arbetsförmedling fortgår och ett aktuellt förslag är att kommunerna ska kunna agera utförare av arbetsmarknadstjänster åt myndigheten. Även om en sådan konstruktion är möjlig i rent juridiska termer tål att diskuteras ifall det är en lämplig riktning för politiken att röra sig i, eller ett ändamålsenligt svar på vad arbetsmarknadspolitiken ska uppnå.

Arbetsmarknad

Gå till TCO bloggar

TCO play

02:15

06 november, 2020

Vi som jobbade hemma - Webbinarium om arbetsmiljö och distansarbete

Del två i TCO:s serie webbinarier om arbetsmiljö under Corona. Det sista kan du anmäla dig till vi länken: https://www.trippus.net/TCO_webbinarium_arbetsmiljo Coronapandemin har påverkat hur vi lever och hur vi arbetar. Många har bytt skrivbordet på kontoret mot köksbordet hemmavid. Distansarbetet kan ge oss en bättre balans mellan jobb och privatliv, men också orsaka stress och att man arbetar för mycket. Det är både intressant och nödvändigt att följa de långsiktiga konsekvenserna. Hur har arbetsmiljön sett ut för dem som har jobbat hemma under coronapandemin? Vilka arbetsmiljöregler gäller vid hemmaarbete? Hur bör man göra för att klara det fysiskt och psykiskt? Vilka lärdomar kan vi dra inför det fortsatta arbetet under pandemin och inför framtiden? Och hur kommer det att bli när vi går tillbaka till jobbet? Medverkande Therese Svanström, ordförande TCO Gisela Bäcklander, arbetslivs- och organisationsforskare Martine Syrjänen Stålberg, arbetsmiljöexpert Unionen Martina Saar, utredare på Fackförbundet ST med ansvar för arbetsmiljöfrågor Ann-Therése Enarsson, vd för TCO:s och TCO-förbundens tankesmedja Futurion Moderator: Johanna Palmström Vill du veta mer om de andra seminarierna, läs mer här: https://www.tco.se/nyheter-och-debatt/Nyheter/2020/hur-paverkas-arbetsmiljon-av-coronapandemin/ Vill du veta mer om hur TCO arbetar med arbetsmiljöfrågan, läs mer här: https://www.tco.se/tco-tycker/Arbetsmarknad/Arbetsmiljo/

Se fler filmer

Rapporter

Rapporter

Lärcentra - för högre utbildning i hela Sverige

Förbättrad tillgång till högre utbildning i hela landet är inte bara en central fråga för TCO – det är också en fråga som blir än viktigare när arbetsmarknaden förändras i snabb takt. Det är därför oroande att tillgängligheten till högre utbildning utanför lärosätenas huvudorter tycks ha minskat under senare tid.

Läs vidare

Rapporter

Vidareutbildning, varför och för vad?

Vår ekonomi och arbetsmarknad är i konstant förändring. Coronakrisen har ställt vår förmåga att hänga med i utvecklingen på sin spets. Vår rapport ”Vidareutbildning, varför och för vad? visar att behovet av vidareutbildning och kompetensutveckling är stort. Något det var redan före pandemin. Vi har också flera konkreta förslag på hur förutsättningarna för omställning kan bli bättre för alla…

Läs vidare

Rapporter

Tryggheten, staten och partsmodellen 2

Den ekonomiska tryggheten vid arbetslöshet har stor betydelse både för individen och för samhället. I dag består den tryggheten av många olika försäkringar. I den här rapporten går vi igenom utvecklingen av arbetslöshetsförsäkringen - a-kassan - och andra försäkringar sedan 1980 och fram till idag.

Läs vidare

Rapporter

Får tjänstemännen ihop livspusslet?

Hinner tjänstemännen med både arbete och föräldraskap? Hur viktigt är det att arbetet är föräldravänligt och hur ser arbetssituationen faktiskt ut? Vilka konsekvenser får det att det oftast är kvinnor som anpassar arbetslivet efter familjelivet? Det är några av frågorna som tas upp i den här rapporten.

Läs vidare

Se alla rapporter

Arbetsvärlden

Arbetsvärlden är en webbtidning om arbetsmarknaden. Den ges ut av TCO och görs av en självständig redaktion.

Hitta ditt fackförbund

TCO är en centralorganisation för 13 fackförbund som tillsammans har 1,4 miljoner medlemmar.
Använd filtret nedan för att hitta ditt fackförbund.