Algoritmerna, ansvaret och arbetsplatserna

TCObloggar 2020-02-19

Algoritmernas intåg i arbetslivet väcker stora förhoppningar om bättre beslut, ökad effektivitet och en framtid där människa och maskin kompletterar varandra. Men samtidigt finns det frågor som behöver finna bra och framförallt praktiskt användbara svar. Där har de fackliga organisationerna en viktig uppgift.

Algoritmer av olika slag används till allt fler saker i dagens arbetsliv. Till användningsområdena hör att göra urval vid rekryteringar, att organisera arbete och vid beslutsfattande, inklusive vid myndighetsutövning.

Det är lätt att se fördelarna med att låta avancerade datorprogram hjälpa till med att sålla bland kandidater till ett jobb, optimera bemanning, minska transaktionskostnaderna när utbud och efterfrågan på arbetsmarknaden ska mötas eller bidra till att bättre (och billigare) beslut. Samtidigt finns det frågor som behöver finna bra och framförallt praktiskt användbara svar.

Vissa frågor är egentligen relativt enkla. Dit hör frågan om vem som är ansvarig för det som algoritmen gör. Det beskrivs ibland som en svår fråga, särskilt i situationer där algoritmen kombineras med maskininlärning och de svar den ger därför utvecklas över tid. Det ofta missbrukade begreppet artificiell intelligens (AI) kan ibland ställa till det lite extra genom att ge ettorna och nollorna ett sken av att besitta mänskliga kvaliteter.

Jag brukar säga att ny teknik och gammal juridik ofta passar väldigt bra ihop. Det gäller även i detta fall. Vi har redan idag på många områden lagstiftning som reglerar såväl tillverkares ansvar för produkter som ansvaret för de som använder dem.

Det är idag allmänt känt att användningen av algoritmer vid rekrytering kan leda till diskriminering. Tvärtemot föreställningen att maskinerna är fria från människors fördomar så kan de vara fulla av dem – eftersom den data de tränats på avspeglar existerande fördomar i samhället. En arbetsgivare som vid rekrytering använder en algoritm som leder till ett utfall som diskriminerar kan enligt Diskrimineringslagen aldrig skylla ifrån sig på någon annan. Inte på algoritmen, inte på tillverkaren, inte på något rekryteringsföretag som använt algoritmen på arbetsgivarens uppdrag.  

Samma sak gäller i en situation där en algoritm som används för att organisera arbete, till exempel för att fördela arbetstillfällen eller arbetsuppgifter, leder till en dålig arbetsmiljö i form av till exempel stress. Arbetsmiljöansvaret ligger hos arbetsgivaren. I detta sammanhang bör man komma ihåg att även algoritmer med andra syften än arbetsledning, till exempel beslutsstöd, kan påverka arbetsmiljön.

När algoritmer används i samband med myndighetsutövning är såväl ansvarsfrågan som vikten av att algoritmen håller hög kvalitet extra viktig.

Ett exempel som har fått mest uppmärksamhet är socialtjänsten i Trelleborgs kommun, som använder ett automatiserat beslutsfattande vid bedömning av om personer har rätt till försörjningsstöd.  Arbetsvärlden beskriver i ett reportage dels en del av de juridiska frågor detta har väckt, liksom Akademikerförbundet SSR:s JO-anmälan mot kommunen för att få ut koden till algoritmen och ”en förklaring av vad programmet gör som är begriplig för en lekman”.

Det sistnämnda är särskilt intressant. För även om frågan om vem som är ansvarig framstår som relativt enkel, så är frågan om hur man ska kunna bedöma om detta ansvar har tagits eller inte betydligt mer komplicerad.

I en artikel i Harvard Journal of Law & Technology, “Counterfactual Explanations Without Opening the Black Box: Automated Decisions and the GDPR”, skriver Sandra Wachter, Brent Mittelstadt och Chris Russel

Att få ut själva koden till algoritmen är enligt författarna inte bara svårt, då dessa som regel innehåller företagshemligheter som varken tillverkare eller användare vill avslöja, utan dessutom inte till särskilt stor hjälp. Istället bör vi söka efter metoder som kan ge förklaringar till algoritmernas resultat. Sådana förklaringar kan fylla tre olika syften: 1) att hjälpa den som berörs av ett automatiserat beslut att förstå varför ett visst beslut fattades, 2) att utgöra grund för att ifrågasätta, ompröva eller överklaga beslutet samt 3) att förstå vad som behöver ändras för att få ett annat resultat i framtiden. Inget av detta, menar Wachter, Mittelstads och Russel, kräver att vi ger oss in i det automatiska beslutssystemets interna konstruktion. Den metod de föreslår är att använda kontrafaktiska förklaringar.

Ett enkelt exempel på en kontrafaktisk förklaring är att en person som nekats ett banklån får reda på att det beror på att hen har en för låg årsinkomst (t ex 300 000 kr) samt en uppgift om hur hög den hade behövt vara (t ex 450 000 kr) för att lånet skulle ha beviljats. Det ger den presumtiva låntagaren informationen att det t ex inte var hens kredithistorik som var problemet och dessutom en uppfattning om vad som behöver förändras för att ett lån ska beviljas.

Ofta är det ju dock mer komplicerat än så och många olika variabler inblandade. Wachter et al menar att utgångspunkten bör vara att hitta de omständigheter som om de varit lite annorlunda hade lett till ett annat beslut - de närmaste av alternativa världar. Man testar alltså alternativa hypoteser för att hitta den variabel eller kombination av variabler som om de hade varit minst annorlunda hade gett ett annat utfall.

Istället för att försöka beskriva hur algoritmen gör för att komma fram till sitt beslut fokuserar kontrafaktiska förklaringar på att identifiera de externa faktorer som avgjorde utfallet i det individuella fallet.

Överfört till en socialtjänst handläggning av biståndsbeslut, eller profilering inom den aktiva arbetsmarknadspolitiken, skulle detta, som jag förstår det, innebära att man inte nöjer sig med beskrivningen att algoritmen tar hänsyn till x, y och z (vilket dessutom kan vara svårt att definiera i fall av mer avancerad maskininlärning) utan även kräver svar på om det var individens inkomsthistorik, utbildningsnivå, tidigare arbetslöshet, kön, bostadsort eller annat som hade störst betydelse för utfallet.

Det är en typ av information som ofta är betydligt mer begriplig för en lekman, men som ändå gör det möjligt att kontrollera och föra en diskussion om det lagliga och lämpliga i det automatiserade beslutet.

Vad gäller att avslöja diskriminering i algoritmerna så menar Wachter et al att det bästa sättet är statistisk analys av en mängd beslut, inte förklaringar av ett enskilt beslut, men att kontrafaktiska förklaringar av enskilda beslut kan vara det som ger bevis för att en algoritms beslut påverkas av en variabel som utgör en diskrimineringsgrund och att den därför kan vara diskriminerande. Till detta kan läggas att man även bör analysera variabler som har ett starkt samband med en diskrimineringsgrund för att på så vis försöka blottlägga indirekt diskriminering.

Även om jag tycker att det finns mycket i Wachters, Mittelstad och Russels idéer som är intressanta så är min poäng inte att kontraktfaktiska förklaringar är den modell som man nödvändigtvis ska använda för att skapa transparens när algoritmer används i beslutsstöd eller för automatiserade beslut.

Min poäng är istället att vi behöver hitta metoder som hjälper oss att förstå konsekvenserna av en viss algoritm som är användbara i vardagen. Betydelsen av detta i anslutning till myndighetsutövning har jag beskrivit ovan, men det gäller även i förhållandet mellan arbetsgivare och arbetstagare.

Även om man aldrig får tillåta att en arbetsgivare gömmer sig bakom en algoritm istället för att förklara sina beslut så kommer det att finnas situationer där möjligheten att analysera och diskutera konsekvenserna av en algoritm i ett personaladministrativt system, beslutsstöd eller system för automatiserade beslut kommer att ha stor betydelse. Att hitta praktiskt användbara metoder för detta är därför en viktig facklig fråga.

Samhällspolitisk chef

Så höjer vi pensionerna

TCO vill stärka den allmänna pensionen. För att det ska löna sig att arbeta för pensionen och för att oro för den framtida pensionen ska kunna växlas över i framtidstro, behöver de inkomstrelaterade delarna i pensionssystemet förstärkas och få mer genomslag. Samtidigt behöver grundskyddet vara tillräckligt för att garantera att lägsta nivån innebär en skälig levnadsstandard för pensionärerna.

Läs mer här.

Debatt

TCO vill stärka den allmänna pensionen

TCO vill stärka den allmänna pensionen. För att det ska löna sig att arbeta för pensionen och för att oro för den framtida pensionen ska kunna växlas över i framtidstro, behöver de inkomstrelaterade delarna i pensionssystemet förstärkas och få mer genomslag. Samtidigt behöver grundskyddet vara tillräckligt för att garantera att lägsta nivån innebär en skälig levnadsstandard för pensionärerna.

Nyheter

Therese Svanströms tal mot Rysslands krig i Ukraina

Den 30 mars höll TCO:s ordförande Therese Svanström ett tal mot Rysslands krigsföring i Ukraina. Talet hölls vid en demonstration utanför Ryska Ambassaden i Stockholm.

Pressmeddelanden

TCO föreslår hur pensionerna kan höjas

TCO har idag presenterat ett förslag hur pensionerna kan höjas inom ramen för den nuvarande pensionsöverenskommelsen. Förslaget består av tre delar: höjd pensionsavgift, höjda utgående pensioner och en utdelning av tillfälliga överskott. TCO förutsätter att riksdagens pensionsgrupp samlas och försöker hitta en lösning som inte äventyrar pensionssystemet.

Debatt

Regeringen måste säkra ekonomisk trygghet för egenföretagare

Egenföretagandet kommer sannolikt att öka i Sverige till följd av de nya möjligheterna till distansarbete. Men pandemin har visat på flera brister i försäkringssystemen som gör att de med eget företag ofta hamnar i kläm. Det skriver Therese Svanström, ordförande för TCO.

Nyheter

Joint Nordic Statement on the FNPR support for the Russian aggression in Ukraine

TCO, som en del av Nordens fackliga samorganisation (NFS), fördömer i ett gemensamt uttalande det den ryska fackliga centralorganisationen FNPR sagt om Rysslands invastion i  Ukraina. NFS vill att FNPR omedelbart tar tillbaka sitt uttalande, och om man inte gör det vill man att FNPR utesluts ur ITUC (International Trade Union Confederation).

Pressmeddelanden

Hot och våld mot tjänstemän hotar demokratin

Var femte tjänsteman har utsatts för hat, hot och våld från tredje man. Det handlar om knuffar, slag, direkta hot på jobbet eller hot i mejl och sociala medier. Det visar en ny undersökning från TCO. Och att tjänstemän utsätts är ett hot mot demokratin, anser nio av tio förvärvsarbetande.

Gå till Aktuellt

TCO bloggar

Therese Svanström - Ordförande TCO

28 april, 2022

Ingen ska skadas, bli sjuk eller dö av sitt jobb

Arbetsmiljöarbetet behöver prioriteras. För att ingen ska skadas, bli sjuk eller dö på eller av sitt jobb. För att säkra kompetensförsörjningen till bristyrken inom välfärden. För att alla som vill ska kunna arbeta heltid med hälsan i behåll, och för att alla ska ges möjlighet till ett tryggt, hållbart och utvecklande arbetsliv ända fram till pensionen.

Arbetsmiljö

Lena Orpana - Utredare pensionsfrågor, statistiker

24 maj, 2022

Höjda pensioner och bevarad autonomi för pensionssystemet

TCO publicerade i lördagens DN Debatt ett förslag till höjda pensioner, som finansieras med bevarande av pensionssystemets autonomi och som bör vara möjligt att hitta ett brett stöd för. Förslaget består av tre delar.

Oscar Wåglund Söderström - Internationell chef

09 maj, 2022

En renässans för fredsprojektet

Sjuttio år av utveckling och kompromisser har gett ett på många sätt framgångsrikt EU. Historien visar att det är i tider av kris som de stora utvecklingsstegen brukar tas. Så frågan är, vad blir nästa kliv framåt för Europa? Det skriver gästkrönikör Oscar Wåglund Söderström, internationell chef, TCO.​

EU

Lena Orpana - Utredare pensionsfrågor, statistiker

11 april, 2022

Det behöver löna sig att arbeta för sin pension

Inför den kommande vårpropositionen den 19 april har TCO ett antal förslag vad gäller pensionen. Det handlar om långsiktiga lösningar för ett hållbart arbetsliv och en höjning av pensionsrätt och pensionsavgift med bevarande av autonomi och åtskillnad från statsbudgeten.

Trygghetssystem, Pension

Karin Pilsäter - Ekonomisk politik

04 april, 2022

Vårbudget 2022 – i kristid

När osäkerheten är stor såväl om säkerhetsläge som ekonomisk utveckling är det viktigt att stärka vår motståndskraft. Sverige behöver rustas för omställning och utveckling. Det är nödvändigt för kompetensförsörjningen av ett växande näringsliv och välfärdens tjänster, och behöver ske såväl som stärkt försvar och säkerhet. Det vill TCO skicka med partierna nu när vårpropositionen är på intågande.

Ekonomi och tillväxt, EU, Skattereform

Åsa Forsell - Utredare med ansvar för jämställdhetsfrågor.

28 mars, 2022

Klimatomställning och jämställdhet i fokus på FN:s kvinnokommissions toppmöte

Den 25 mars avslutades det årliga två veckor långa internationella toppmötet med FN:s kvinnokommission CSW66 (den 66:e sessionen av Commission on the Status of Women). TCO:s Åsa Forsell har deltagit och skriver om några lärdomar och insikter från mötet.

Internationellt, Jämställdhet

Gå till TCO bloggar

TCO play

Se fler filmer

Rapporter

Rapporter

A-kassan urholkas år efter år – Så påverkas hushållens ekonomi

Den här rapporten visar hur ersättningen från a-kassan ser ut i dag och hur den urholkats över tid. Arbetslöshetsförsäkringen ersätter bara runt 60 procent av en medianlön. För tjänstemännen är a-kassan ännu lägre, cirka 50 procent av medianlönen.

Läs vidare

Rapporter

Vägen från sjukskrivning till arbete

Att komma tillbaka från en långtidssjukskrivning kan ta tid och att få rehabilitering är många gånger centralt för att snabbare kunna avsluta sjukskrivningen och börja jobba igen. I den här rapporten visar TCO att det finns betydande brister i rehabiliteringen för tjänstemän. Bristerna finns i alla sektorer men är särskilt tydliga för vissa grupper. Det handlar om kvinnliga tjänstemän i kommunal…

Läs vidare

Rapporter

Svensk a-kassa allt sämre

Det hörs ibland i den offentliga debatten att de svenska socialförsäkringarna är de mest generösa i världen. Den bilden stämmer inte riktigt och i synnerhet inte när det handlar om a-kassan, vilket vi visar i den här rapporten. Sverige har halkat efter och det riskerar att allvarligt skada våra möjligheter att kunna ställa om i tider då det är helt nödvändigt att vi lyckas.

Läs vidare

Rapporter

Hur mår skyddsombuden?

I en undersökning riktad till TCO-förbundens skyddsombud har vi tagit reda på hur de upplever sina uppdrag. Vi har ställt frågor om situationen på den egna arbetsplatsen, om vilket stöd man får i uppdraget, hur man uppfattar arbetsgivarens kunskaper, vilka utbildningsbehoven är och om arbets- miljöarbetet under pandemin. Undersökningen omfattar närapå samtliga 32 000 skyddsombud i TCO:s 13 olika…

Läs vidare

Se alla rapporter

Arbetsvärlden

Arbetsvärlden är en webbtidning om arbetsmarknaden. Den ges ut av TCO och görs av en självständig redaktion.

Hitta ditt fackförbund

TCO påverkar politiken och samhällsutvecklingen för goda villkor i arbetslivet. Vi är 12 fackförbund med 1,2 miljoner medlemmar.
Använd filtret nedan för att hitta ditt fackförbund.