Algoritmerna, ansvaret och arbetsplatserna

TCObloggar 2020-02-19

Algoritmernas intåg i arbetslivet väcker stora förhoppningar om bättre beslut, ökad effektivitet och en framtid där människa och maskin kompletterar varandra. Men samtidigt finns det frågor som behöver finna bra och framförallt praktiskt användbara svar. Där har de fackliga organisationerna en viktig uppgift.

Algoritmer av olika slag används till allt fler saker i dagens arbetsliv. Till användningsområdena hör att göra urval vid rekryteringar, att organisera arbete och vid beslutsfattande, inklusive vid myndighetsutövning.

Det är lätt att se fördelarna med att låta avancerade datorprogram hjälpa till med att sålla bland kandidater till ett jobb, optimera bemanning, minska transaktionskostnaderna när utbud och efterfrågan på arbetsmarknaden ska mötas eller bidra till att bättre (och billigare) beslut. Samtidigt finns det frågor som behöver finna bra och framförallt praktiskt användbara svar.

Vissa frågor är egentligen relativt enkla. Dit hör frågan om vem som är ansvarig för det som algoritmen gör. Det beskrivs ibland som en svår fråga, särskilt i situationer där algoritmen kombineras med maskininlärning och de svar den ger därför utvecklas över tid. Det ofta missbrukade begreppet artificiell intelligens (AI) kan ibland ställa till det lite extra genom att ge ettorna och nollorna ett sken av att besitta mänskliga kvaliteter.

Jag brukar säga att ny teknik och gammal juridik ofta passar väldigt bra ihop. Det gäller även i detta fall. Vi har redan idag på många områden lagstiftning som reglerar såväl tillverkares ansvar för produkter som ansvaret för de som använder dem.

Det är idag allmänt känt att användningen av algoritmer vid rekrytering kan leda till diskriminering. Tvärtemot föreställningen att maskinerna är fria från människors fördomar så kan de vara fulla av dem – eftersom den data de tränats på avspeglar existerande fördomar i samhället. En arbetsgivare som vid rekrytering använder en algoritm som leder till ett utfall som diskriminerar kan enligt Diskrimineringslagen aldrig skylla ifrån sig på någon annan. Inte på algoritmen, inte på tillverkaren, inte på något rekryteringsföretag som använt algoritmen på arbetsgivarens uppdrag.  

Samma sak gäller i en situation där en algoritm som används för att organisera arbete, till exempel för att fördela arbetstillfällen eller arbetsuppgifter, leder till en dålig arbetsmiljö i form av till exempel stress. Arbetsmiljöansvaret ligger hos arbetsgivaren. I detta sammanhang bör man komma ihåg att även algoritmer med andra syften än arbetsledning, till exempel beslutsstöd, kan påverka arbetsmiljön.

När algoritmer används i samband med myndighetsutövning är såväl ansvarsfrågan som vikten av att algoritmen håller hög kvalitet extra viktig.

Ett exempel som har fått mest uppmärksamhet är socialtjänsten i Trelleborgs kommun, som använder ett automatiserat beslutsfattande vid bedömning av om personer har rätt till försörjningsstöd.  Arbetsvärlden beskriver i ett reportage dels en del av de juridiska frågor detta har väckt, liksom Akademikerförbundet SSR:s JO-anmälan mot kommunen för att få ut koden till algoritmen och ”en förklaring av vad programmet gör som är begriplig för en lekman”.

Det sistnämnda är särskilt intressant. För även om frågan om vem som är ansvarig framstår som relativt enkel, så är frågan om hur man ska kunna bedöma om detta ansvar har tagits eller inte betydligt mer komplicerad.

I en artikel i Harvard Journal of Law & Technology, “Counterfactual Explanations Without Opening the Black Box: Automated Decisions and the GDPR”, skriver Sandra Wachter, Brent Mittelstadt och Chris Russel

Att få ut själva koden till algoritmen är enligt författarna inte bara svårt, då dessa som regel innehåller företagshemligheter som varken tillverkare eller användare vill avslöja, utan dessutom inte till särskilt stor hjälp. Istället bör vi söka efter metoder som kan ge förklaringar till algoritmernas resultat. Sådana förklaringar kan fylla tre olika syften: 1) att hjälpa den som berörs av ett automatiserat beslut att förstå varför ett visst beslut fattades, 2) att utgöra grund för att ifrågasätta, ompröva eller överklaga beslutet samt 3) att förstå vad som behöver ändras för att få ett annat resultat i framtiden. Inget av detta, menar Wachter, Mittelstads och Russel, kräver att vi ger oss in i det automatiska beslutssystemets interna konstruktion. Den metod de föreslår är att använda kontrafaktiska förklaringar.

Ett enkelt exempel på en kontrafaktisk förklaring är att en person som nekats ett banklån får reda på att det beror på att hen har en för låg årsinkomst (t ex 300 000 kr) samt en uppgift om hur hög den hade behövt vara (t ex 450 000 kr) för att lånet skulle ha beviljats. Det ger den presumtiva låntagaren informationen att det t ex inte var hens kredithistorik som var problemet och dessutom en uppfattning om vad som behöver förändras för att ett lån ska beviljas.

Ofta är det ju dock mer komplicerat än så och många olika variabler inblandade. Wachter et al menar att utgångspunkten bör vara att hitta de omständigheter som om de varit lite annorlunda hade lett till ett annat beslut - de närmaste av alternativa världar. Man testar alltså alternativa hypoteser för att hitta den variabel eller kombination av variabler som om de hade varit minst annorlunda hade gett ett annat utfall.

Istället för att försöka beskriva hur algoritmen gör för att komma fram till sitt beslut fokuserar kontrafaktiska förklaringar på att identifiera de externa faktorer som avgjorde utfallet i det individuella fallet.

Överfört till en socialtjänst handläggning av biståndsbeslut, eller profilering inom den aktiva arbetsmarknadspolitiken, skulle detta, som jag förstår det, innebära att man inte nöjer sig med beskrivningen att algoritmen tar hänsyn till x, y och z (vilket dessutom kan vara svårt att definiera i fall av mer avancerad maskininlärning) utan även kräver svar på om det var individens inkomsthistorik, utbildningsnivå, tidigare arbetslöshet, kön, bostadsort eller annat som hade störst betydelse för utfallet.

Det är en typ av information som ofta är betydligt mer begriplig för en lekman, men som ändå gör det möjligt att kontrollera och föra en diskussion om det lagliga och lämpliga i det automatiserade beslutet.

Vad gäller att avslöja diskriminering i algoritmerna så menar Wachter et al att det bästa sättet är statistisk analys av en mängd beslut, inte förklaringar av ett enskilt beslut, men att kontrafaktiska förklaringar av enskilda beslut kan vara det som ger bevis för att en algoritms beslut påverkas av en variabel som utgör en diskrimineringsgrund och att den därför kan vara diskriminerande. Till detta kan läggas att man även bör analysera variabler som har ett starkt samband med en diskrimineringsgrund för att på så vis försöka blottlägga indirekt diskriminering.

Även om jag tycker att det finns mycket i Wachters, Mittelstad och Russels idéer som är intressanta så är min poäng inte att kontraktfaktiska förklaringar är den modell som man nödvändigtvis ska använda för att skapa transparens när algoritmer används i beslutsstöd eller för automatiserade beslut.

Min poäng är istället att vi behöver hitta metoder som hjälper oss att förstå konsekvenserna av en viss algoritm som är användbara i vardagen. Betydelsen av detta i anslutning till myndighetsutövning har jag beskrivit ovan, men det gäller även i förhållandet mellan arbetsgivare och arbetstagare.

Även om man aldrig får tillåta att en arbetsgivare gömmer sig bakom en algoritm istället för att förklara sina beslut så kommer det att finnas situationer där möjligheten att analysera och diskutera konsekvenserna av en algoritm i ett personaladministrativt system, beslutsstöd eller system för automatiserade beslut kommer att ha stor betydelse. Att hitta praktiskt användbara metoder för detta är därför en viktig facklig fråga.

Samhällspolitisk chef

En ganska bra omställningsbudget

Statsbudgeten går i stora delar i den riktning som TCO efterfrågat. Det tillfälliga taket i a-kassan permanentas inte, men det förlängs i två år. Budgeten innehåller även satsningar på utbildningar för yrkesverksamma samt ytterligare ekonomiskt stöd till kommuner och regioner till följd av pandemin.

Läs mer

Debatt

Nivåerna för a-kassan har inverkan på landets ekonomi

Den allra viktigaste frågan i höstens budget blir vilka förutsättningar vi har för att snabbt vända den nedgång i ekonomin som pandemin gett upphov till. Ersättningsnivåerna för a-kassan kan inte enbart begränsas till att handla om den enskildes privatekonomi utan den faktiska ersättningen har inverkan på landets ekonomi. Att behålla den tillfälliga höjningen bidrar till att hålla uppe den inhemska konsumtionen, samtidigt som den är positiv för ekonomin i kommuner och regioner.

Nyheter

Fortsätt sök gemensamma lösningar - bortom egenintresset

Det är halvtid i mandatperioden och sista halvåret har präglats av pandemin. TCO uppmanar riksdagsledamöterna att de går in i det nya riksdagsåret med en fortsatt vilja till att hitta gemensamma lösningar. Pandemin är inte över och vi behöver göra stora satsningar på Sveriges förmåga att ställa om.

Pressmeddelanden

LO, TCO och Sacos krav: Stoppa våldet mot fackligt aktiva i Belarus

LO, TCO och Saco är djupt oroade över det eskalerade våldet och bristen på respekt för demokrati i Belarus. Idag lämnade de tre organisationerna över en kravlista från hela den nordiska fackföreningsrörelsen till den belarusiska ambassadören i Stockholm.

Debatt

Att försvaga anställningsskyddet är inte lösningen

REPLIK. Vi delar bilden av att den aktiva arbetsmarknadspolitiken behöver reformeras. Det är därför med viss förvåning vi ser att Gulan Avci (L) utmålar de fackliga organisationerna som motståndare mot reformer. Det skriver representanter för Saco och TCO på Altinget Debatt.

Nyheter

Satsa på trygghetssystem, utbildning och välfärden i budgeten för 2021

Att det finns fungerande trygghetssystem och satsning på utbildning är nödvändigt i den lågkonjunktur som Sverige befinner sig i. Under pandemin har antalet arbetssökande ökat och sysselsättningen sjunkit. Nu behövs därför kraftfulla satsningar för omställning och ett besked om att staten är beredd att ta ansvar för att säkra välfärdens finansiering fullt ut.

Pressmeddelanden

TCO: En ganska bra omställningsbudget från regeringen och samarbetspartierna

Nästa års statsbudget går i stora delar i den riktning som TCO efterfrågat. Det tillfälliga taket i a-kassan permanentas inte, men det förlängs i två år. Budgeten innehåller även satsningar på utbildningar för yrkesverksamma samt ytterligare ekonomiskt stöd till kommuner och regioner till följd av pandemin.

Gå till Aktuellt

TCO bloggar

Therese Svanström - Ordförande TCO

18 september, 2020

Flera viktiga budgetbesked – men många saknas ännu

Under de senaste veckorna har budgetutspel från regeringen och samarbetspartierna presenterats nästan dagligen. Flera viktiga besked har lämnats i frågor som TCO drivit. Egenföretagare får ett Coronastöd som kommer att betyda mycket för många medlemsgrupper i olika TCO-förbund. Satsningen på lärcenter ligger också i linje med vad TCO har efterfrågat. Tillskotten till kommuner och regioner till följd av ökade kostnaden under pandemin är också mycket viktiga. Men de stora satsningarna på a-kassan och utbildning för omställning lyser fortfarande med sin frånvaro.

A-kassan, Arbetsmarknad, Trygghetssystem

Oscar Wåglund Söderström - Internationell chef

23 september, 2020

Stoppa våldet mot fackligt aktiva i Belarus!

TCO, LO och SACO är djupt oroade över det eskalerade våldet och bristen på respekt för demokrati i Belarus och träffade igår den belarusiska ambassadören i Stockholm. En tydlig lista med krav på förbättringar av situationen för fackliga kollegor i Belarus lämnades över.

Internationellt

Oscar Wåglund Söderström - Internationell chef

23 september, 2020

Swedish trade unions meet Belarusian ambassador

TCO, LO and Saco are deeply concerned about the escalating violence and the lack of respect for democracy in Belarus. The three presidents Therese Svanström, Susanna Gideonsson and Göran Arrius met with the Belarusian Ambassador to Sweden in Stockholm yesterday, calling for immediate improvement of the situation for trade unionists in Belarus.

Internationellt

Oscar Wåglund Söderström - Internationell chef

08 september, 2020

TCO rejects EU law on minimum wages

Last week, the European Commission closed its consultation on whether to introduce an EU directive regulating minimum wages in Member States. TCO's reply is crystal clear: we reject the idea of an EU directive, thereby completely rejecting the idea that issues regarding wages should be regulated at EU level.

Maria Ahrengart - Nationalekonom

04 september, 2020

Varför behöver ersättningen från a-kassan höjas?

Det tillfälligt höjda taket i a-kassan bör permanentas. Att det behöver höjas beror på just det faktum att de gamla nivåerna inte är tillräckliga 2020. Ett litet land som Sverige är beroende av att arbetsmarknaden präglas av en god omställningsförmåga. Arbetslöshetsförsäkringen är en viktig beståndsdel i det. Det finns tre skäl till varför TCO anser att ersättningen från arbetslöshetsförsäkringen måste höjas.

A-kassan

Oscar Wåglund Söderström - Internationell chef

04 september, 2020

Tydligt nej från TCO till EU-reglerade minimilöner

Idag avslutas EU-kommissionens samråd med arbetsmarknadens parter kring frågan om att reglera minimilöner i medlemsländerna genom ett EU-direktiv. Tillsammans med LO och SACO, samt facken i Danmark, Norge och Island, har TCO lämnat in ett svar till kommissionen. Budskapet är kristallklart: vi säger nej till ett EU-direktiv, och därmed nej till att EU ska reglera frågor kring lön.

Arbetsmarknad, EU, Partsmodellen

Gå till TCO bloggar

Seminarier och event

29 September

Tisdag 29 september 08:30 - 09:15 | Via länk som skickas ut efter anmälan

Ställ inte in - ställ om! Men hur då?

Coronapandemin har satt omställningsfrågorna i fokus. För TCO har dessa frågor alltid varit i ropet. TCO bjuder därför in till ett webbinarium där vi presenterar den nya rapporten "Vidareutbildning, varför och för vad? - Om tjänstemäns utbildningsbehov på en arbetsmarknad i förändring".

Läs mer Anmäl dig här!

2 Oktober

Fredag 2 oktober 09:00 - 13:00 | Digitalt event på tco.se

Digital@Idag 2020

Inom ramen för temadagen Digital@Idag anordnar TCO ett online-seminarium som tar sin utgångspunkt i ett antal aktuella frågeställningar: Hur är läget på den svenska arbetsmarknaden just nu? Hur kommer det se ut imorgon? Vilka krav kommer att ställas på politiken, arbetsmarknadens parter och utbildningsväsendet för att hänga med i teknikomvandlingen?

Läs mer

Se alla event

TCO play

Se fler filmer

Rapporter

Rapporter

Tryggheten, staten och partsmodellen 2

Den ekonomiska tryggheten vid arbetslöshet har stor betydelse både för individen och för samhället. I dag består den tryggheten av många olika försäkringar. I den här rapporten går vi igenom utvecklingen av arbetslöshetsförsäkringen - a-kassan - och andra försäkringar sedan 1980 och fram till idag.

Läs vidare

Rapporter

Får tjänstemännen ihop livspusslet?

Hinner tjänstemännen med både arbete och föräldraskap? Hur viktigt är det att arbetet är föräldravänligt och hur ser arbetssituationen faktiskt ut? Vilka konsekvenser får det att det oftast är kvinnor som anpassar arbetslivet efter familjelivet? Det är några av frågorna som tas upp i den här rapporten.

Läs vidare

Rapporter

Var rädd om RUT!

TCO anser att rutavdraget är viktigt för att underlätta människors livspussel, därför måste systemet värnas från förslag som riskerar att undergräva dess legitimitet. TCO framför i denna rapport en rad förslag som syftar till att hålla till rutavdraget träffsäkert, effektivt och legitimt.

Läs vidare

Rapporter

Från lön till studiemedel - går ekonomin ihop?

Vi lever i en tid då vikten av det livslånga lärandet ökar. Men hur påverkas hushållsekonomin för en yrkesverksam som går tillbaka till skolbänken? Går ekonomin ihop för den som väljer att finansiera sina studier med studiemedel?

Läs vidare

Se alla rapporter

Arbetsvärlden

Arbetsvärlden är en webbtidning om arbetsmarknaden. Den ges ut av TCO och görs av en självständig redaktion.

Hitta ditt fackförbund

TCO är en centralorganisation för 13 fackförbund som tillsammans har 1,4 miljoner medlemmar.
Använd filtret nedan för att hitta ditt fackförbund.