Taber mennesket agens, når AI vinder terræn?

Kunstig intelligens algoritmer (AI) vil før end siden blive betragtet som agenter side om side med mennesker, idet de har potentiale til at gribe ind og præge – hvis ikke overtage – hele jobfunktioner i et fagområde, lære sig til at blive bedre og bedre hertil og det på en for os døde væsener på en temmelig uigennemskuelig måde.

Derfor vil AI kunne opleves som en form for agent i vores liv, der agerer deri og påvirker vores valg, adfærd og psykologiske stemning. Og dét vil udfordre vores oplevelse af selv at være agenter i vore hver især liv og altså vores oplevelse af at være ‘føreren bag rattet’.

Blandt AIs specialiteter er mønstergenkendelse og det er en færdighed, der kan bruges i fx. radiologien når der skal diagnosticeres ud fra scanningsbilleder. Det er derfor nærliggende, at radiologerne oplever sig udfordres at at skulle støttes af denne nye form for ekspert, der potentielt er bedre end radiologen til funktionen. Eller omvendt en AI, der kræver en masse ekstraarbejde fordi den netop ikke er intelligent nok (endnu).

Radiografen og radiologens holdning, viden og praksis bliver her afgørende for hvordan dette “samarbejde” mellem de to agenter; AI og fagspecialisten, manifesterer sig – og om det faktisk bærer frugt.

Algoritmer vægter forskelligt – og svaret bliver derefter

Litteraturen viser, at det mere er reglen end undtagelsen, at fagspecialister er skeptiske overfor at implementere AI i deres arbejdsgange. (fx. Pesapane et al., 2020; Pakdemirli, Recht & Bryan, 2017; Verghese, Shah & Harrington, 2018; Sauraub & Topol, 2016; Jha & Topol, 2016).

Fx opstår der især i sundhedsfagene en frygt for at overse sygdomme og dermed forårsage fatale fejl en mulig årsag. Algoritmer bygges med forskelligt formål og fov.

Som ved andre metoder til at teste hypoteser, så involverer bygning af AI-algoritmer også mål som sensitivitet (også kaldet sand positiv rate) og specificitet (også kaldet sand negativ rate). Hvor sensitivitet måler på andelen af korrekt påvist positive tests (‘der er sygdom’), da måler specificitet på andelen af korrekt påvist negative test (‘der er ikke sygdom’). Prioriteringen af disse to mål afgør udfaldet af hvorvidt AI er sensitiv og specifik nok til at registrere hhv. ‘sygdom’ og ‘ikke-sygdom’ ud fra detektion af symptomer på scanningsbilledet.

Dét stiller en række forskellige krav til de fagspecialister, der skal arbejde med AI, når de løser deres opgaver.

Radiologi – et fag i transformation?

Ud over de åbenlyse fordele såsom tids- og økonomisk besparelse, så forventer jeg, at brugen af denne type AI vil skabe en række forandringer i og udfordringer for fagspecialisternes psykologiske velvære herunder fagidentitet samt måde hvorpå de praktiserer deres fag. En transformation, jeg foreslår gælder såvel i andre fag som inden for sundhed.

Inden for radiologien ser jeg følgende umiddelbare udfordringer for fagspecialisterne når de skal bruge AI i deres opgaveløsning:

1) De kan komme på overarbejde hvis AI så at sige “lukker” for mange raske patienter igennem til eftersyn af fagspecialisterne fordi den ikke skal overse nogle syge patienter (ved en AI der er indstillet til at virke med lav specificitet og høj sensitivitet).

2) De kan være i en tilstand af uhensigtsmæssig over-årvågen (stress), når de arbejder fordi de frygter, at AI ikke fanger alle de syge patienter, hvorved fagspecialisterne risikerer at overse behandlingskrævende sygdomme (AI virker med lav sensitivitet og høj specificitet).

3) De kan opleve en forringelse af deres faglige kompetencer til at analyse og fortolke scanningsbilleder pga. forstyrrelse fra AI, som enten over- eller under-stimulerer fagspecialisten.

4) De kan blive eller frygte at blive dovne pga. en holdning om, at AI ‘klarer arbejdet selv’.

5) Og sidst kan de opleve at miste agens i deres arbejdsliv idet AI kan synes konkret at fratage dem kontrol over deres opgaver. Det kan da føre til tab af ansvarsfølelse og måske anseelse som ‘fagspecialist’.

Jeg mener ikke, at disse udfordringer vil stå alene eller par tout er barrierer for en positiv udvikling af faget. En udvikling – og ikke afvikling! – der kan virke transformativ af såvel fagspecialisten, faget, teknologien og den indrammende organisation, hvis de formår at implementere – og anvende – AI i deres specifikke opgaveløsning.

For det er ingen hemmelighed, at AI er hvad, der skal hjælpe os til næste trin på udviklingstrappen hvad angår effektivitet og præcision, når vi skal løse komplekse problemer – i sundhedsvæsenet, energisektoren, infrastruktur, fødevareindustrien og mange andre vitale dele af vore samfund verden over.

Dét stiller krav til dem, der bygger AI-algoritmerne og til os, der skal forstå at implementere og gøre brug af den.

Dette indlæg er oprindeligt udgivet på ING.dk af Astrid Galsgaard.