AI blir en allt vanligare del av beslutsfattandet i organisationer. Inom vården kan AI hjälpa till att analysera stora mängder information, hitta mönster och bedöma komplexa fall. AI kan också påverka vad människor uppmärksammar, hur de förstår ett problem och hur ett beslut växer fram.
Det är detta Bijona Troqe har velat förstå i sin forskning. I stället för att fråga om AI fattar bättre beslut än människor har hon undersökt vad som händer när människor och AI bidrar till samma beslutsprocess.
– Jag vill förstå beslutsfattande mellan människor och AI ur ett organisatoriskt perspektiv. Jag studerar inte själva tekniken och försöker inte heller optimera verktygen, säger Bijona Troqe.
Hennes forskning handlar om beslutsfattande i organisationer där många människor, olika typer av kunskap och osäkerhet är en del av processen.
Rollerna är inte fastaÌý
Bijona Troqe har studerat tre områden inom svensk precisionsmedicin: AI-stödd bröstcancerscreening, utveckling av individanpassade läkemedel och datadriven vård. I forskningen ingår bland annat intervjuer, fokusgrupper, observationer, studiebesök och dokumentanalyser.
Ett av de viktigaste resultaten är att människor och AI inte har fasta roller. Vem som bidrar med vad kan förändras beroende på situationen, vilken information som finns och hur stor risken är.
Vid bröstcancerscreening kan till exempel en riskbedömning från AI påverka hur en mammografibild hanteras och om den behöver granskas ytterligare. I andra situationer bidrar AI och radiologen i olika delar av processen.
– Jag såg en mer fördelad och föränderlig form av samarbete. Inom samma arbetsflöde kan samarbetet se olika ut, säger Bijona Troqe.
AI kan analysera stora mängder data och hitta mönster. Människor bidrar med yrkeserfarenhet och kunskap om sammanhanget som AI-systemet kanske saknar. Deras styrkor kan därför komplettera varandra.Ìý
AI påverkar vad vi uppmärksammar
Forskningen visar också att AI kan påverka ett beslut långt innan det slutliga valet görs. Genom att sortera information, hitta mönster och göra riskbedömningar kan AI påverka vad människor lägger märke till och hur de förstår ett problem.
Ett exempel kommer från datadriven vård. Vårdpersonal fick ange vilka faktorer de ansåg vara viktiga för att förutsäga vilka patienter som skulle återvända till akutmottagningen efter att de skrivits ut. När en modell analyserade data lyfte den fram både faktorer som personalen hade bedömt som mindre viktiga och faktorer som de inte hade tagit med.
– AI kan lyfta fram sådant som beslutsfattare inte har tänkt på tidigare, säger Bijona Troqe.
Organisationer behöver därför fundera över både vad AI gör mer synligt och vad som samtidigt kan få mindre uppmärksamhet.
–ÌýDet blir inte alltid bättre.Därför behöver vi förstå mer om hur vi samarbetar och samspelar med den här tekniken, säger Bijona Troqe.
Börja med problemet
Organisationer som överväger att införa AI bör först definiera vilket beslut de vill förbättra och vilket problem de vill lösa, menar Bijona Troqe. Tekniken bör inte vara utgångspunkten.
Teiksma Buseva
De behöver också ta hänsyn till vilka som fattar besluten, deras yrkeskunskap, organisationens mål och de tekniska och organisatoriska förutsättningarna.
– Var tydlig med varför ni vill införa AI. Vilket är det faktiska behovet? Vilket problem försöker ni lösa? Jag skulle börja där, säger Bijona Troqe.
Även om forskningen bygger på vården kan resultaten vara användbara i andra organisationer där beslut involverar många aktörer, flera typer av kunskap och osäkerhet.
– Beslut fattas aldrig isolerat. De är alltid en del av ett sammanhang, säger Bijona Troqe