Kan vi lita på AI i vården?

Artificiell Intelligens står inför ett verkligt genombrott inom hälso- och sjukvård. Men hur effektiv och hur pålitlig är den nya teknologin?
– Visst kan vårdbeslut baserade på AI bli fel. Men fördelarna överväger riskerna, säger dr Christian Guttmann, som leder ett högintressant samtal på Vitalis.

Christian Guttmann är professor och forskare kring AI, en av världens ledande auktoriteter på området, och ansvarig för AI inom Tieto. På Vitalis leder han 21 maj eftermiddagspasset Ethics in Artificial Intelligence and Health Care. Förutom han själv medverkar Cory Kidd, VD för Catalia Health i Silicon Valley, Simon Kavanagh, innovationsansvarig på Tieto och Meeri Haataja, rådgivare till den finska regeringen kring AI och etik och VD på Saidot.

– De ska presentera sina erfarenheter, hur de har jobbat med AI och teknologi, speciellt inom hälsosektorn, förklarar Christian Guttmann.

Ämnen som kommer upp gäller bland annat om hur man ger best practice klinisk information med hjälp av AI, hur man gör den evidensbaserad och pålitlig och hur man kan förbättra interaktionen mellan patient och AI. Passet avrundas med en paneldiskussion.

– Där kommer vi att gå igenom olika användningsområden och cases. Vi vill gå så djupt vi kan och göra dialogen så interaktiv som möjligt, säger Christian.

– Därför uppmuntrar vi publiken att ställa frågor. Vi vill gärna utmana läkare och annan vårdpersonal som sitter i publiken. I vilka konkreta fall kan de tänka sig att använda AI?

En intressant aspekt är hur man ska säkerställa att AI alltid ger det bästa svaret när det gäller diagnos, behandlingsplan och medicinering. Om ansvarig läkare har en annan uppfattning – vem ska då patienten lita på? Christian Guttmann menar att AI har en överlägsen kapacitet att följa forskning och utveckling, att ta in och analysera nya rön och behandlingsmetoder.

– Det publiceras runt 4 000 nya medicinvetenskapliga artiklar varje vecka. För en enskild läkare är det omöjligt att läsa igenom allt. Men AI klarar det. Inte bara det: AI kan strukturera, utvärdera, sammanfatta och föreslå en best practice-behandling.

Faran vissa kritiker ser är att AI behandlar alla data som matas in i systemet. Även sådana som kan vara diskutabla, fördomsfulla eller direkt felaktiga. Då finns risken att de slutsatser AI drar kan ifrågasättas.

– Faran finns absolut, det ska vi inte blunda för, säger Christian Guttmann.

– Det finns ingen garanti att AI gör 100 procent rätt. Precis som ingen läkare eller vårdgivare idag kan garantera att deras behandlingar blir det.

Han hänvisar till en färsk studie från Johns Hopkins-universitet som hävdar att 250 000 människor i USA årligen dör till följd av medicinska misstag – den tredje vanligaste dödsorsaken, efter hjärt-kärlsjukdomar och cancer.

– Det finns alltså mycket som händer inom vården som blir fel. Inte med avsikt, men på grund av att vi inte är alls så bra som vi tror att vi är.

Christian menar att risken att AI gör fel, i jämförelse, är mycket låg. Att fördelarna överväger riskerna.

– För oss gäller det nu att öka trovärdigheten i AI-teknologin. Att förklara hur den fungerar, att visa exempel på hur den kan användas och hur den, på ett påtagligt sätt, kan förbättra vårdresultaten.