Användning av artificiell intelligens (AI) kan bidra till en förbättrad och mer tillgänglig sjukvård, men väcker också viktiga frågor om patientsäkerhet och hur man kan säkerställa etiska principer när det gäller hantering av personuppgifter och ansvar. Foto: Suriyo Munkaew / Mostphotos

I oktober 2024 reste Claes Granmar, docent i Europarätt, och Henricus Verhagen, docent vid Institutionen för data- och systemvetenskap (DSV), till Indien för en två veckors vistelse inom ramen för SPARC (Strategic Partnership for Artificial Intelligence Research and Collaboration). Projektet, som är finansierat av Indiens utbildningsministerium sedan 2023, syftar till att stärka patientsäkerheten och utveckla riktlinjer för AI-användning i indisk sjukvård.

– Inom EU är en ny förordning på gång gällande tillgång till personuppgifter i sjukvård och medicinsk forskning, och här står Indien inför liknande avvägningar. Eftersom det redan idag skickas hälsodata mellan EU och Indien för diagnostik, som måste behandlas i enlighet med EU:s standarder, så ser vi ett intresse om en närmare samordning, förklarar Claes Granmar som är europeisk Primary Investigator (PI) för SPARC-projektet.

Frågor som ansvarsfördelning, personuppgiftsskydd, samtycke och etiska överväganden vid AI-diagnostik och hantering av patientjournaler i Indien är centrala inom SPARC. Målet med projektet är att ge den indiska lagstiftaren underlag i det pågående arbetet med Digital India Act, som ska reglera digitalisering och AI i Indien. För att nå detta mål samarbetar forskare från Stockholms universitet, Symbiosis Law School i Pune, Indien, och universitetet i Milano, Italien. 

EU-konferens i Stockholm blev startskott till samarbete

I Indien leds projektet av professor dr. Shashikala Gurpur, som är en framstående akademiker och forskare inom juridik. Hon är föreståndare för Symbiosis Law School, dekan för den juridiska fakulteten i Pune, och har en lång meritlista inom både den indiska och internationella juridiska forskarvärlden. 

Det var i samband med en EU-konferens i Stockholm 2018 som Claes Granmar och Shashikala Gurpur etablerade kontakt. Året därpå, 2019, initierade Gurpur ett projektförslag tillsammans med Granmar och Angelica Bonfanti, docent vid universitetet i Milano. Syftet var att få finansiering för ett tvärvetenskapligt och internationellt forskningsprojekt med fokus på AI-diagnostik, automatiserat beslutsfattande och personuppgiftsskydd. 

På grund av pandemin fördröjdes dock processen, och det var först hösten 2023 som SPARC-projektet hade säkrat finansiering och blev verklighet.

Samstämmighet - och skepsis - kring AI-reglering i vården

Claes Granmar har sedan tidigare gedigen erfarenhet från att samverka internationellt och har haft flera forskningsvistelser vid prestigefulla institutioner i bland annat USA, Storbritannien och Tyskland. Tillsammans med doktoranden Giorgi Parulava från Juridiska institutionen och Henricus Verhagen från DVS, ingår han i den svenska kärngruppen i SPARC-projektet.

Claes Granmar, docent i europarätt.

Granmar berättar att han från besöket i Indien och de samtal som fördes där har tagit med sig insikten att de indiska experterna i stor utsträckning delar de svenska perspektiven kring användning av AI inom vården. Däremot visade AI-forskarna som arbetar med att utveckla AI-system för diagnostik och behandling i Indien, en mer ljummen inställning mot omfattande reglering - liksom den som vi kan notera hos teknikföretag inom EU.

– För den som har siktet inställt på att förbättra diagnostik och behandling kan det vara svårt att uppskatta såväl skyddet av personuppgifter, som kravet på att ha människor med i beslutsprocessen. Det kan ”störa” maskininlärningen eller minska AI-systemets effektivitet. Just därför är det viktigt med öppna och konstruktiva samtal, för att nå balans mellan innovation och etiska överväganden, säger Claes.

Indiska standarder utstakar projektets riktning

Under sina två veckor i Indien deltog Granmar och Verhagen i en rad inspirerande fakultetsseminarier och workshops i både Pune och Nagpur. De delade också med sig av sin expertis genom att handleda indiska doktorander och hålla i föreläsningar för studenter, innan vistelsen slutligen avrundades med ett fokusgruppssamtal om användningen av AI inom sjukvården. Där deltog bland annat flera framstående medicinska experter och representanter från Indiens medicinsk-etiska råd.

Under seminarierna framkom det att Indien lägger stor vikt vid internationella regler och riktlinjer, som de som antas av FN och WTO. I EU genomförs ofta internationella avtal genom detaljerad och specifik lagstiftning som sker på EU-nivå först, och sedan på nationell nivå. Det innebär att Indien i högre grad förlitar sig på mer övergripande internationella överenskommelser med öppna formuleringar, medan man inom EU tenderar att implementera dessa i en mer detaljerad och specifik lagstiftning.

– För vårt projekt var det viktigt att förstå Indiens strategi med att förlita sig på privata standardiseringsinstitut som säkerställer internationella standarder, istället för offentlig kontroll. I praktiken innebär det att vi nu kommer fokusera på att föreslå principer för att säkerställa rättssäker AI-användning i sjukvården, snarare än att skapa detaljerade regler för myndighetstillsyn.

Text: Natalie Oliwsson