OPEHRA - Operationalisering av mänskliga rättigheter i utformningen av AI-stödd digital hälsa

EU:s nya AI-förordning understryker vikten av att använda ett 'Human Rights by Design'-tänkande (HRbD) när man utvecklar AI-baserade system. AI-förordningen kräver exempelvis att konsekvensbedömningar avseende mänskliga rättigheter (HRIA) ska göras i början av digitala högriskinitiativ, exempelvis inom hälso- och sjukvård samt social omsorg. Det finns dock en betydande klyfta mellan den juridiska världen och mjukvaruutvecklingsvärlden, vilket gör det utmanande att operationalisera HRIA- och HRbD-strategier som går längre än att säkerställa lagefterlevnad och som verkligen stödjer företag som integrerar mänskliga rättigheter i mjukvaruutvecklingsprocessen. 

OPEHRA-projektet syftar till att undersöka tekniska strategier för att hjälpa företag och organisationer att operationalisera mänskliga rättigheter i programvarudesign genom att anpassa och förbättra befintliga metoder. Specifikt kan befintliga metoder för HRIA, riskbedömningar och andra hotmodelleringstekniker förbättras och användas i de tidigare stadierna av digitala hälsoinitiativ och utvärderas i praktiken, vilket säkerställer att de på ett meningsfullt sätt kan informera programvaruutövare och andra intressenter.

Projektets mål: 

1 - ”Landskapskartläggning av tekniska metoder för mänskliga rättigheter för AI inom digital hälsa” för att ge en holistisk teknisk syn på mänskliga rättigheter för AI-stödda system

2 - ”Operationalisera HRIA i designprocessen”, genom att utnyttja fallstudier med aktionsforskning med våra affärspartner för att noggrant bedöma AI-baserade digitala hälsolösningar

3 - ” Samproducera utbildnings- och medvetenhetsprogram med industrin”, genom att utveckla utbildnings- och medvetandehöjande aktiviteter och material genom iterativa och praktiska workshops. 

Projekt sker i samverkan med Mavatar, inTechrity, Pfizer och Sveriges Kommuner och Regioner.