Digital hälsoinnovation

Företag: Startup som utvecklar en app för digital egenmonitorering
Samhällsutmaning: Snabb AI-utveckling + ojämställd hälsodata

Problem

Appens algoritmer upptäckte inte symptom lika väl på kvinnor som på män. Kvinnor rapporterade även att appens gränssnitt upplevdes svårtillgängligt.

Lösning – Inkluderande datamodeller och UX

• Datamängder analyserades ur ett genusperspektiv: kvinnors symtom rapporterades annorlunda → modellen tränades om.
• Fokusgrupper med personer av olika kön, ålder, språk och funktionsvariation genomfördes.
• UX anpassades efter varierande behov, bl.a. olika energinivåer vid sjukdom.

Resultat

• 45 % ökad träffsäkerhet i tidig symtomidentifiering för hittills underrepresenterade grupper.
• Appen certifierades som en ”inkluderande digital hälsolösning”, vilket öppnade dörrar till regionavtal.
• Företaget blev mer attraktivt som arbetsplats för kvinnliga utvecklare, data scientists och designers.

Källor:

– Criado-Perez, C. (2019). Invisible Women: Data Bias in a World Designed for Men.
– UNESCO (2021). Recommendation on the Ethics of Artificial Intelligence.
– WHO (2019). Gender and digital health.
– EU AI Act (2024).

Koppling till forskning:

Det finns omfattande evidens för att könsblind datainsamling leder till sämre diagnoskvalitet och försämrad träffsäkerhet för digitala hälsoplattformar.