Nya undersökningar visar att risker kring säkerhet, integritet och transparens är de främsta farhågorna som kan bromsa utvecklingen av AI i framtiden. Projektet Truman (Trustworthy Human-Centric Artificial Intelligence), där ämnet datavetenskap vid Karlstads universitet deltar som partner, syftar till att stödja tillförlitliga AI-lösningar som bidrar till en mer människocentrerad AI.
Inom Truman-projektet ansvarar Karlstads universitet för att utveckla metoder för att förklara underliggande teknologier och risker för användarna, undersöka hur AI-lösningar påverkar människor samt involvera dem i att förbättra modellerna.
– Att kunna manipulera AI kan vara livshotande, till exempel om maskininlärningsmodeller för självkörande bilar manipuleras så att de feltolkar trafikljus eller så kan maskininlärningsmodeller läcka känsliga personuppgifter som de tränats på. Därför är det viktigt att utforma AI-system som är robusta mot säkerhets- och integritetsattacker. Mänskliga faktorer är också avgörande för att göra AI-system begripliga, transparenta och tillförlitliga – och för att säkerställa människor i loopen. Vi vill bedriva forskning som gör AI mer hållbar för framtiden genom att följa etiska riktlinjer för tillförlitlig AI och EU:s AI-förordning, säger Simone Fischer Hübner, professor i datavetenskap och forskningsledare.
Truman, som inleddes i juli vid forskningscentret Eurecom i Frankrike, har som mål att utveckla tekniska metoder för att stärka AI-systemens motståndskraft mot hot mot säkerhet, integritet och rättvisa och att öka användarnas tillit till dessa system. Detta görs genom att beakta alla faser i AI:s livscykel från datainsamling till träning och användning.
Projektet utvecklar skräddarsydda lösningar för att skydda mot befintliga och nya typer av attacker mot AI-system, inklusive attacker som riktar sig mot integritet, rättvisa och systemsäkerhet. Projektet ska också ta fram omfattande riktlinjer och rekommendationer för hur man genomför riskanalyser och bygger tillförlitliga och robusta AI-system.
Truman är ett av tre större EU-finansierade forsknings- och innovationsprojekt inom Horizon Europe-programmet som lanserades i sommar för att stödja robusta, säkra och tillförlitliga AI-lösningar som bidrar till att skapa människocentrerad AI med ett totalt EU-bidrag på 21,4 miljoner euro och pågår i tre år, fram till 2028.
Projektets webbplats: https://www.truman-horizon.eu/
