Forskare från Karlstads universitet har utforskat hur GAI-sökmotorer som Microsoft Copilot förändrar inhämtningen av politiknyheter och därmed även det globala informationsflödet.
Studien "Sourcing behavior and the role of news media in AI-powered search engines in the digital media ecosystem:Comparing political news retrieval across five languages" är publicerad i tidskriften Telecommunications Policy och skriven av professor Cornelia Brantner, professor Michael Karlsson och Joanne Kuai, doktorand i medie- och kommunikationsvetenskap.
Forskningen tittar på presidentvalet i Taiwan 2024 och hur Microsofts GAI-modell Copilot svarar på prompter om politiska nyheter på fem olika språk: engelska, traditionell kinesiska, förenklad kinesiska, tyska och svenska. Chattbotten sammanfattade effektivt valrelaterad information och använde främst etablerade nyhetskällor, men studien identifierade allvarliga problem med felaktig information, överrepresentation av engelskspråkiga källor och bristande kulturell representation.
– Våra resultat visar att även om AI-sökmotorer lovar att göra nyheter mer tillgängliga riskerar de att marginalisera regionala perspektiv och upprätthålla skevheter i systemet, säger Cornelia Brantner. professor i medie- och kommunikationsvetenskap vid Karlstads universitet och försteförfattare. Dessutom innehöll nästan 40 procent av referenserna till etablerade nyhetsmedier felaktiga hänvisningar, faktafel eller både och.
Forskningen visar också att Copilot i oproportionerligt hög grad använder brittiska och amerikanska nyhetskällor, som The Economist and BBC, även när frågorna skrivs på andra språk och från icke-engelskspråkiga platser. Detta inhämtningsmönster utgör anledning till oro för en mer homogeniserad politisk diskurs och en underrepresentation av röster på lokal nivå i demokratiska processer.
Studien varnar också för brister vad gäller insyn i källor och sakinnehåll. Exempelvis innehöll 20 procent av hänvisningarna till etablerade nyhetsmedier faktafel som berodde på att AI-systemet framställde saken felaktigt. Dessa fel skulle kunna få allvarliga följder i känsliga politiska frågor.
Det svenska exemplet var särskilt uppseendeväckande. Trots att alla prompter kom från en svensk ip-adress baserades Copilots svenska svar till stor del på engelskspråkiga källor och knappt alls på etablerade svenska nyhetskällor. Mest anmärkningsvärt var att inga av Sveriges största kommersiella nyhetsmedier ingick i chattbottens svar, trots att dessa hade bevakat valet. Forskarna kopplar detta till svenska utgivares beslut att inte tillåta AI-crawling genom robots.txt, detta för att förhindra att plattformarnas innehåll används utan ersättning.
– Därför får svenska användare till och med på sitt eget språk främst internationellt eller generiskt innehåll, förklarar Michael Karlsson, professor i medie- och kommunikationsvetenskap vid Karlstads universitet. Det väcker viktiga frågor om synlighet i media, demokratisk relevans och vad det kan kosta att ställa sig utanför AI:ns ekosystem.
Copilot hänvisade i stället frekvent till svenska Wikipedia, utländska tankesmedjor och politiska organisationer i USA - källor som förvisso är tillgängliga men som inte speglar Sveriges medielandskap eller pressetik. Resultaten tyder på att nyhetsorganisationer på små marknader i AI:ns tidsålder kan tvingas till svåra avvägningar där autonomi ställs mot synlighet.
– Sökmotorer som drivs av stora språkmodeller agerar nu algoritmiska grindvakter, noterar Michael Karlsson. Det påverkar möjligheten till självständig journalistik, särskilt i t.ex. Sverige där marknaden är liten och präglad av betalväggar. Där hotas synligheten när utgivarna ställer sig utanför AI:ns informationsinsamling.
Författarna uppmanar beslutsfattare och teknikutvecklare att införa skyddsåtgärder för generativ AI, bland annat i form av krav på korrekt källhänvisning och hinder för att skapa och sprida felaktig information. Det behövs också åtgärder som främjar journalistiken och bruket av källor med större mångfald och mer regional förankring.
– AI-bottar ska inte ersätta kvalitetsjournalistik, tillägger Joanne Kuai. Vi behöver system som förstärker och inte utplånar den mediala mångfalden i en digital värld.
