I strävan efter ett humanistiskt handlande i relation till artificiell intelligens (AI) och för att förhindra att tekniken används i fel syfte vill EU införa ett nytt regelverk. Regelverket är tänkt att främja utvecklingen utan att kompromissa med personlig integritet eller mänskliga rättigheter.
Från ett första utkast till regelverket, som Politico tagit del av, ingår delvis mer granskning av vissa typer av AI, och totalt förbud mot andra. Det som pekas ut som "högrisk" som används idag är exempel algoritmer för att utvärdera CV:n eller kreditvärdighet. Sociala kreditsystem liknande det i Kina vill EU förbjuda helt.
EU vill även arbeta för att minska diskriminering genom att införa krav på att tekniken inte får "införliva avsiktliga eller oavsiktliga fördomar". Som generell riktlinje ska AI-system som manipulerar beteenden och tankar eller utnyttjar personers sårbarheter förbjudas, inklusive massövervakning.
Vissa undantag presenteras, där annars förbjuden AI kan användas i begränsad mängd för brottsbekämpande syften. Myndigheter ska kunna använda exempelvis avancerad ansiktsigenkänning på publika platser om särskilt allvarliga skäl föreligger.
Det föreslås att företag som bryter mot reglerna riskerar bötfällas med upp till 20 miljoner euro eller fyra procent av sin omsättning. Planen är att ta fram ett särskilt AI-råd med en medlem från varje EU-land samt representanter från EU:s dataskyddsstyrelse och EU-kommissionen.
Förslaget ska presenteras i sin slutgiltiga form den 21 april. Går det sedan igenom får EU en betydligt hårdare reglering av AI jämfört med andra världsmakter. Det hårda ställningstagandet från EU:s sida kan orsaka friktion i relationen med USA, vars lagstifning innehåller färre begränsningar i frågan.
