Igår godkände medlemmarna i Europaparlamentets interna marknadskommitté och civilrättskommitté ett utkast på ett lagförslag som ska reglera bruket av avancerade, storskaliga AI-system inom unionen och skydda medborgare mot övergrepp. Förslaget ska nu gå till omröstning i parlamentet i mitten av juni innan det kan gå vidare till Europarådet.
Kommittéerna utgick från ett förslag från EU-kommissionen men lade till flera nya delar som ska se till att AI alltid övervakas av människor, inte diskriminerar, är transparenta och klimatvänliga.
Om förslaget blir lag ska det införa ett system med riskbaserade nivåer av reglering, med mer stringenta krav ju högre risk en viss typ av AI utgör. Risknivåerna illustreras som en pyramid med "låg eller minimal risk" i botten och "oacceptabel" risk i toppen, med "begränsad risk" och "hög risk" däremellan.
Riskpyramiden för AI, med de förbjudna AI-systemen på toppen. Bild: EU-kommissionen
Under oacceptabel risk har kommittéerna identifierat sex användningsområden för AI som ska totalförbjudas:
Biometrisk identifiering i realtid på allmän plats
Biometrisk identifiering i efterhand på allmän plats, med undantag för utredning av grova brott och enbart med domstolsbeslut
Biometrisk klassificering utifrån kön och könsidentitet, etnicitet, medborgarskap, religion, politisk tillhörighet och andra diskrimineringsgrunder
Prognosticerande polissystem (system som förutser en persons benägenhet att begå brott)
Känsloidentifieringssystem.
Insamling av biometrisk data från sociala medier eller övervakningskameror för att bygga ansiktsigenkänningsdatabaser
Bland reglerna som kommer införas för andra AI-system, till exempel Chat GPT och Dall-e, finns bland annat krav på transparens kring de data modellerna tränas på och att det alltid tydligt måste framgå att något har skapats av AI.
Undantag från reglerna ska göras för forskning och utbildning, och system med öppen källkod. Lagförslaget uppmuntrar myndigheter att inrätta "sandlådor" där AI-utvecklare kan testa och träna sina modeller innan de släpps för allmänheten.
