Europaparlamentet vill ha ett förbud mot generativ AI som kan skapa bilder av explicit natur utan den avbildades samtycke. Frågan är dock hur det är tänkt att gå till och vilka konsekvenserna blir.
I samband med att Europaparlamentet enades om att förenkla EU:s regler om AI har man även kommit fram till att man vill se ett förbud mot »naken-AI«. Ur pressmeddelandet:
»MEPs want to introduce a new ban on “nudifier” systems that use AI to create or manipulate images that are sexually explicit or intimate and resemble an identifiable real person without that person’s consent. The ban would not apply to AI systems with effective safety measures preventing users from creating such images.«
Naturligtvis har människor rätt till sin person och i de flesta sammanhang även sin avbild. Och naturligtvis kan det upplevas som kränkande om någon publicerar en AI-genererad bild som ger intryck av att en person befinner sig i en eller annan explicit situation.
Men vad betyder beslutet? Hur skall det gå till? Den klubbade texten (2025/0359(COD) amendment 5 & 33) gör inte bilden speciellt mycket klarare.
Å ena sidan: De flesta större tjänster för AI-genererad bild och video (generativ AI) har redan förbud mot nakenhet, erotik och avbildning av kända (eller i vissa fall alla verkliga) personer. Så det är i sig inget nytt. Inte sällan överblockerar dessa tjänster så att det till exempel inte går att göra memes med offentliga personer över huvud taget.
Å andra sidan: Det finns en uppsjö av sådana här generativa AI-verktyg, ofta baserade i länder bortom EU:s jurisdiktion. Det finns även bild- och video-AI-program som kan köras lokalt på folks datorer. För att inte tala om vad man kan åstadkomma med Photoshop. Eller för all del med sax och klister.
Man kan möjligen begränsa viss användning av de stora generativa AI-plattformarna och apparna. Men det är svårt att se hur man tänkt sig komma åt vad som sker utanför dessa.
(Man kan även fråga sig hur det är tänkt i de fall där någon samtycker till att få sin avbild manipulerad i erotiska sammanhang.)
Det blir lite som att förbjuda folk att använda ordbehandlingsprogram för att skriva något kränkande. Det går inte. Och om man skulle försöka skulle det kräva kontroll av allt som alla gör på sina datorer, alltid. Vilket i sin tur öppnar för att förbjuda annan användning som det politiska modet för tillfället påbjuder.
Om jag får gnälla lite känns det som att Europaparlamentet har fattat ännu ett beslut som inte går att upprätthålla i praktiken. Och som kan komma att inskränka vissa former av helt legitim användning på de stora generativa AI-plattformarna.
Frågan är om det inte hade varit mer effektivt med en teknikneutral lagstiftning om feta ekonomiska skadestånd riktade mot upphovsmannen – för den som mot sin vilja fått sin avbild manipulerad på ett kränkande sexuellt sätt. Istället för teknisk micromanagement.
