Wat mag AI als beeldmaker wel en niet?
De spectaculaire opkomst van door AI gegenereerde beelden roept vragen op. Hoe zit het bijvoorbeeld met de auteurs- en beeldrechten, privacy en veiligheid? De Europese AI Act moet (voor een deel) uitkomst bieden.
Tot vervelens toe lezen we dat de ontwikkelingen van kunstmatige intelligentie (ook wel: AI, Artificial Intelligence) niet meer zijn bij te benen. De (Europese) wet- en regelgeving kruipt er achteraan. Dat laatste klinkt als een diskwalificatie, maar eigenlijk lopen we in Europa voor op de rest van de wereld. Het maken van wet- en regelgeving is nu eenmaal een zorgvuldig proces in een continent waar we geloven in de democratische rechtsstaat. Begin februari werd een belangrijke stap gezet in de regulering van AI-toepassingen.
Voor de ontwikkelaars was het tot nu toe anything goes. Bij techreuzen als Google, Microsoft, Amazon en vele andere begrijpen ze heus wel dat je moet nadenken over de gevolgen van AI, maar het zijn nu eenmaal commerciële bedrijven die elkaar beconcurreren. De miljardeninvesteringen zijn dan ook niet van de lucht. Zo enthousiast als de nieuwe mogelijkheden worden gepresenteerd aan de wereld, zo terughoudend zijn de ontwikkelaars met de beveiliging van mens en maatschappij. Een digitaal watermerk, het invoeren van een standaard, volgens de tech-tovenaars is dat allemaal erg lastig.
Ondertussen wordt achter de schermen in onder meer Brussel en Washington stevig gelobbyd om de nieuwe regels toch vooral in het eigen voordeel om te buigen. Aan budget geen gebrek bij de lobbyisten. Het is bovendien de vraag in hoeverre parlementariërs, regeringsvertegenwoordigers en bestuurders de materie begrijpen.
Beelden creëren
Desalniettemin, wederom de constatering: het gaat snel, heel erg snel. De nieuwste sensatie van OpenAI, het bedrijf dat met ChatGPT de wereld op zijn kop zette, is Sora. Met deze dienst kan de gebruiker een levensechte video creëren door een zinnetje in te voeren als: “Kat wekt zijn baasje, omdat hij wil eten.” En – je kon er op wachten – ook bestaande personen kunnen in zo’n video worden opgevoerd. Het is nog niet perfect, maar dat komt nog wel.
Samen met de inmiddels doorgewinterde mogelijkheid om stemmen van mensen te klonen en te gebruiken, gaat de techniek veel moois en minstens zoveel narigheid opleveren. Frauderen, oplichten, conflicten uitlokken en onschuldige mensen te schande maken – het is allemaal een fluitje van een cent. De criminele wereld heeft er een immer uitdijende gereedschapskist bijgekregen. De EU werkt hard aan schadebeperking.
Bekend gezicht
Tot zover de nare mensen. AI opende een nieuwe wereld voor zowel de creatieve als de minder creatieve mens. Misschien bestaan er nog gebruikers van Adobe Creative Cloud die de generatieve tools niet gebruiken, maar het wordt steeds lastiger om die te vinden. Geen budget om een ontwerper/vormgever in te huren? AI lost het op. Adobe Firefly is een van de gratis te gebruiken tools, waarmee iedereen uit de voeten kan.
De professional houdt vaak rekening met auteurs- en beeldrechten. De accountmanager die even snel een advertentie in elkaar flanst, is daarentegen minder bekend met de regels en gevoeligheden. Voor zo iemand is het al snel aantrekkelijk om zonder toestemming een bekende Belg op te voeren of de visuele stijl van een beroemde ontwerper of kunstenaar te gebruiken. Netjes is het niet, maar is het ook verboden? Misschien verschijnt er een bestaand gezicht in beeld, zonder dat de accountmanager het doorheeft. Schendt hij dan het portretrecht of de privacyregels?
Risicoprofielen
Het antwoord is nog niet eenduidig te geven, maar daar komt verandering in. Het genereren van beeld en geluid is relatief nieuw, maar het gebruik kan in strijd zijn met bestaande regelgeving. Gebruikers moeten daar dus altijd rekening mee houden. De ontwikkelaars van AI zelf krijgen binnenkort te maken met beperkingen. De bevoegde commissies van het Europees Parlement keurde onlangs de AI Act goed. Naar verwachting zal ook de plenaire vergadering de wet goedkeuren, waarna deze over twee jaar van kracht zal zijn. De softwarebouwers zullen echter al veel eerder rekening moeten houden met de nieuwe wetgeving.
De AI Act deelt systemen in op basis van hun risicoprofiel. Toepassingen met een “onaanvaardbaar risico” worden verboden. Het willekeurig verzamelen van foto’s van gezichten voor gebruik in de databank valt daar bijvoorbeeld onder. Ook chatbots en andere toepassingen inzetten voor manipulatie, het vastleggen van gedrag of deepfake vallen onder dit risicoprofiel.
Toepassingen met het profiel “hoog risico” gaan niet in de ban, maar aanbieders moeten aan strenge eisen voldoen. Van de gebruikers wordt transparantie verwacht. Een profiel met een laag risico, zoals voorraadbeheer en klantenservices, zijn toegestaan.
Jacht op copyrightschenders
De AI-aanbieders weten nu dus waar ze rekening mee moeten houden. Op termijn zouden systemen die in Europa worden aangeboden veilig(er) moeten zijn. Toch bevat de AI Act ook regels voor de gebruikers die bepalen dat ze risico’s moeten voorkomen. Met de nieuwe wet als ruggesteun wordt het voor rechthebbenden van beeld en geluid interessant (lees: lucratief) om op zoek te gaan naar copyrightschenders. Eerder zagen we al dat onder meer beheerders van stockfoto’s automatisch het internet afspeuren naar illegaal gebruikt beeld, om daarna (wederom volautomatisch) een schadevergoeding te eisen.
Met de AI Act is het laatste woord over de ontwikkelingen allerminst gezegd. De wetgeving lost zeker niet alle problemen op. In de toekomst moet de wet worden uitgebreid, aangepast en aangescherpt, alleen al vanwege alle nieuwe ontwikkelingen die nu alweer op stapel staan. Het is daarom raadzaam om de ontwikkelingen bij te houden. Daarbij gaat het niet alleen om de juridische en technisch consequenties. AI zorgt voor een nieuwe dynamiek in het bedrijfsleven. Het is belangrijk om de voordelen te benutten en de nadelen op een afstand te houden.