De Kids Top 20 komt terug. Met een nieuwe presentatrice. Eén probleem: ze bestaat niet. Ze is volledig door artificiële intelligentie gegenereerd, perfect eruitziend, vlot gekleed en voorzien van een lichaamsbouw die – ook als sprake zou zijn van een echt mens - hier en daar kunstmatig oogt.
In bijgaand NOS-artikel wordt de vraag opgeworpen of dit zomaar mag. Moet je als aanbieder vertellen dat je presentatrice AI-gegenereerd is? In het onderstaande het antwoord, waarbij wordt ingegaan op de eisen die de AI Act in dit kader stelt.
De AI Act: meldingsplicht voor een AI-personage?
Allereerst de meest voor de hand liggende vraag: schrijft de AI Act - de Europese verordening die de spelregels bepaalt voor artificiële intelligentie - voor dat gecommuniceerd moet worden dat een tv-presentatrice een AI-gegenereerd persoon is?
De AI Act is risico-gebaseerd. Sommige praktijken zijn verboden en de meeste compliance regels gelden voor (overige) hoog risico-systemen en AI-modellen voor algemene doeleinden zoals LLM’s. Een AI-gegenereerde presentatrice valt niet onder die categorieën.
Wel relevant is artikel 50 van de AI Act, dat ziet op transparantieverplichtingen voor AI-systemen die synthetische content genereren. Dit artikel is overigens pas vanaf augustus 2026 van kracht.
Artikel 50 lid 1 bepaalt dat aanbieders van AI-systemen die direct interacteren met mensen verplicht zijn die mensen te informeren dat zij met een AI-systeem te maken hebben, tenzij dit uit de omstandigheden al overduidelijk blijkt. Hoewel de fictieve aard voor het jonge doelpubliek allesbehalve evident zal zijn, is het in het oog springende punt hier het vereiste van interactie. Artikel 50 lid 1 is typisch relevant voor chatbot-achtige toepassingen. Voor zover de AI-presentatrice bij wijze van eenrichtingsverkeer de Top 20 presenteert zonder enige aanpassing aan individuele kijkersinput, zal van interactie als bedoeld in art. 50 AI Act waarschijnlijk geen sprake zijn. Als de jonge kijkers vragen kunnen stellen en antwoorden krijgen, wordt dat echter al snel anders.
Artikel 50 lid 4 AI Act verplicht degene die een AI-systeem inzet om beelden, audio of video te genereren die een deepfake vormen, dit openbaar te maken. De definitie van deepfake in de AI Act vereist echter dat de content gelijkenis vertoont met een bestaande persoon én dat het videomateriaal ten onrechte voor authentiek zou worden aangezien. Als de presentatrice volledig fictief is - gebaseerd op niemand - valt zij strikt genomen buiten die definitie. Als het aan de Europese Commissie ligt wordt de definitie van deepfake echter flink uitgebreid. In de recent gepubliceerde draft guidelines wordt voorgesteld de drempel van deep fakes substantieel te verlagen, daarin is het voldoende dat gesimuleerde personen lijken op iets dat in werkelijkheid kan of had kunnen bestaan. In feite vallen alleen onrealistische fantasie-figuren daar dan nog buiten. Vervolgens zou eventueel het lichtere regime voor evident artistieke werken nog va toepassing kunnen zijn.
De AI-presentatrice illustreert hoe de reikwijdte van art. 50 AI Act sterk afhankelijk is van de concrete technische en feitelijke vormgeving. De wet hanteert geen algemene verplichting tot openbaarmaking voor alle AI-gegenereerde media-inhoud, maar stelt gerichte vereisten die per geval moeten worden getoetst. Zolang de AI-presentatrice niet onder de deepfake definitie valt en niet interacteert met het publiek, heeft de media-aanbieder op grond van de AI Act geen verplichting om te communiceren dat sprake is van een AI-presentatrice.
Overigens rust op degene die het AI-Systeem aanbiedt waarmee de content wordt gegenereerd (dat hoeft dus niet degene te zijn die de content openbaar maakt) op grond van art. 50 lid 2 AI Act de verplichting om ervoor te zorgen dat de outputs van het AI-systeem worden gemarkeerd in een machineleesbaar formaat en detecteerbaar zijn als kunstmatig gegenereerd of gemanipuleerd.
Morele verplichting?
Het is interessant dat de aankondiging van de presentatrice veel stof doet opwaaien. Het suggereert dat het publiek van mening is dat er een morele verplichting zou bestaan om hoe dan ook transparant te zijn over het gebruik van AI bij programma’s gericht op kinderen. De discussie wordt echter met name gevoed door het uiterlijk van de AI-presentatrice. De kinderen krijgen immers een picture perfect meisje voorgeschoteld.
Het AI-meisje is bovendien vrij uitdagend gekleed, wat opvallend is nu het gaat om een programma gericht op kinderen van 6 tot 12 jaar. Bij een menselijke presentatrice kun je dan nog zeggen: "Zo ziet zij er nu eenmaal uit." Maar bij een AI-personage geldt dat elke eigenschap een bewuste ontwerpkeuze is. Het kapsel, de kleding, de lichaamsbouw, de verhoudingen — het zijn allemaal parameters die door mensen zijn ingesteld. Sommige lichaamsdelen lijken zelfs ‘een fake binnen de fake’. Voor de makers is dat kennelijk onderdeel van een ideaalbeeld. Zeker als voor kinderen niet duidelijk is dat sprake is van AI, kan de vraag gesteld worden of het presenteren van een dergelijke nep-persoon als werkelijkheid wenselijk is.