De AI-presentatrice van Kids Top 20: leuk idee, maar mag dit zomaar?
De Kids Top 20 komt terug. Met een nieuwe presentatrice. Eén probleem: ze bestaat niet. Ze is volledig door artificiële intelligentie gegenereerd, perfect uitziend, vlot gekleed en voorzien van een lichaamsbouw die ook als sprake zou zijn van een echt mens hier en daar kunstmatig oogt.
In bijgaand
NOS-artikel wordt de vraag opgeworpen of dit zomaar mag. Moet je als aanbieder vertellen dat je presentatrice AI-gegenereerd is? In het onderstaande het antwoord, waarbij wordt ingegaan op de eisen die de AI Act in dit kader stelt.
De AI Act: meldingsplicht voor een AI-personage?
Allereerst de meest voor de hand liggende vraag: schrijft de AI Act - de Europese verordening die de spelregels bepaalt voor artificiële intelligentie - voor dat gecommuniceerd moet worden dat een tv-presentatrice een AI-gegenereerd persoon is?
De AI Act is risico-gebaseerd. Sommige praktijken zijn verboden en de meeste compliance regels gelden voor (overige) hoog risico-systemen en AI-modellen voor algemene doeleinden zoals LLM’s. Een AI gegenereerde presentatrice valt niet onder die categorieën.
Wel relevant is artikel 50 van de AI Act, dat ziet op transparantieverplichtingen voor AI-systemen die synthetische content genereren. Dit artikel is overigens pas vanaf augustus 2026 van kracht.
Artikel 50 lid 1 bepaalt dat aanbieders van AI-systemen die direct interacteren met mensen verplicht zijn die mensen te informeren dat zij met een AI te maken hebben, tenzij dit uit de omstandigheden al overduidelijk blijkt. Hoewel de fictieve aard voor het jonge doelpubliek allesbehalve evident zal zijn, is het springende punt hier het vereiste van interactie. Artikel 50 lid 1 is typisch relevant voor chatbot-achtige toepassingen. Voor zover de AI-presentatrice bij wijze van eenrichtingsverkeer de Top 20 presenteert zonder enige aanpassing aan individuele kijkersinput, zal van interactie als bedoeld in art. 50 AI Act waarschijnlijk geen sprake zijn. Als de jonge kijkers vragen kunnen stellen en antwoorden krijgen wordt dat echter al snel anders.
Artikel 50 lid 4 AI Act verplicht degene die een AI-systeem inzet om beelden, audio of video te genereren die een deepfake vormen, dit openbaar te maken. De definitie van deepfake in de AI Act vereist echter dat de content gelijkenis vertoont met een bestaande persoon én dat het videomateriaal ten onrechte voor authentiek zou worden aangezien. Als de presentatrice volledig fictief is - gebaseerd op niemand - valt zij strikt genomen buiten die definitie.
De AI-presentatrice illustreert hoe de reikwijdte van art. 50 AI Act sterk afhankelijk is van de concrete technische en feitelijke vormgeving. De wet hanteert geen algemene verplichting tot openbaarmaking voor alle AI-gegenereerde media-inhoud, maar stelt gerichte vereisten die per geval moeten worden getoetst. Zolang de AI-presentatrice niet op een bestaand persoon lijkt en niet interacteert met het publiek, heeft de media-aanbieder op grond van de AI Act geen verplichting om te communiceren dat sprake is van een AI-presentatrice.
Morele verplichting?
Het is interessant dat de aankondiging van de presentatrice veel stof doet opwaaien. Het suggereert dat het publiek van mening is dat er een morele verplichting zou bestaan om hoe dan ook transparant te zijn over het gebruik van AI bij programma’s gericht op kinderen. De discussie wordt echter met name gevoed door het uiterlijk van de AI-presentatrice. De kinderen krijgen immers een picture perfect meisje voorgeschoteld.
Het AI-meisje is bovendien vrij uitdagend gekleed, wat opvallend is nu het gaat om een programma gericht op kinderen van 6-12 jaar. Bij een menselijke presentatrice kun je dan nog zeggen: "Zo ziet zij er nu eenmaal uit." Maar bij een AI-personage geldt dat elke eigenschap een bewuste ontwerpkeuze is. Het kapsel, de kleding, de lichaamsbouw, de verhoudingen — het zijn allemaal parameters die door mensen zijn ingesteld. Sommige lichaamsdelen lijken zelfs ‘een fake binnen de fake’. Voor de makers is dat kennelijk onderdeel van een ideaal-beeld. Zeker als voor kinderen niet duidelijk is dat sprake is van AI, kan de vraag gesteld worden of het presenteren van een dergelijke nep-persoon als werkelijkheid, wenselijk is.
De AI-presentatrice van Kids Top 20: leuk idee, maar mag dit zomaar?
De Kids Top 20 komt terug. Met een nieuwe presentatrice. Eén probleem: ze bestaat niet. Ze is volledig door artificiële intelligentie gegenereerd, perfect uitziend, vlot gekleed en voorzien van een lichaamsbouw die ook als sprake zou zijn van een echt mens hier en daar kunstmatig oogt.
In bijgaand
NOS-artikel wordt de vraag opgeworpen of dit zomaar mag. Moet je als aanbieder vertellen dat je presentatrice AI-gegenereerd is? In het onderstaande het antwoord, waarbij wordt ingegaan op de eisen die de AI Act in dit kader stelt.
De AI Act: meldingsplicht voor een AI-personage?
Allereerst de meest voor de hand liggende vraag: schrijft de AI Act - de Europese verordening die de spelregels bepaalt voor artificiële intelligentie - voor dat gecommuniceerd moet worden dat een tv-presentatrice een AI-gegenereerd persoon is?
De AI Act is risico-gebaseerd. Sommige praktijken zijn verboden en de meeste compliance regels gelden voor (overige) hoog risico-systemen en AI-modellen voor algemene doeleinden zoals LLM’s. Een AI gegenereerde presentatrice valt niet onder die categorieën.
Wel relevant is artikel 50 van de AI Act, dat ziet op transparantieverplichtingen voor AI-systemen die synthetische content genereren. Dit artikel is overigens pas vanaf augustus 2026 van kracht.
Artikel 50 lid 1 bepaalt dat aanbieders van AI-systemen die direct interacteren met mensen verplicht zijn die mensen te informeren dat zij met een AI te maken hebben, tenzij dit uit de omstandigheden al overduidelijk blijkt. Hoewel de fictieve aard voor het jonge doelpubliek allesbehalve evident zal zijn, is het springende punt hier het vereiste van interactie. Artikel 50 lid 1 is typisch relevant voor chatbot-achtige toepassingen. Voor zover de AI-presentatrice bij wijze van eenrichtingsverkeer de Top 20 presenteert zonder enige aanpassing aan individuele kijkersinput, zal van interactie als bedoeld in art. 50 AI Act waarschijnlijk geen sprake zijn. Als de jonge kijkers vragen kunnen stellen en antwoorden krijgen wordt dat echter al snel anders.
Artikel 50 lid 4 AI Act verplicht degene die een AI-systeem inzet om beelden, audio of video te genereren die een deepfake vormen, dit openbaar te maken. De definitie van deepfake in de AI Act vereist echter dat de content gelijkenis vertoont met een bestaande persoon én dat het videomateriaal ten onrechte voor authentiek zou worden aangezien. Als de presentatrice volledig fictief is - gebaseerd op niemand - valt zij strikt genomen buiten die definitie.
De AI-presentatrice illustreert hoe de reikwijdte van art. 50 AI Act sterk afhankelijk is van de concrete technische en feitelijke vormgeving. De wet hanteert geen algemene verplichting tot openbaarmaking voor alle AI-gegenereerde media-inhoud, maar stelt gerichte vereisten die per geval moeten worden getoetst. Zolang de AI-presentatrice niet op een bestaand persoon lijkt en niet interacteert met het publiek, heeft de media-aanbieder op grond van de AI Act geen verplichting om te communiceren dat sprake is van een AI-presentatrice.
Morele verplichting?
Het is interessant dat de aankondiging van de presentatrice veel stof doet opwaaien. Het suggereert dat het publiek van mening is dat er een morele verplichting zou bestaan om hoe dan ook transparant te zijn over het gebruik van AI bij programma’s gericht op kinderen. De discussie wordt echter met name gevoed door het uiterlijk van de AI-presentatrice. De kinderen krijgen immers een picture perfect meisje voorgeschoteld.
Het AI-meisje is bovendien vrij uitdagend gekleed, wat opvallend is nu het gaat om een programma gericht op kinderen van 6-12 jaar. Bij een menselijke presentatrice kun je dan nog zeggen: "Zo ziet zij er nu eenmaal uit." Maar bij een AI-personage geldt dat elke eigenschap een bewuste ontwerpkeuze is. Het kapsel, de kleding, de lichaamsbouw, de verhoudingen — het zijn allemaal parameters die door mensen zijn ingesteld. Sommige lichaamsdelen lijken zelfs ‘een fake binnen de fake’. Voor de makers is dat kennelijk onderdeel van een ideaal-beeld. Zeker als voor kinderen niet duidelijk is dat sprake is van AI, kan de vraag gesteld worden of het presenteren van een dergelijke nep-persoon als werkelijkheid, wenselijk is.