Middelbare scholen willen verbod op uitkleedapps

Op meerdere middelbare scholen gaan nepnaaktfoto’s en andere seksueel getinte beelden rond die met kunstmatige intelligentie (AI) gegenereerd zijn. Dat blijkt uit onderzoek van Pointer (KRO-NCRV), dat vanmiddag om 16:00 uur op YouTube te bekijken is. Leerlingen pesten elkaar met de beelden. Scholen maken zich zorgen en willen een verbod op ‘uitkleedapps’ waarmee deze beelden eenvoudig te maken zijn.

Het journalistieke onderzoeksplatform Pointer verspreidde een vragenlijst die door ruim 60 middelbare scholen werd ingevuld. Van die scholen geeft 24 procent aan dat pesten met dit soort door AI-gegenereerde naaktfoto’s of andere seksueel getinte AI-beelden wel eens voorkomt. Volgens 10 procent van de scholen gebeurt dat zelfs meer dan 5 keer per jaar.

Seksuele foto’s en filmpjes

Volgens de scholen bewerken leerlingen foto’s en filmpjes van elkaar met behulp van AI tot seksueel getinte beelden en die delen via sociale media. Ook komt het voor dat leerlingen bestaande foto’s of filmpjes van internet halen en daarop de hoofden van medeleerlingen plakken.

Uitkleedapps

Hoewel het niet altijd duidelijk is hoe de AI-beelden precies worden gegenereerd, geeft 7 procent van de ondervraagde scholen wel aan dat leerlingen er soms AI-uitkleedapps en -websites voor gebruiken. In de YouTube aflevering van Pointer laat presentator Jos de Groot zien dat je met deze software eenvoudig een foto kunt uploaden van iemand met kleding aan, die je dan met behulp van AI kunt uitkleden. Dit soort tools kwamen eerder in het nieuws omdat uit onderzoek van Pointer bleek dat minderjarige influencers virtueel worden uitgekleed en de beelden daarvan worden gedeeld in groepen op Telegram.

Het genereren en verspreiden van nepnaaktfoto’s is strafbaar, als dat gebeurt zonder iemands instemming. Wanneer het gaat om nepfoto’s van minderjarigen, zijn de beelden zelfs te classificeren als kinderporno.

Stickers en memes

Behalve met seksueel getinte afbeeldingen en video’s, wordt op de ondervraagde scholen ook op andere manieren gepest met AI. Volgens 42 procent van de scholen komt pesten met AI in de brede zin (ook niet-seksueel getint) voor. Zo is het maken van memes en stickers populair, al is daarvan niet altijd duidelijk vast te stellen of er AI voor wordt gebruikt.

Zorgen

Maar liefst 90 procent van de scholen die de vragenlijst invulde, maakt zich zorgen over pesten met AI. 87 procent van de scholen verwacht dat pesten met door AI gemaakte naaktbeelden of seksueel getinte beelden in de toekomst vaker gaat voorkomen. Hetzelfde percentage vindt dan ook dat er een verbod zou moeten komen op AI-uitkleedapps en -websites.