De Autoriteit Persoonsgegevens (AP) houdt toezicht op de naleving van de AVG. Vooral bij kwetsbare groepen als minderjarigen is de AP extra alert. TikTok kreeg mede daarom een boete opgelegd van 345 miljoen euro voor het onvoldoende beschermen van de privacy van deze doelgroep. Daarnaast stelt de toezichthouder kritische vragen over de toepassing van AI in apps voor kinderen.
Boete van 345 miljoen euro voor TikTok
In 2020 startte de AP een onderzoek naar TikTok.
Reden?
De populariteit van het platform bij kinderen.
Het Nederlandse onderzoek leidde in 2021 ‘slechts’ tot een boete voor TikTok, vanwege het aanbieden van een Engelstalige privacyverklaring aan Nederlandse kinderen.
Er werden echter meer privacy issues geconstateerd. De AP heeft deze doorgestuurd aan de Ierse toezichthouder Data Protection Commission (DPC), omdat het Europese hoofdkantoor van TikTok zich sinds de zomer van 2020 in Ierland bevindt.
De DPC heeft na verder onderzoek uiteindelijk een boete van 345 miljoen euro opgelegd aan TikTok voor het onvoldoende beschermen van de privacy van kinderen.
Op de site van de AP worden de volgende 3 door TikTok begane AVG-overtredingen vermeld:
De video’s die kinderen op het platform plaatsen, stonden standaard op ‘publiek’. Daardoor kon iedereen die video’s zien, niet alleen hun vrienden.
‘Family Pairing’ was slecht ingericht. Anderen dan de ouders of verzorgers van een kind konden hun account koppelen aan dat van het kind.
TikTok gaf geen duidelijke informatie aan kinderen over de instellingen van hun account. Hierdoor wisten kinderen bijvoorbeeld niet wat de gevolgen waren van de standaardinstelling ‘publiek’ bij video’s.
AP eist meer duidelijkheid over inzet AI bij apps voor kinderen
De Autoriteit Persoonsgegevens heeft een - niet bij naam genoemd - techbedrijf opheldering gevraagd over de inzet van generatieve kunstmatige intelligentie in apps voor jonge kinderen.
Zo wil de AP duidelijkheid over de werking van een geïntegreerde chatbot in een bij kinderen populaire app. Onder meer moet duidelijk worden hoe transparant de chatbot is over de omgang met gebruikersgegevens.
De Autoriteit Persoonsgegevens vreest vooral dat kinderen zich onvoldoende bewust zijn van de risico’s en zich bijvoorbeeld niet realiseren dat ze niet met een echt persoon, maar met een chatbot communiceren.
Ook onderzoek naar ChatGPT gestart
De AP heeft eerder al aangeklopt bij software-ontwikkelaar OpenAI in verband met chatbot ChatGPT. De privacytoezichthouder heeft duidelijkheid geëist over de manier waarop wordt omgegaan met persoonsgegevens bij het trainen van het onderliggende systeem.
Er worden namelijk ook gevoelige vragen aan het systeem gesteld over onder meer medische kwesties of echtelijke ruzies. De AP wil weten of deze vragen weer worden gebruikt om ChatGPT te trainen en zo ja, op welke manier. Ook wil de toezichthouder van de maker horen hoe het systeem omgaat met bijvoorbeeld verouderde, onnauwkeurige of onjuiste gegenereerde content.
De AP is niet de enige die zich zorgen maakt over ChatGPT. In Europa is er door de diverse privacytoezichthouders zelfs een speciale taskforce rondom ChatGPT opgezet. Lees hierover ook onze blog “ChatGPT: hoe zit het met de privacy?”.
Zeker weten dat u niks mist?
Abonneert u zich dan op onze maandelijkse nieuwsbrief en blijft op de hoogte van deze en andere ontwikkelingen in ICT recht.