In maart werd de AI Act een feit. De eerste regels zullen waarschijnlijk begin 2025 al ingaan. Tijd om het toezicht op orde te krijgen. De Autoriteit Persoonsgegevens (AP) en de Rijksinspectie Digitale Infrastructuur (RDI) komen met een voorstel, waarin meer dan één toezichthouder wordt genoemd. Wij zetten de mogelijke spelers en de sectoren waarop zij toezicht moeten houden op een rij.

AI Act in het kort

De Artificial Intelligence Act (AI Act) is een Europese Verordening die regels oplegt aan aanbieders en gebruikers van AI-systemen en -toepassingen.

De AI Act moet in Europa voor meer vertrouwen in AI-systemen zorgen door de veiligheid van gebruikers te waarborgen. Het idee achter de AI Act is om kunstmatige intelligentie te reguleren via een op risico gebaseerde aanpak. De Artificial Intelligence Act deelt systemen in 4 categorieën in:

  • onaanvaardbaar risico;

  • hoog risico;

  • beperkt risico;

  • minimaal risico.

De meeste systemen vallen in de laatste twee categorieën. Zij krijgen transparantieverplichtingen opgelegd door de AI Act. Voor de overige categorieën gelden strengere regels. Zo moeten de systemen met een onaanvaardbaar risico zes maanden na de inwerkingtreding van de AI Act van de Europese markt zijn gehaald.

Dat vraagt dus om toezicht en snel ook.

Voorstel toezicht op AI Act in Nederland

Iedere EU-lidstaat moet op nationaal niveau een toezichthouder aanstellen voor de handhaving van de AI Act. In Nederland bereiden meer dan 20 toezichthouders zich hier inmiddels op voor.

De Autoriteit Persoonsgegevens (AP) en de Rijksinspectie Digitale Infrastructuur (RDI) schrijven in een advies aan het kabinet dat het verstandig is om het toezicht op AI in de verschillende sectoren zoveel mogelijk te laten aansluiten bij het reguliere toezicht dat al bestaat.

Denk aan AI-producten met een hoog risico die momenteel al een CE-markering moeten hebben. De huidige toezichthouders daarop kunnen ook aan de extra regels toetsen uit de AI Act. Denk ook aan de bestaande speelgoedkeuringen door de Nederlandse Voedsel- en Warenautoriteit (NVWA). Voorschriften uit de AI Act kunnen meegenomen worden in de huidige keuringen door de NVWA.

Voor AI-toepassingen en -systemen waarvoor nu geen CE-markering verplicht is, wordt voorgesteld om het toezicht grotendeels bij de AP te leggen. Daarbij maakt het niet uit in welke sector de AI-toepassing wordt uitgebracht. De AP zal hierin wel samenwerking zoeken met toezichthouders in de verschillende sectoren.

Twee uitzonderingen op de regel

In het advies aan het kabinet worden 2 uitzonderingen met betrekking tot het toezicht houden op de AI Act benoemd. Waar het de financiële sector betreft, zullen de Autoriteit Financiële Markten en De Nederlandsche Bank het markttoezicht op zich nemen. Voor de kritieke infrastructuur worden de Inspectie Leefomgeving en Transport en de RDI aangewezen als ideale toezichthouders.

Oproep tot actie

In het advies roepen de Autoriteit Persoonsgegevens en de Rijksinspectie Digitale Infrastructuur op tot snelle actie. Zoals eerder vermeld, moeten de AI-systemen die een onaanvaardbaar risico vormen zes maanden na de inwerkingtreding van de AI Act van de Europese markt zijn gehaald. De toezichthouders stellen voor dat de AP hierop toezicht houdt, maar dan moet dit wel officieel worden gemaakt door het kabinet.

Daarom roepen de AP en de RDI op om de toezichthouders op korte termijn aan te wijzen, zodat verdere stappen genomen kunnen worden in het handhaven van de nieuwe verordening.

Meer weten over de AI Act?

Lees dan ook onze eerdere blogs:

Op de hoogte blijven van deze en andere ontwikkelingen in ICT-recht?

Abonneert u zich dan op onze maandelijkse nieuwsbrief en ontvang onze blogs automatisch in uw mailbox.