Europese regels voor AI stap dichterbij, dit zijn de plannen

Europese regels voor AI stap dichterbij

ChatGPT verraste niet alleen grote techbedrijven, maar ook beleidsmakers. In Europa wordt al ruim twee jaar gewerkt aan wetgeving omtrent AI (kunstmatige intelligentie), maar er was geen rekening gehouden met de snelle ontwikkelingen, dat er zoiets zou kunnen zijn als generatieve AI, een systeem dat zelf tekst of beelden creëert.

Omdat dat die technologie nu al – en de komende jaren helemaal – een grote impact kan hebben op de samenleving, heeft het Europees Parlement nu een begin gemaakt om dat te veranderen. De commissie die de wet behandelde heeft ingestemd met een aangepaste versie van het voorstel dat wél ook over ChatGPT gaat. Daarbij is het heel bijzonder dat dit gebeurt terwijl generatieve AI zich volop aan het ontwikkelen is. Vijf vragen over deze wet.

Wat is het doel van de wet?

De AI Act (Wet op Kunstmatige Intelligentie) is heel breed ingestoken. Het overkoepelende idee is om AI-systemen onder te verdelen in risicogroepen. Zie het als een piramide: bovenin zitten systemen die zo’n groot risico met zich meedragen dat ze verboden worden. Een groter deel van de wet gaat over AI-systemen die worden bestempeld als ‘hoog risico’.

Daarnaast wordt er gewerkt met een keurmerk. Net zoals dat gebeurt met medicijnen en chemicaliën betekent dit dat ‘hoog risico’ AI-systemen alleen toegelaten worden op de Europese markt als ze aan bepaalde zaken voldoen.

Welke dingen worden er straks verboden?

In het voorstel van de Europese Commissie worden een aantal AI-systemen bij voorbaat al verboden. Het gaat bijvoorbeeld om systemen die het gedrag van mensen beoordeelt en het gebruik van realtime biometrische identificatie, denk aan gezichtsherkenning door opsporingsdiensten, zoals bij het zoeken van een verdachte.

Het parlement wil verdergaan en bijvoorbeeld ook emotieherkenning door politie, aan de grens en op het werk en in het onderwijs verbieden. Een andere belangrijke maatregel is het verbieden van criminaliteits- en fraudevoorspellingen op basis van profilering (denk aan wat er gebeurde bij de toeslagenaffaire).

Wat is ‘hoog risico’?

Kort samengevat gaat het om toepassingen die impact kunnen hebben op de rechten die je als mens hebt, maar ook gezondheid. Dat omvat dus ontzettend veel. Het gaat om systemen die de politie kan gebruiken in het opsporen van verdachten, het scannen van cv’s van sollicitanten, of helpt bij de beveiliging van een kernreactor of watervoorzieningen.

Al dat soort systemen worden onderwerpen aan strenge eisen. Ze mogen bijvoorbeeld niet discrimineren, het moet transparant zijn over wat er gebeurt, en het moet altijd duidelijk zijn voor toezichthouders wat er onder motorkap plaatsvindt. Een risicoanalyse wordt verplicht.