De Verordening Kunstmatige Intelligentie, kortweg de AI Act, moet in de toekomst gaan bepalen wat binnen de EU en de Europese Economische zone wel en niet gedaan mag worden met kunstmatige intelligentie (AI Act). Belangrijk onderdeel van het wetgevend framework is het concept van hoog risico-toepassingen, die strenger gereguleerd zullen worden. Vandaag zijn de richtlijnen hierover gepubliceerd, en de Europese Commissie vraagt om feedback.
De AI Act definieert een aantal gebieden waarop AI-toepassingen een bijzonder hoog risico vormen voor het aantasten van de rechten van EU-burgers, of het ondermijnen van de maatschappij. Onder andere toepassingen van AI bij biometrische surveillance, onderwijs, wetshandhaving en personeelsbeleid worden aangeduid als hoog risico. In de praktijk betekent dit dat zowel ontwikkelaars als gebruikers van AI toepassingen die onder deze categorieën vallen extra verantwoordelijkheden hebben onder de AI Act. Deze zijn bedoeld om te garanderen dat fundamentele mensenrechten als het recht op privacy door kunstmatige intelligentie niet geschaad kunnen worden. Een compleet overzicht van systemen die onder deze categorie vallen, is uiteengezet in annex III van de AI Act.
Deze week heeft de Europese Commissie richtlijnen gepubliceerd die helderheid moeten bieden over welke AI-systemen geclassificeerd zullen worden als hoog risico. Dit wordt gedaan ter ondersteuning van ontwikkelaars, aanbieders en exploitanten van AI-gedreven producten en diensten. De richtlijnen worden, net als overige informatie over de AI Act, gepubliceerd op het AI Act Single Information Platform. Naast de richtlijnen bevat dit platform onder andere een compliance checker en een helpdesk die organisaties moet helpen met de implementatie van de AI-act.
Met het publiceren van de richtlijnen wordt ook gevraagd naar feedback van belanghebbenden. Het gaat hierbij niet alleen om ontwikkelaars en aanbieders van AI-producten, maar ook academici en burgers. Belanghebbenden kunnen tot 23 juni 2026 hun standpunten delen. Deelnemers kunnen een op de website aangeboden vragenlijst invullen om hun feedback te ondersteunen. Doel van de raadpleging is dat de uiteindelijke richtlijnen zo volledig en duidelijk mogelijk zullen zijn.
De Europese Unie ziet de mogelijkheden die kunstmatige intelligentie bieden om het leven van haar burgers makkelijker te maken. Tegelijkertijd is men zich er zeer bewust van dat AI-toepassingen ook schadelijk kunnen zijn, zowel voor individuele burgers als de samenleving in het geheel. Om de mogelijkheden van AI optimaal te benutten zonder dat dit ten koste gaat van de veiligheid of the grondrechten van burgers zal de AI Act in heel Europa ingevoerd worden. De consultatie voor de uitvoeringswet die de AI Act in Nederland moet toepassen loopt nog tot 1 juni van dit jaar.