De Europese Commissie is gestart met een openbare raadpleging om input te verzamelen over de uitvoering van de AI-verordening (Artificiële Intelligentie).
Het gaat hierbij om AI-systemen met een hoog risico. Daaronder vallen toepassingen die aanzienlijke gevolgen kunnen hebben voor de gezondheid, veiligheid of grondrechten van mensen. Denk bijvoorbeeld aan gezichtsherkenning in de openbare ruimte, AI bij werving en selectie, beslissingssystemen of systemen die medische diagnoses ondersteunen.
Discriminatie
De huidige (Europese) wet- en regelgeving biedt in de praktijk nog onvoldoende houvast. Daarnaast zijn ook de verantwoordelijkheden rondom het ontwikkelen en toepassen van AI-oplossingen vaak nog onduidelijk. De risico’s, zoals discriminatie, ondoorzichtige besluitvorming of aantasting van grondrechten, zijn groot. Er is dan ook dringend behoefte aan concrete, werkbare richtlijnen die als vangrails dienen om te voorkomen dat AI-toepassingen ontsporen.
De ontwikkeling van AI-systemen moet niet alleen aan ICT’ers worden overgelaten. Er ligt hier ook een duidelijke maatschappelijke verantwoordelijkheid. Organisaties die een risicovol-AI-systeem willen ontwikkelen, zouden bijvoorbeeld verplicht kunnen worden om samen met onafhankelijke experts en vertegenwoordigers vanuit de samenleving, vooraf een maatschappelijke impactanalyse uit te voeren. Zo zorgen we voor de juiste kaders en voorkomen we schade.
Tijdig heldere grenzen
De ontwikkeling van AI is niet tegen te houden, maar kwetsbare burgers mogen hier nooit de dupe van worden. Door tijdig heldere grenzen te stellen, voorkomen we dat deze technologie uit de bocht vliegt.
Het is goed dat de Europese Commissie het voortouw neemt, maar ook de Nederlandse overheid, ontwikkelaars, gebruikers en burgers dragen hierin verantwoordelijkheid. Samen moeten we zorgen voor betrouwbare en rechtvaardige AI-toepassingen, zodat het vertrouwen van de burger niet wordt geschaad.
Een breed publiek (waaronder ontwikkelaars, overheden en burgers), wordt uitgenodigd om hun meningen te geven. Dus grijp je kans. De deadline van de raadpleging is 18 juli 2025.
Over de auteur
Johan de Jong
Vice President Consulting & Thought Leader digitale overheid
Johan de Jong heeft ruim 25 jaar ervaring binnen de overheid en een achtergrond in de uitvoering van Europese en Nationale wet- en regelgeving, zoals subsidies. Hij is begonnen als expert bij de Dienst Uitvoering Regelingen - nu Rijksdienst voor Ondernemend Nederland (RVO). In deze ...
