Europa zet eerste stap voor Artificial Intelligence regels

Europa zet eerste stap voor Artificial Intelligence regels

expertise:

IT & Privacy

07 juli 2021

We staan er niet altijd bij stil dat een groot deel van onze keuzes niet geheel vrij zijn, maar computergestuurd worden gemaakt. Wie bepaalt welke volgende serie je gaat kijken of welke muziek je gaat luisteren? Wie bepaalt welk nieuws je krijgt te zien? Ook bepalen computers steeds meer keuzes van bedrijven en overheden. Welke kandidaat is geschikt voor die baan? Krijg je wel of geen hypotheek? Wat is de hoogte van mijn toeslag? Is er sprake van fraude? Het spreekt voor zich dat er aan de Artificial Intelligence (AI) en algoritmes die deze keuzes maken of beïnvloeden, hoge risico’s zitten. Denk daarbij aan risico’s op oneerlijke, bevoordeelde of zelfs discriminerende uitkomsten.

Om de risico’s te beperken zijn er al richtsnoeren, ethische codes, gedragscodes, deskundigengroepen en toezichthoudende kaders. Daarnaast kent de Algemene Verordening Gegevensbescherming (AVG) regels over automatische besluitvorming. Vanuit de praktijk kwam er echter steeds vaker de vraag om (aanvullende) wetgeving. Enerzijds omdat AI-toepassingen steeds meer worden gebruikt en anderzijds vooral omdat sommige AI-toepassingen een hoog risico vormen voor de grondrechten van Europese burgers.

Europese regelgeving voor AI

Nadat Europa met de AVG als een van de eerste met strenge en vrijwel uniforme regels voor de bescherming van persoonsgegevens kwam, probeert de Europese Commissie nu ook als eerste een regelgevend kader te maken op het gebied van AI. In april 2021 publiceerde de Europese Commissie een eerste voorstel voor dit regelgevend kader. Net als de AVG kunnen de regels voor AI ook van toepassing zijn op bedrijven die niet in de Europese Unie zijn gevestigd. Kortom, ook deze regelgeving kan wereldwijde impact hebben.

Op basis van de voorgestelde regels moeten AI toepassingen met een hoog risicoprofiel aan specifieke regels voldoen. Wanneer de AI toepassing een hoog risico vormt, wordt bepaald door de voorgestelde regelgeving. Zo moet de AI transparant zijn, de dataset die wordt gebruikt aan bepaalde eisen voldoen, verantwoording worden afgelegd over de werking, voldoen aan wet- en regelgeving, aan menselijk toezicht onderhevig zijn en robuust accuraat en goed beveiligd zijn. Hoe minder risico’s aan de AI, hoe minder regels er zullen gelden.

Ook worden bepaalde AI toepassingen verboden. Toezicht op de regels wordt uitgevoerd door een door de lidstaten aan te wijzen toezichthouder.

Conclusie

Het is nog maar de vraag of het huidige voorstel ook de daadwerkelijke regelgevende kaders voor AI gaat zijn. Het voorstel moet namelijk nog behandeld en beoordeeld moeten worden door het Europese Parlement en de Raad van de Europese Unie waardoor het bovendien nog goed een aantal jaar kan duren voordat ze daadwerkelijk van toepassing zijn. In de huidige vorm brengt het voor ontwikkelaars en bedrijven die AI met (hoge) risico’s gaan gebruiken een aantal verplichtingen met zich mee waar ze aantoonbaar aan moet voldoen. Positief is dat de rechten en vrijheden van gebruikers beter worden beschermd.

Heeft u vragen naar aanleiding van deze blog? Neem dan gerust contact op met Wieger Weijland of één van de andere leden van het IT-team.