Voor wie is AI-geletterdheid verplicht?

Voor wie is AI-geletterdheid verplicht en wat zijn de vereisten? De verplichting om AI-geletterd te zijn, geldt voor twee groepen. Enerzijds voor aanbieders (Providers) van AI-systemen en anderzijds voor de gebruikers (Deployers) van AI-systemen. Privépersonen, mensen die alleen maar AI voor privédoeleinden gebruiken hoeven niet AI-geletterd te zijn (artikel 2 lid 10).

AI-geletterheid is verplicht. Voor wie precies?

Aanbieders van AI-systemen

De aanbieders van AI-systemen zijn die organisaties die zelf AI-systemen ontwikkelen of laten ontwikkelen (makers) door iemand anders en deze systemen dan op de markt brengen. Een systeem moet dan voldoen aan een aantal basisbeginselen. Denk daarbij aan het monitoren van systeemprestaties, het beoordelen en beperken van risicovol gedrag van het systeem en zorgen voor transparantie. Denk bij transparantie  bijvoorbeeld aan duidelijkheid over gebruikte databronnen of algoritmen. Daarnaast gelden nog een aantal verplichtingen op het gebied van kwaliteit en risicobeheer, documentatie, registratie en transparantie.

Er zijn enkele uitzonderingen gemaakt. De regels van de AI Act gelden niet voor het onderzoeken, testen of ontwikkelen van AI-systemen of AI-modellen zolang ze nog niet op de markt zijn gebracht of in gebruik zijn genomen (artikel 2 lid 8). Ook hoef je niet AI-geletterd te zijn wanneer je een AI-systemen maakt en vrijgeeft onder een gratis en opensource-licenties, behalve dan wanneer het onder de ‘hoog risico’-categorie valt (artikel 2 lid 12).

Innovatie versus Regulering

In de wereld van AI hoor je wel eens een waarschuwing voor mogelijk innovatie belemmerende effecten van al die regulering. Is dit nu allemaal wel nodig? Hebben start-ups hier niet heel veel last van? Deze Europese regulering is echter heel flexibel opgezet. Het zijn geen regels die simpelweg voor iedereen gelden. Het is regulering die die ‘meebuigt’ met de snelheid waarop AI zich ontwikkelt.

De EU past bijvoorbeeld per risicocategorie de regels aan. Voor spamfilters gelden minder strenge eisen dan voor de financiële sector die onder toezicht staat van een centrale bank. Voor het gebruik van AI in de zorg bij kwetsbare mensen gelden andere regels dan de inzet van een chatbot. Toch is het van belang om zelfs bij het gebruik van “eenvoudige” chatbots basiskennis over AI te hebben over bijvoorbeeld de wijze waarop je transparant moet zijn.

Gebruikers van AI-systemen

Ook aan gebruikers van AI-systemen worden in de AI Act eisen gesteld. Een gebruiker is elke natuurlijke of rechtspersoon, overheidsinstantie of organisatie die een AI-systeem gebruikt onder eigen verantwoordelijkheid, met uitzondering van persoonlijk, privégebruik. De AI Act is dan van toepassing op gebruikers die gevestigd zijn in de EU en gebruikers die buiten de EU gevestigd zijn, maar waarvan de AI-output in de EU wordt gebruikt.

Ook hier is vooral aandacht voor de hoogrisicocategorie. Net als dat aanbieders aan eisen moeten voldoen, zijn er ook instructies voor het verantwoord gebruik van die hoog risicocategorie systemen.

Deze eisen zijn bedoeld om de veiligheid, transparantie en verantwoorde gebruik van hoog-risico AI-systemen zeker te stellen. AI-systemen die als hoog-risico worden beschouwd, kunnen namelijk grote gevolgen hebben voor personen en de maatschappij, vooral op het gebied van privacy, veiligheid, fundamentele rechten en discriminatie. Dus als gebruiker kun je onbedoeld het leven van mensen negatief beïnvloeden. Daarom zijn er een aantal verplichtingen voor gebruikers van hoog-risico  AI-systemen.

AI-geletterdheid verplicht voor alle risicocategorieën

De verplichting om gebruikers AI-geletterd te maken geldt voor alle AI-systemen, ongeacht hun risicocategorie. Dit betekent dat zelfs bij het gebruik van eenvoudige AI-toepassingen zoals chatbots, medewerkers voldoende geschoold moeten zijn en bijvoorbeeld menselijk toezicht moet plaatsvinden.

Er wordt rekening worden gehouden met de proportionaliteit. Dit betekent dat het niveau van AI-geletterdheid moet worden afgestemd op de technische kennis van medewerkers, hun ervaring en opleiding en de context waarin AI wordt gebruikt. Hierbij moeten organisaties "naar beste vermogen" zorgen voor voldoende AI-geletterdheid van hun medewerkers. Hoewel de wet geen specifieke methode voorschrijft, wordt van organisaties verwacht dat ze trainingsprogramma’s ontwikkelen, kennis en vaardigheden monitoren terwijl ze rekening houden met verschillende niveaus van expertise binnen de organisatie.

Meer weten over AI-geletterdheid? Klik hier en volg een workshop

In dit artikel lees je voor wie AI-geletterdheid verplicht is. Wil je alles weten over AI-geletterdheid lees dan hier verder.