Hoog-risico AI-systemen en de Europese AI Act

In de AI Act zijn vier risicocategorieën benoemd met eigen regels en verplichtingen. AI-systemen met een onaanvaardbaar risico, hoog-riscio systemen, beperkt risico systemen en minimaal risico AI-systemen. Ontwikkel je een AI-systeem in de hoog-risico categorie dan moet je voldoen aan een aantal eisen. Hier lees je wanneer je in de hoog-risico categorie valt. De wet vraagt hier van organisaties niet meer dan het doorlopen van een gedegen ontwikkelproces, risico’s te identificeren en op te lossen en dit alles netjes te documenteren. Wat zijn die eisen dan precies? Hieronder een opsomming van eisen die gesteld worden aan hoog-risico AI-systemen.

Eisen die gesteld worden aan hoog-risico AI-systemen

1. Goed nadenken over risico's: Voordat je een AI-systeem gebruikt, moet je goed kijken naar mogelijke risico’s en maatregelen nemen om problemen te voorkomen.

2. Goede kwaliteit van de gegevens: De gegevens die het systeem gebruikt, moeten kloppen en eerlijk zijn om fouten en discriminatie te voorkomen.

3. Activiteiten bijhouden: Het systeem moet vastleggen wat het doet, zodat je later kunt nagaan hoe het tot een bepaald resultaat is gekomen.

4. Duidelijke uitleg over het systeem: Er moet een duidelijke handleiding zijn waarin staat hoe het systeem werkt en waarvoor het wordt gebruikt, zodat controle mogelijk is.

5. Heldere informatie gebruikers: De gebruiker moet goed geïnformeerd worden over hoe het systeem werkt en wat het doel is.

6. Menselijk toezicht: Mensen moeten het systeem kunnen controleren en ingrijpen als het fout gaat.

7. Betrouwbaar en veilig: Het systeem moet goed beveiligd zijn, nauwkeurige resultaten geven en betrouwbaar blijven, ook als er iets onverwachts gebeurt.

Juist voor hoog-risico AI-systemen zijn er een aantal wetsartikelen opgesteld die beschrijven waaraan je als organisatie dient te voldoen. Om AI-geletterd te zijn moet je weten welke regels er zijn, zodat je inzicht hebt aan welke verplichtingen je moet voldoen.