Wat is een hoog-risico AI-systeem?

De risicopiramide

De EU AI Act verdeelt AI-systemen in vier risiconiveaus. Hoe hoger het risico, hoe zwaarder de verplichtingen:

De definitie

Een AI-systeem is hoog-risico wanneer het aan twee criteria voldoet:

1. Het valt onder de definitie van AI-systeem (Artikel 3) — een geautomatiseerd systeem dat output genereert zoals voorspellingen, aanbevelingen of beslissingen, met een bepaalde mate van autonomie.
2. Het wordt ingezet in een sector of toepassing uit Bijlage III, of is een veiligheidscomponent van een product waarop EU-harmonisatiewetgeving van toepassing is (Bijlage I).

Cruciaal: het gaat niet om de technologie zelf (transformer, LLM, regelgebaseerd systeem), maar uitsluitend om de toepassing en de sector.

Bijlage III: de acht sectoren

1. Biometrische identificatie en categorisering

Real-time identificatie van personen in openbare ruimten, emotieherkenning, biometrische categorisering op gevoelige kenmerken.

2. Kritieke infrastructuur

AI in beheer van energie-, water-, transport- en digitale infrastructuur waarbij storingen maatschappelijke gevolgen hebben.

3. Onderwijs en beroepsopleiding

Systemen die bepalen of iemand toegang krijgt tot onderwijs, prestaties beoordeelt of examens afneemt.

4. Werkgelegenheid en personeelsbeheer

Werving, selectie, promotie, monitoring van werknemers en zelfstandigen. Dit is een van de meest relevante sectoren voor B2B AI-toepassingen.

5. Essentiële private en publieke diensten

Kredietbeoordeling, verzekeringen, sociale uitkeringen, spoedeisende hulpdiensten. AI die bepaalt of iemand een lening krijgt of een uitkering is hoog-risico.

6. Rechtshandhaving

Risicobeoordeling van personen, detectie van emotionele toestanden, profilering in strafrechtelijke context.

7. Migratie, asiel en grensbewaking

Risicobeoordelingen van personen, verwerking van aanvragen, grenscontroles.

8. Rechtsbedeling en democratische processen

AI ter ondersteuning van rechterlijke beslissingen, verkiezingsprocessen of beïnvloeding van politieke meningsuiting.

Concrete voorbeelden

• AI-recruitmentsysteem dat cv's scoort en kandidaten filtert
• Kredietbeoordelingsalgoritme bij een bank of fintech
• Fraudedetectiesysteem bij een verzekeraar dat claims automatisch afwijst
• Chatbot bij een overheidsinstantie die uitkeringsaanvragen verwerkt
• Prestatiemonitoringsysteem dat werknemers beoordeelt
• Triagesysteem in de zorg dat urgentie van patiënten bepaalt

Wat het niet is

• AI voor intern bedrijfsbeheer zonder directe impact op rechten of kansen van mensen
• Aanbevelingssystemen voor producten of content (tenzij in hoog-risico context)
• Generatieve AI voor tekstproductie, marketing of samenvatten (tenzij in een hoog-risico context ingezet)
• Ondersteunende tools waarbij een mens altijd de eindbeslissing neemt en de AI alleen informatie structureert

Wat dit betekent voor uw bedrijf

Als uw AI-systeem hoog-risico is, bent u verplicht om:

• Een doorlopend risicobeheersysteem in te stellen
• Strikte datakwaliteitseisen te documenteren
• Uitgebreide technische documentatie bij te houden
• Automatische beslissingslogging te implementeren (Artikel 12)
• Transparantie richting gebruikers te waarborgen
• Menselijk toezicht technisch mogelijk te maken
• Een conformiteitsbeoordeling uit te voeren
• Uw systeem te registreren in de EU-database voor AI-systemen

Sancties bij niet-naleving: tot €15 miljoen of 3% van de wereldwijde jaaromzet.