Update over de AI Act: de EU bereikt een akkoord over de ‘definitieve’ tekst
Na het eerste voorstel in april 2021, de goedkeuring van het wetsontwerp in juni 2023 en de trialoogonderhandelingen (Europese Commissie, Europees Parlement en Raad) vorige maand is er binnen de EU overeenstemming bereikt.
Zoals reeds vermeld in eerdere inzichten op onze website, zal de AI Act van toepassing zijn op aanbieders en gebruikers (deployers) van AI-systemen die gevestigd zijn in de EU, evenals op partijen in derde landen indien de output van het AI-systeem in de EU wordt gebruikt.
De EU is overeengekomen om de volgende AI-systemen, die onaanvaardbare risico’s en potentiële bedreigingen vormen voor de rechten van burgers, te verbieden:
- Biometrische categoriseringssystemen die gebruikmaken van gevoelige kenmerken (bijv. politieke, religieuze of filosofische overtuigingen, seksuele geaardheid, ras) (met uitzondering van dergelijk gebruik voor rechtshandhavingsdoeleinden);
- Het willekeurig verzamelen van gezichtsafbeeldingen van het internet of uit camerabeelden om databases voor gezichtsherkenning aan te leggen;
- Emotieherkenning op de werkplek en in onderwijsinstellingen;
- Sociale beoordeling op basis van sociaal gedrag of persoonlijke kenmerken;
- AI-systemen die menselijk gedrag manipuleren om hun vrije wil te omzeilen;
- AI die wordt gebruikt om misbruik te maken van de kwetsbaarheden van personen (bijvoorbeeld wegens hun leeftijd, handicap, sociale of economische situatie).
Er werden duidelijke verplichtingen vastgesteld voor hoog-risico AI-systemen, zoals biometrische identificatie in openbare ruimtes voor rechtshandhavingsdoeleinden, AI-systemen in kritieke infrastructuren (bijv. gezondheidszorg), AI in onderwijs en beroepsopleiding, AI in veiligheidscomponenten van producten en AI in evaluatiesystemen, rechtshandhaving en migratie en asiel. Daarnaast werden uitgebreide verplichte verplichtingen ingevoerd, waaronder impactbeoordelingen inzake grondrechten, conformiteitsbeoordelingen, risicobeperking, datagovernance, documentatie, transparantie, robuustheid, nauwkeurigheid en cybersecurityverplichtingen.
Bovendien heeft de EU afspraken gemaakt over transparantieverplichtingen en andere eisen voor algemene AI (GPAI) en basismodellen.
Niet-naleving van de AI Act kan leiden tot sancties, zoals boetes tussen 1,5% en 7% van de wereldwijde omzet, afhankelijk van de aard van de inbreuk en de omvang van uw onderneming.
Er moeten nog enkele details worden afgerond, maar het lijkt erop dat de AI Act in 2026 in werking zal treden.
Meer weten? Neem contact op met Nuans.
