Europa heeft een primeur: we zijn de eerste met eigen wetgeving rondom AI. Met de AI Act willen Europese landen AI-systemen enigszins kaderen en classificeren op basis van risiconiveaus. Want hoewel deze technologieën een wereld aan kansen creëren, is zorgvuldigheid geboden. Wat houdt de AI Act in en wat betekent het in de praktijk voor ons?
De technologie haalt ons steeds meer in. Soms zijn er ‘zomaar’ nieuwe producten en services beschikbaar. Die snelle ontwikkelingen betekenen dat we nog niet altijd hebben bedacht hoe we met die technologie om moeten gaan. Wat we ervan vinden en wat do’s en don’ts zijn. Van AI werd al snel bekend dat het heel veel potentie heeft, maar dat er ook zeker risico’s zijn. Door het ontbreken van wet- en regelgeving is er een groot grijs gebied waarvan niet bekend is of er risico’s zijn voor veiligheid, privacy of prestaties. Zo is vaak niet bekend op basis waarvan systemen voorspellingen doen of beslissingen nemen en ook niet wat er met de ingevoerde gegevens gebeurt.
AI-gebruik door de Rijksoverheid
In oktober 2024 publiceerde de Algemene Rekenkamer het rapport Focus op AI bij de Rijksoverheid. Ze deed onderzoek bij 70 overheidsorganisaties over het gebruik van AI-systemen. Het bleken er 433 te zijn. De meeste worden gebruikt voor interne processen, zonder directe impact op burgers en bedrijven. Bijvoorbeeld om grote hoeveelheden informatie te doorzoeken of processen te optimaliseren. Uit het onderzoek bleek dat van meer dan de helft van deze systemen niet bekend is wat kansen en risico’s zijn. Er is zelfs een neiging om risico’s laag in te schatten. Ook is slechts 5% van de systemen opgenomen in het openbare algoritmeregister. Doordat er geen duidelijke doelstellingen en evaluaties zijn, worden AI-systemen gebruikt zonder inzicht in hun prestaties of potentiële risico’s.
De AI Act: één Europese verordening voor betrouwbare AI
De AI-verordening, juridisch ook wel bekend als (EU) 2024/1689, is het eerste uitgebreide juridische kader voor AI wereldwijd. Met de verordening wil de Europese Unie waarborgen dat we vooral betrouwbare AI-toepassingen gebruiken. Dat doet ze door de systemen te classificeren op basis van vier risiconiveaus:
- Onaanvaardbaar risico: Dit zijn AI-systemen die een duidelijke bedreiging vormen voor de veiligheid, het levensonderhoud en de rechten van mensen. De wet verbiedt 8 praktijken, zoals schadelijke AI-gebaseerde manipulatie of exploitatie van kwetsbaarheden en realtime biometrische identificatie op afstand voor wetshandhaving in openbaar toegankelijke ruimtes.
- Hoog risico: Hier draait het om AI-toepassingen die ernstige risico’s kunnen vormen voor de gezondheid, veiligheid of fundamentele rechten. Dit zijn bijvoorbeeld AI in kritieke infrastructuren, onderwijsinstellingen en rechtshandhaving. Deze systemen moeten voldoen aan strikte eisen en worden niet zomaar op de markt gebracht.
- Transparantierisico: Hier gaat het om AI-systemen waarbij het voor de gebruiker duidelijk moet zijn dat ze contact hebben met een machine, zoals bij een chatbot. Ook moet de door AI gegenereerde content duidelijk identificeerbaar zijn.
- Minimaal of geen risico: De meeste AI-systemen vallen in deze categorie en vormen geen of een verwaarloosbaar risico. Daarom zijn er geen regels voor opgesteld.
De AI Act in de praktijk
De AI-verordening vereist dat alle AI-systemen door autoriteiten worden beoordeeld op risico’s. Dit is de taak van het Europees AI-bureau. Naast risicocalculaties worden ook eisen gesteld aan gebruikers (AI-geletterdheid) en algemene AI-modellen. The New Wave IT houdt alle ontwikkelingen rondom AI nauw in de gaten. We verdiepen ons in de risico’s rondom veiligheid, privacy of prestaties, zodat wij onze klanten kunnen ontzorgen in het veilig gebruik van AI en denken op strategisch niveau mee over de inzet van AI in het huidige IT-landschap. Daarbij hanteren we de Europese-wetgeving voor onze AI-oplossingen, zoals onze chatbot Novi, en zorgen dat wij voldoen aan de eisen.
Wil jij weten hoe je AI veilig inzet binnen jouw organisatie? Let’s talk!