Analysetools

Of analysetools die worden gebruikt bij statistisch onderzoek onder de AI Act vallen, hangt af van hoe de tools worden ingezet en welke impact ze hebben. Voor de beoordeling dient rekening te worden gehouden met de toepassing en de impact daarvan.

Hoog risico

Als de analysetools worden gebruikt in contexten waar ze een significante invloed kunnen hebben op de rechten en vrijheden van individuen, zoals in medische diagnoses, strafrechtelijke procedures, of beslissingen over kredietwaardigheid, dan zouden ze als “hoog risico” kunnen worden geclassificeerd. Dit betekent dat ze onder de strenge regels van de AI Act zouden vallen, inclusief vereisten voor transparantie, menselijke controle en naleving van veiligheidseisen.

Beperkt risico

Als de analysetools worden gebruikt voor minder ingrijpende toepassingen, zoals in academisch onderzoek zonder directe gevolgen voor de onderzochte individuen, dan zouden ze waarschijnlijk als “beperkt risico” worden beschouwd. Dit zou kunnen betekenen dat alleen minimale transparantie-eisen van toepassing zijn, zoals het informeren van gebruikers over het gebruik van AI.

Specifieke toepassing in statistisch onderzoek

In gevallen waar AI-analysetools worden gebruikt puur voor statistische analyse, zonder dat ze directe beslissingen nemen over individuen, en zonder dat ze een direct risico vormen voor fundamentele rechten, zouden ze mogelijk onder de “minimaal risico” categorie vallen. Dit zou betekenen dat ze niet onderworpen zijn aan de strenge regelgeving van de AI Act.

Human-in-the-loop en controle

Als de AI-analysetools worden gebruikt onder toezicht van mensen (human-in-the-loop), en er voldoende menselijke controle en verantwoording is, kan dit ook van invloed zijn op de classificatie van het risico. De mate van menselijke controle kan helpen om het systeem als minder risicovol te classificeren.

Transparantie en uitleg

Zelfs als de analysetools niet als hoog risico worden geclassificeerd, kunnen er nog steeds verplichtingen zijn met betrekking tot transparantie en uitlegbaarheid, vooral als de resultaten van de AI-analyse invloed kunnen hebben op beslissingen die mensen raken.

Conclusie

Statistische analysetools die worden gebruikt in onderzoek vallen mogelijk onder de AI Act, afhankelijk van hun toepassing en het risico dat ze vormen. Als ze worden gebruikt in contexten waar ze invloed kunnen hebben op mensenlevens of fundamentele rechten, kunnen ze als “hoog risico” worden beschouwd en onderworpen zijn aan strenge regelgeving. In minder kritische contexten kunnen ze als “beperkt” of “minimaal” risico worden beschouwd, met minder strenge verplichtingen.