Wat telt als een AI-systeem volgens de EU?

De EU AI Act definieert een AI-systeem als software die met verschillende technieken autonome aanpassingen kan maken na implementatie. Dit omvat machine learning, logica- en kennisgebaseerde systemen en statistische benaderingen. De definitie is bewust breed geformuleerd om toekomstige AI-ontwikkelingen automatisch onder de wetgeving te laten vallen. Of jouw bedrijfssoftware hieronder valt, hangt af van specifieke eigenschappen, zoals adaptief gedrag en zelfstandige besluitvorming.

Wat is de officiële definitie van een AI-systeem volgens de EU AI Act?

Een AI-systeem is volgens de EU AI Act een machinegebaseerd systeem dat voor een bepaalde set door mensen gedefinieerde doelstellingen output genereert, zoals voorspellingen, aanbevelingen of beslissingen die de omgeving beïnvloeden waarmee het interacteert. Het systeem gebruikt machine learning, logica- en kennisgebaseerde benaderingen of statistische benaderingen.

De definitie benadrukt drie kerncomponenten die een systeem tot AI maken. Machinelearning-systemen leren patronen uit data en passen hun gedrag daarop aan. Logica- en kennisgebaseerde systemen gebruiken regels en kennisbanken om beslissingen te nemen. Statistische benaderingen analyseren data om voorspellingen te doen of patronen te herkennen.

Wat deze definitie uniek maakt, is de focus op autonome aanpassing. Dit betekent dat het systeem zijn gedrag kan wijzigen na implementatie, zonder directe menselijke programmering voor elke nieuwe situatie. Een traditioneel programma volgt vooraf vastgelegde instructies, terwijl een AI-systeem leert en zich aanpast aan nieuwe omstandigheden.

De brede formulering zorgt ervoor dat zowel huidige als toekomstige AI-technologieën onder de wetgeving vallen. Dit voorkomt dat nieuwe ontwikkelingen buiten de regelgeving blijven door technische definities die te specifiek zijn.

Welke technologieën vallen wel en niet onder de AI-systeemdefinitie?

Technologieën die wel als AI-systeem gelden, zijn chatbots die natuurlijke taal verwerken, voorspellende algoritmen voor onderhoud, computer vision voor beeldherkenning en aanbevelingssystemen die leren van gebruikersgedrag. Deze systemen passen hun gedrag aan op basis van data of interacties.

Voorbeelden van AI-systemen in de bouw en infra zijn software die faalkosten voorspelt, systemen die automatisch de planning aanpassen op basis van weersomstandigheden en tools die patronen herkennen in sensordata voor predictief onderhoud.

Technologieën die niet onder de definitie vallen, zijn eenvoudige automatisering, zoals timers en schakelaars, statische databases zonder leercomponent, traditionele spreadsheetformules en standaard workflowsoftware die alleen vooraf geprogrammeerde stappen uitvoert.

Er bestaan ook grijze gebieden. Software met eenvoudige if-then-regels valt meestal niet onder de AI-definitie, tenzij het systeem deze regels zelf kan aanpassen. Complexe algoritmen zonder leercomponent zijn volgens de wet ook geen AI-systeem.

Voor veel bedrijven in civiel en infra geldt dat bestaande systemen vaak geen AI zijn, maar dat nieuwe tools voor data-analyse en procesoptimalisatie wel onder de definitie kunnen vallen.

Waarom heeft de EU zo’n brede definitie van AI-systemen gekozen?

De EU koos voor een brede definitie om toekomstbestendig te blijven. AI-technologie ontwikkelt zich razendsnel, en een te specifieke definitie zou binnen enkele jaren achterhaald zijn. Door te focussen op het gedrag van systemen in plaats van op specifieke technieken, blijft de wet relevant voor nieuwe ontwikkelingen.

Eerdere technologiewetgeving liet zien hoe snel specifieke definities verouderen. Wetgeving over internet en privacy moest regelmatig worden aangepast omdat nieuwe technologieën niet pasten binnen de oorspronkelijke kaders. De AI Act wil dit voorkomen met een principiële aanpak.

De brede definitie zorgt er ook voor dat bedrijven niet kunnen ontsnappen aan regelgeving door kleine technische aanpassingen. Als de wet alleen machine learning zou dekken, zouden bedrijven kunnen overstappen op andere technieken om buiten de regelgeving te blijven.

Voor bedrijven betekent dit wel dat ze goed moeten kijken naar hun software. Systemen die lijken op traditionele automatisering kunnen toch onder de AI Act vallen als ze adaptief gedrag vertonen. Dit vraagt om een zorgvuldige analyse van bestaande en nieuwe tools.

Hoe bepaal je of jouw bedrijfssoftware een AI-systeem is?

Begin met een inventarisatie van alle software die je bedrijf gebruikt. Stel voor elk systeem de vraag: past het zijn gedrag aan op basis van data of ervaringen? Als het antwoord ja is, heb je waarschijnlijk te maken met een AI-systeem volgens de EU-definitie.

Gebruik deze checklist om software te beoordelen:

• Leert het systeem van nieuwe data zonder dat je de code hoeft aan te passen?
• Maakt het voorspellingen op basis van patronen in historische data?
• Past het zijn output aan afhankelijk van veranderende omstandigheden?
• Neemt het zelfstandige beslissingen binnen vooraf gestelde parameters?
• Verbetert de prestatie van het systeem naarmate het meer gebruikt wordt?

Let vooral op software voor projectplanning, kostenvoorspelling, onderhoudssturing en kwaliteitscontrole. Deze tools gebruiken vaak AI-technieken zonder dat dit expliciet wordt genoemd.

Documenteer je bevindingen zorgvuldig. Maak een overzicht van welke systemen mogelijk onder de AI Act vallen, welke leveranciers je gebruikt en hoe deze systemen worden ingezet in je bedrijfsprocessen. Deze informatie heb je later nodig voor compliance.

Wat betekent de AI-systeemclassificatie voor complianceverplichtingen?

De EU AI Act deelt AI-systemen in vier risicocategorieën in, elk met eigen verplichtingen. Systemen met minimaal risico hebben geen speciale eisen. Systemen met beperkt risico vereisen transparantie richting gebruikers. Systemen met hoog risico kennen strenge eisen voor documentatie en testing. Systemen met onaanvaardbaar risico zijn volledig verboden.

Voor de meeste bedrijven in bouw en infra zijn systemen met hoog risico het meest relevant. Dit geldt voor AI die wordt gebruikt voor veiligheid, zoals systemen die beslissingen nemen over constructieveiligheid of risico’s voor werknemers.

AI-systemen met hoog risico moeten voldoen aan uitgebreide eisen:

• Een risicobeheersysteem implementeren en onderhouden
• Kwaliteitsmanagement opzetten voor de gehele levenscyclus
• Documentatie bijhouden van ontwerp, training en prestaties
• Transparantie bieden over hoe het systeem werkt
• Menselijk toezicht waarborgen bij belangrijke beslissingen

Systemen met beperkt risico, zoals chatbots voor klantenservice, moeten gebruikers duidelijk informeren dat ze met een AI-systeem interacteren. Dit lijkt eenvoudig, maar vereist wel aanpassingen in je communicatie en gebruikersinterfaces.

De complianceverplichtingen gelden niet alleen voor ontwikkelaars, maar ook voor bedrijven die AI-systemen gebruiken in hun processen. Dit betekent dat je als gebruiker medeverantwoordelijk bent voor naleving van de regelgeving.

Hoe STARC helpt met AI Act-compliance

Wij begrijpen dat de EU AI Act complex kan lijken, vooral voor bedrijven in civiel en infra die zich willen focussen op hun kernactiviteiten. Daarom helpen we je stap voor stap door het complianceproces:

• AI-systeeminventarisatie – We analyseren jouw huidige software en processen om te bepalen welke systemen onder de AI Act vallen
• Risicoanalyse en classificatie – We beoordelen in welke risicocategorie jouw AI-systemen vallen en welke verplichtingen daaruit voortvloeien
• Compliance-roadmap – We ontwikkelen een praktisch stappenplan om te voldoen aan alle AI Act-eisen
• Documentatie en procedures – We helpen bij het opzetten van de benodigde documentatie en kwaliteitsmanagementsystemen
• Implementatiebegeleiding – We ondersteunen je team bij het daadwerkelijk uitvoeren van compliancemaatregelen

Wil je weten hoe jouw bedrijf zich kan voorbereiden op de AI Act? Ons team van specialisten met diepgaande kennis van zowel AI-regelgeving als de bouw- en infrasector staat klaar om je te helpen. Neem contact op voor een vrijblijvende analyse van jouw situatie.

Gerelateerde artikelen

• Hoe kies ik tools voor datagedreven werken in de bouw?
• Wat is het verschil tussen de AVG en de EU AI Act?
• Stap voor stap automatiseren of alles tegelijk?
• Wat is predictive maintenance in de infra?
• Hoe automatiseer ik de facturatie van mijn projecten?