AI gebruiken? Zorg dat je compliment bent volgens de EU-verordening

De inzet van kunstmatige intelligentie (AI) binnen organisaties neemt razendsnel toe. Maar met deze technologische mogelijkheden komen ook nieuwe verantwoordelijkheden. De Europese AI-verordening (AI Act) stelt duidelijke eisen aan het gebruik en de toepassing van AI, zeker als het gaat om toepassingen met een verhoogd risico. ICTWaarborg roept ondernemers in de sector dan ook op om hun AI-toepassingen juridisch op orde te brengen.

Opdrachtgever verantwoordelijk voor naleving AI-wetgeving

Wanneer een ICT-dienstverlener op verzoek van een klant AI-functionaliteit ontwikkelt of integreert, ligt de verantwoordelijkheid voor het voldoen aan de wet- en regelgeving in eerste instantie bij de opdrachtgever. Die moet zorgen dat het beoogde gebruik van de AI voldoet aan alle relevante regelgeving – waaronder de AI-verordening van de EU.

Ondersteuning door ICT-dienstverleners mogelijk, maar niet vanzelfsprekend

Hoewel ICT-dienstverleners hun opdrachtgevers in redelijkheid kunnen ondersteunen bij transparantie eisen, uitlegbaarheid en gegevensbeheer, gebeurt dit alleen wanneer dit schriftelijk is overeengekomen. Duidelijke afspraken zijn dus cruciaal.

Let op bij ‘hoog risico’ AI-toepassingen

AI-systemen die worden ingezet in bijvoorbeeld werving & selectie, medische diagnostiek of kritieke infrastructuren kunnen onder de classificatie ‘hoog risico’ vallen volgens de AI-verordening. In dat geval moet de opdrachtgever aanvullende informatie aanleveren om aan de strengere eisen te voldoen. Denk aan technische documentatie, risicobeoordelingen en audittrajecten.

Dienstverleners behouden daarbij het recht om opdrachten te weigeren die niet in lijn zijn met de AI-regelgeving. Wie AI inzet zonder goed voorbereid te zijn, loopt dus niet alleen juridische risico’s, maar kan ook zonder ontwikkelpartner komen te zitten.

Actie vereist

Voor ICT-ondernemers is het van belang om tijdig in kaart te brengen of en hoe AI wordt ingezet binnen hun organisatie of bij klanten. Toets of deze toepassingen onder de AI-verordening vallen, maak afspraken met je leveranciers of ontwikkelpartners, en leg verantwoordelijkheden goed vast.

ICTWaarborg helpt haar deelnemers hierbij met modelovereenkomsten, juridische ondersteuning en praktische begeleiding bij compliance.