Artificial Intelligence (AI)

De AI-verordening

Om de kansen van AI te benutten en de risico’s te beheersen, heeft de Europese Unie nieuwe regels vastgesteld: de AI-verordening (AI Act), die in augustus 2024 in werking is getreden. Het is het eerste uitgebreide wettelijke kader ter wereld dat specifiek gericht is op de ontwikkeling en toepassing van AI. De AI-verordening heeft als doel het gebruik van AI binnen de EU op een veilige, transparante en verantwoorde manier te stimuleren. Daarnaast draagt de regelgeving bij aan meer vertrouwen in AI-systemen, bescherming van burgers en bedrijven, en eerlijke concurrentie tussen ontwikkelaars. Vanaf 2 februari 2025 zijn de eerste verplichtingen van de AI-verordening van toepassing. In de komende jaren volgen andere onderdelen, zodat er geleidelijk een volledig regelgevend kader ontstaat voor veilig en verantwoord gebruik van AI.

Verplichtingen voor organisaties 

De AI-verordening legt organisaties die AI-systemen ontwikkelen, aanbieden of gebruiken diverse verplichtingen op. Deze zijn gericht op het waarborgen van veiligheid, betrouwbaarheid en transparantie van AI-toepassingen. Afhankelijk van het type AI-systeem gelden verschillende verplichtingen:

• Verboden AI-praktijken (vanaf 2 februari 2025): bepaalde vormen van AI die te risicovol of onethisch worden geacht.
• Hoog-risico AI-systemen (vanaf 2 augustus 2026 of 2027, afhankelijk van het toepassingsgebied): toepassingen die aan strenge voorwaarden moeten voldoen voordat ze op de markt mogen komen of gebruikt mogen worden, zoals medische hulpmiddelen.
• Algemene en generatieve AI (vanaf 2 augustus 2025): systemen of modellen die breed inzetbaar zijn, zoals chatbots of tekst- en beeldgeneratoren, waarvoor transparantie en zorgvuldigheid verplicht zijn.
• Overige AI-systemen (vanaf 2 februari 2025): systemen die niet in een van de andere categorieën vallen en waarvoor alleen een algemene opleidingsverplichting geldt.

Daarnaast omvatten de verplichtingen interne risicobeheersing, beveiliging, conformiteitsbeoordelingen en documentatie- en meldingsplichten. Hoe groter het risico dat een AI-systeem kan opleveren, hoe strenger de eisen die worden gesteld.

AI in de praktijk

Ons ICT-recht team ondersteunt bedrijven, overheden, ziekenhuizen en zorginstellingen bij het naleven van de AI-verordening. Onze advocaten helpen onder meer bij het opstellen, beoordelen en onderhandelen van overeenkomsten tussen partijen die onder het toepassingsbereik van de AI-verordening vallen, ter bevordering van het door organisaties veilig en compliant kunnen inzetten van AI.

Waarom kiezen voor onze advocaten 

De advocaten van Nysingh zijn op de hoogte van de laatste ontwikkelingen en onderdeel van multidisciplinaire teams met veel kennis van specifieke sectoren en expertisegebieden, zoals contracteren, aanbesteden en onderlinge samenwerkingen. Ons ICT-recht team adviseert u over gebruik van AI in overeenstemming met de AI-verordening en zijn goed bekend met de wet- en regelgeving op het gebied van AI en kunnen u adviseren over naleving van de AI-verordening.