Akkoord bereikt op AI-wet

De discussie rond Artificial Intelligence (AI) houdt de gemoederen in Brussel al enkele maanden bezig. Op 8 december werd er, na maanden onderhandelen en drie opeenvolgende marathonsessies tussen het Europees Parlement, de Raad van de EU en de Europese Commissie, een politiek akkoord bereikt op de AI Act. Met de voorgestelde wet hoopt de EU in te spelen op recente en aanstaande ontwikkelingen op het gebied van AI. Enerzijds om de volle potentie te benutten, maar anderzijds ook om enkele essentiële rechten van EU-burgers en kernprincipes van de Unie te borgen.

Alhoewel via persconferenties en second-hand rapportage van onderhandelaars langzaam maar zeker meer duidelijk wordt over het akkoord, moet de exacte tekst nog worden uitgewerkt. Wat weten we al wel van de aanstaande AI Act:

• De wetgeving hanteert een risicogebaseerde aanpak. Dat betekent: Hoe hoger het risico, hoe meer gereguleerd. VNO-NCW en MKB-Nederland MKB-Nederland en VNO-NCW hebben deze aanpak vanaf het begin van de onderhandelingen onderschreven.

• Hoog-risico AI-toepassingen moeten aan een groot aantal verplichtingen voldoen (denk aan risicobeoordelingen en mitigatie, of verbeterd databeheer). Met hoge risico’s bedoelen we systemen die in potente significante schade aan gezondheid, veiligheid, grondrechten, milieu, democratie en de rechtsstaat kunnen toebrengen. Denk hier bijvoorbeeld aan medische apparatuur, kritieke infrastructuren op het gebied van energie, of systemen die worden gebruikt om mensen te werven of de wet te handhaven;

• Voor bepaalde minder hoog risico systemen gelden er transparantieverplichtingen, zoals de verplichting om tijdens een online gesprek bekend te maken dat je met een chatbot communiceert in plaats van met een mens;

• In de laatste versie van het akkoord zijn sommige bepalingen van het voorstel van de Europese Commissie gewijzigd om aan te geven dat publieke sector-gebruikers van hoog risico AI zich moeten registreren in de EU-databank voor hoog risico AI-systemen. Dit is in Nederland al het geval en wij zijn van mening dat het goed is dat dit op Europees niveau wordt geharmoniseerd.

VNO-NCW en MKB-Nederland MKB-Nederland en VNO-NCW hebben zich vanaf het begin actief en positief ingezet voor de AI Act die zowel ten doel heeft het vertrouwen in AI te vergroten als innovatie te bevorderen. Wel maken we ons al langer zorgen over de snelheid van het proces: AI is een zeer complex onderwerp dat ook goed doordachte regelgeving vereist, zeker om de kansen die het voor de productiviteit binnen de Europese economie kan betekenen optimaal te blijven benutten. Het is de vraag wat deze in alle haast opgestelde regels zullen betekenen voor de ontwikkeling en toepassing van AI en voor de concurrentiepositie van bedrijven. Het is daarbij ook goed om te realiseren dat er veel andere Europese voorstellen zoals de Digital Services Act (DSA), de Data Governance Act (DGA), de Digital Market Act (DMA) en de Data Act ook onlangs zijn aangenomen en/of in werking zijn getreden. We maken ons zorgen om deze opstapeling van regels en de impact die dit zal hebben op de concurrentiepositie van bedrijven. Zeker het mkb zal geholpen moeten worden om te gaan voldoen aan al deze wetgeving, en toch competitief te blijven.

Een nog openstaand probleem heeft betrekking op de Product Liability Directive. Deze richtlijn die voorziet productaansprakelijkheid op Europees niveau te reguleren zal ook stand-alone software gaan omvatten, waaronder ook AI. De PLD maakt, in tegenstelling tot de AI Act, geen onderscheid tussen hoog risico en laag risico AI, wat een significante aanvullende administratieve last gaat betekenen. Er zitten voor AI nog enkele flinke haken en ogen aan het bereikte akkoord op de PLD, met specifieke problemen op het gebied van de omgekeerde bewijslast en bewijsvermoedens (de herziening van de PLD gaat ervoor zorgen dat bedrijven in veel gevallen hun onschuld moeten bewijzen in plaats van dat de eiser zijn of haar aanspraak moet onderbouwen), de inzet op risicoaansprakelijkheid (schuld doet niet ter zake), de verlaagde drempel voor bewijsaanvragen (bedrijven zullen om de haverklap informatie over de AI systemen moeten aanleveren) en de mogelijkheid tot het openen van massaclaims (‘class action lawsuits’) waarbij belangenvertegenwoordiging mogelijk gaat zijn en procederen een verdienmodel wordt. De link die tussen de AI Act en de PLD wordt gelegd zal volgens ons innovatie sterk gaan hinderen en de positie van de EU op het gebied van AI onder druk zetten. Dit staat haaks op de doelstellingen van de AI Act, die juist voorziet innovatie – op veilige wijze voor burgers en ondernemingen - te bevorderen.