De Europese AI Act: wat bedrijven nu al moeten weten (De Groote – De Man)

Auteur: Lars Vandecasteele (De Groote – De Man)

Anno 2023 is artificiële intelligentie (AI) uitgegroeid tot een 𝗼𝗻𝗺𝗶𝘀𝗯𝗮𝗮𝗿 𝗶𝗻𝘀𝘁𝗿𝘂𝗺𝗲𝗻𝘁 𝘃𝗼𝗼𝗿 𝗶𝗻𝗻𝗼𝘃𝗮𝘁𝗶𝗲 𝗲𝗻 𝗲𝗳𝗳𝗶𝗰𝗶𝗲̈𝗻𝘁𝗶𝗲. ChatGPT wordt niet alleen meer uitvoerig besproken tijdens de lunchpauze, ook marketeers zetten het in om content te maken, softwareontwikkelaars schrijven en debuggen er hun code mee, en zelfs de titel van deze blog is gecreëerd door bits en bytes.

Terwijl AI in vele vormen mogelijkheden biedt aan ondernemers, heeft de Europese Unie onlangs een nieuw initiatief aangenomen dat de toepassing van AI in de praktijk zal sturen: 𝗱𝗲 ‘𝗔𝗜 𝗔𝗰𝘁’ (𝗱𝗲 𝗔𝗜-𝗩𝗲𝗿𝗼𝗿𝗱𝗲𝗻𝗶𝗻𝗴).

𝗗𝗶𝘁 𝗸𝗮𝗱𝗲𝗿 𝗴𝗲𝗲𝗳𝘁 𝗯𝗲𝗱𝗿𝗶𝗷𝘃𝗲𝗻 𝗲𝗲𝗻 𝗵𝗲𝗹𝗲 𝗿𝗲𝗲𝗸𝘀 𝘃𝗲𝗿𝗽𝗹𝗶𝗰𝗵𝘁𝗶𝗻𝗴𝗲𝗻 𝘄𝗮𝗮𝗿𝗮𝗮𝗻 𝘇𝗲 𝘇𝘂𝗹𝗹𝗲𝗻 𝗺𝗼𝗲𝘁𝗲𝗻 𝘃𝗼𝗹𝗱𝗼𝗲𝗻 𝗯𝗶𝗷 𝗱𝗲 𝗼𝗻𝘁𝘄𝗶𝗸𝗸𝗲𝗹𝗶𝗻𝗴 𝗲𝗻 𝗵𝗲𝘁 𝗴𝗲𝗯𝗿𝘂𝗶𝗸 𝘃𝗮𝗻 𝗔𝗜.

Uiteraard hebben ondernemers niet gewacht op dit Europees regelgevend kader om nu al AI te omarmen en beter te worden in wat ze doen, wat de innovatie alleen maar ten goede komt.

Betekent dit dan dat deze AI adepten in een juridisch vacuüm rondzwerven? Helemaal niet, veel van de principes van de AI Act vinden immers vandaag al toepassing.

Wat moet je weten over de AI Act?

De voornaamste doelstelling van de Europese wetgever is om ervoor te zorgen dat artificiële intelligentie binnen de EU veilig, transparant, traceerbaar, niet-discriminerend en milieuvriendelijk zal worden gebruikt.

De nieuwe regels beogen vooral ondernemingen die AI inzetten en bevatten vooral het volgende:

• Risico-gebaseerde aanpak: AI-systemen worden ingedeeld volgens het risiconiveau.
• Verbod op AI met een onaanvaardbaar risico: denk aan massa surveillance, sociale scoring, emotie-herkenning op de werkplek, enz.
• AI-systemen met een hoog risico worden onderworpen aan een hele reeks controle vereisten waaronder kwaliteitscriteria en menselijk toezicht.
• Voor AI-systemen met een beperkt risico gelden er minder strikte eisen maar moeten gebruikers wel duidelijk worden geïnformeerd over het AI-systeem.
• Ook bij generatieve AI, zoals ChatGPT, zullen ontwikkelaars transparant moeten vermelden dat de inhoud is gegenereerd door AI en een overzicht opstellen van auteursrechtelijk beschermde gegevens die gebruikt zijn in het trainen.
• Tot slot geeft de AI Act ook regels mee rond markttoezicht en monitoring, zoals het voorzien van AI-testomgevingen.

Is dit nieuw?

De AI Act is het eerste juridisch kader dat artificiële intelligentie op een algemene wijze zal reguleren. Dat betekent niet dat er vandaag nog geen regels zouden bestaan rond AI en het gebruik daarvan. Artificiële intelligentie zit namelijk verweven in allerlei producten, diensten en processen waarvoor bepaalde regels gelden. Veel principes van de AI Act zijn dan ook niet nieuw en zijn terug te vinden in de huidige wetgeving.

Zonder volledig te willen zijn, denken wij aan allerlei transparantieverplichtingen in onder meer de wetgeving rond consumentenbescherming en oneerlijke marktpraktijken. De geldende anti-discriminatiewetgeving verbiedt ondernemingen (die AI gebruiken) om een onderscheid te maken op grond van bijvoorbeeld ras, geslacht of seksualiteit. Wanneer ondernemingen AI inzetten, dienen zij verder ook rekening te houden met de exclusieve intellectuele eigendomsrechten van anderen. Uiteraard kunnen er mogelijks eigen auteursrechten gelden op de output van een AI-systeem (alhoewel hieromtrent discussie bestaat, zie hier).

Tot slot loert ook de GDPR om de hoek. De GDPR is immers technologieneutraal en geldt voor alle activiteiten waarbij bedrijven persoonsgegevens verwerken. Bijgevolg moeten ondernemingen ook nu al over een rechtsgrond beschikken wanneer zij aan de hand van AI persoonsgegevens verwerken (d.i. vnl. van belang voor de datasets op basis waarvan AI wordt getraind of gebruikt), deze enkel voor welbepaalde doeleinden verwerken en hierover transparant zijn naar klanten en werknemers toe, enz.

Wat is het nut van de AI Act?

AI wordt vandaag de dag dus al uitgebreid gereguleerd dankzij bestaande regels en principes die kunnen worden toegepast op AI-gerelateerde kwesties. De AI Act zorgt ervoor dat deze verschillende regels worden gecentraliseerd en dus makkelijker zullen zijn terug te vinden.

Aan de andere kant dringt ook een verduidelijking of uitbreiding van de bestaande regels zich op om AI-systemen correct te gaan gebruiken. Het is in dit opzicht dat de AI Act een algemeen kader probeert te schetsen dat artificiële intelligentie horizontaal zal reguleren, ongeacht de sector waarbinnen het wordt gebruikt. De AI Act biedt een meer directe, hands-on aanpak om aan de ontwikkeling en het gebruik van AI zowel juridische als ethische standaarden op te leggen en meer verantwoordelijk gebruik te stimuleren.

Toets uw AI-systemen nu al af: act now!

Het voorstel van de AI Act zal harde wetgeving worden zodra de Europese Raad en het Europees Parlement een akkoord vinden over de tekst van de verordening. Uiteraard kan u nu al gebruik maken van AI binnen uw onderneming, mits u de huidige wetgeving respecteert. Er zijn op dit moment geen wetten die AI-toepassingen in algemene zin reguleren. Dat betekent niet dat er geen regels zijn.

Bron: De Groote – De Man