Nieuwe transparantieverplichtingen bij gebruik van AI in werking! (Mr. Franklin)

Auteur: Olivier Sustronck (Mr. Franklin)

Waarom hebben we regels nodig voor AI?

Vooraleer een nader inzicht te bieden in de nieuwe regels rond AI, dient te worden stilgestaan bij de werking van het systeem. AI bestaat uit drie verschillende componenten, namelijk een computersysteem, data en een algoritme. De wisselwerking tussen deze onderdelen zorgt voor de welgekende AI-technologie zoals we die vandaag (dagelijks) gebruiken. Via machine learning leert AI op basis van gelabelde trainingsdata, wat ook wel ‘gesuperviseerd leren’ wordt genoemd. Deze enorme innovatie biedt vele mogelijkheden, maar er schuilen ook talrijke risico’s in het gebruik ervan. Zo kan AI bijvoorbeeld personen manipuleren, onjuiste informatie verspreiden, mentale problemen creëren of versterken, tunnelvisies promoten of ingezet worden voor phishing en andere frauduleuze doeleinden. Daarnaast verbruiken datacenters enorme hoeveelheden energie en dragen ze bij aan waterschaarste. Net omwille van deze risico’s is er nood aan wettelijke bescherming en een juridisch kader.

Wat houden de strengere transparantieverplichtingen precies in?

Bij het genereren van tekst, beeld of video door AI-systemen moet hierover uitdrukkelijk worden geïnformeerd, al bij het eerste contact. Het systeem valt binnen het toepassingsgebied van de wet als aan vier cumulatieve voorwaarden is voldaan. Het moet gaan om een AI-tool, bedoeld om te interageren, rechtstreeks, met natuurlijke personen. Een gebruiker die met een chatbot communiceert bijvoorbeeld, dient er steeds attent op gemaakt te worden dat hij communiceert met een AI-agent. Wanneer AI gegenereerde content wordt geplaatst, dient deze ook te worden gemarkeerd, zodat een computersysteem het kan herkennen. Een deepfake, bijvoorbeeld een door AI gemaakte video of foto, moet dan weer voorzien zijn van een duidelijke disclaimer dat de content AI-gegenereerd is, tenzij deze reeds door een mens werd nagekeken en aangepast of het gaat om onrealistische beelden (draken en sprookjesfiguren bijvoorbeeld). Deze verplichtingen rusten op de aanbieder, de partij die het AI-systeem bouwt en op de markt brengt en niet op de gebruiker.

De verplichtingen zijn van toepassing zodra de AI voor professionele doeleinden wordt ingezet. Wanneer een systeem gebruikmaakt van biometrische of emotieherkenning, dienen betrokkenen hierover eveneens geïnformeerd te worden, met inachtneming van de relevante bepalingen van de GDPR; opmerkelijk genoeg ligt deze informatieplicht hier niet bij de aanbieder, maar bij de gebruiker. Tot slot geldt een labelverplichting voor AI-gegenereerde teksten die gepubliceerd worden over aangelegenheden van algemeen belang, zoals economie, politiek, gezondheid en wetenschappelijke of culturele ontwikkelingen.

Uitzonderingen interactieve AI

De transparantieverplichting is niet van toepassing in enkele gevallen, onder meer wanneer het overduidelijk is dat je met een AI te maken hebt. Dat moet worden beoordeeld vanuit het standpunt van een redelijke, geïnformeerde, oplettende persoon. Het doelpubliek moet daarbij in rekening worden gebracht zodat de uitzondering een andere uitwerking krijgt in verschillende contexten. Ook wanneer AI wordt ingezet voor een wettelijke opsporing, voor het voorkomen of vervolgen van strafbare feiten, is de uitzondering van toepassing.

Samenloop van regels

De verplichtingen van de AI wet zullen cumulatief gelden met andere regels zoals de GDPR en auteursrechten. Dat zorgt ervoor dat er complexe situaties kunnen ontstaan, aangezien diverse regelingen moeten worden gecontroleerd en nageleefd. Zo blijft de GDPR ook van toepassing, al zal die meer focussen op de gegevens dan op de AI-tool. Je zou deze verplichtingen kunnen samenvoegen in je privacyverklaring of bij het vragen van toestemming. Ook auteursrechten en recht op afbeelding kunnen van belang zijn,  wanneer bijvoorbeeld een foto van een bekende persoon door AI wordt gegenereerd en gebruikt voor marketingdoeleinden.

Uitstel is geen afstel

De datum van inwerkingtreding van de hoogrisico-AI-systemen is uitgesteld naar 2 december 2027 voor Annex III-systemen en naar 2 augustus 2028 voor Annex I-systemen. Verder worden de verplichtingen vereenvoudigd, zo zal het uitzonderingsregime voor kmo’s ook naar middelgrote bedrijven worden uitgebreid (ondernemingen tot 750 werknemers en max. 150 miljoen omzet. De reden voor dit uitstel is het niet voldoende geharmoniseerd zijn van de regelingen en het niet haalbaar zijn van de eisen. To be continued.

Bron: Mr. Franklin