Mag generatieve AI jouw stem gebruiken? Wat met stemklonen en portretrechten? (Sirius Legal)

IT & IP | 10 juni 2024

Auteur: Arina Gorbatyuk (Sirius Legal)

Elk vogeltje zingt zoals het gebekt is. Scarlett Johansson en OpenAI liggen in conflict over het gebruik van haar stem. Mag generatieve AI jouw stem, of een afgeleide daarvan, zomaar gebruiken? OpenAI introduceerde onlangs Sky, een nieuwe stem voor ChatGPT, die opvallend veel leek op Samantha, de virtuele AI-assistent die door Johansson werd geuit in de film Her. Johansson was duidelijk geschokt en getuigde dat ze aan OpenAI weigerde haar stem te gebruiken toen ze om haar toestemming vroegen. Ze ontdekte dat er toch een soortgelijke stem werd gebruikt. OpenAI schakelde als reactie daarop de stem tijdelijk uit en verduidelijkte dat het niet de stem van Johansson was, maar een andere professionele actrice die haar eigen natuurlijke stem gebruikte.

Stemklonen, persoonlijkheidsrechten en privacy?

Het is natuurlijk evident dat stemklonen aan een aantal wettelijke voorwaarden onderworpen is is en dat je niet zomaar iemands stem kan gebruiken, ongeacht of het nu om een echte opname of een “clone” gaat.

Iedereen heeft immers een aantal persoonlijkheidsrechten of “portretrechten”, die alle elementen van je identiteit die je als persoon uniek en herkenbaar maken, beschermen. Je afbeelding, je silhouet, je naam en dus ook je stem zijn zo’n beschermde onderdelen van je persoonlijkheid.

Het is precies dat portretrecht dat centraal staat in dit debat. Het is het recht op basis waarvan ieder van ons controle kan uitoefenen over het (al dan niet commerciële) gebruik van zijn of haar identiteit. Hoewel het portretrecht wereldwijd niet uniform wordt erkend en de omvang ervan ook erg afhankelijk is van de context en de bekendheid van de betrokken persoon (bekende personen moeten sneller “aanvaarden” dat hun afbeelding, naam of stem gebruikt worden), speelt het een cruciale rol bij de bescherming tegen ongeoorloofde uitbuiting en is het nauw verbonden met het recht op privacy.

De situatie van Johansson laat zien hoe het klonen van stemmen mogelijk inbreuk kan maken op deze portretrechten. Ondanks de bewering van OpenAI dat de stem niet die van Johansson was, riep de publieke perceptie vragen op over toestemming en ethisch gebruik, wat ons herinnerde aan het belang van het beschermen van de individuele identiteit in het tijdperk van AI.

Hoe technologie wettelijke kaders kan overtreffen

De zaak illustreert hoe technologie de wettelijke kaders kan overtreffen. Naarmate AI zich verder ontwikkelt, wordt het vermogen om synthetische stemmen te creëren die echte individuen nauw nabootsen, gemakkelijker, waardoor de kans op misbruik groter wordt. Deze technologie maakt nabootsing van identiteit mogelijk die kan worden gebruikt om fraude te plegen, verkeerde informatie te verspreiden en op maat gemaakte ‘deep fakes’ te genereren.

Het opvallende bij dit alles is overigens dat de AI Act, die in de EU op het punt staat om finaal goedgekeurd en gepubliceerd te worden, deepfakes zoals deze classificeert als “low risk” AI-toepassingen, die in se -en vanuit AI-invalshoek- niet verboden zijn. Dat neemt natuurlijk niet weg dat andere rechten, zoals in dit geval portretrecht (maar net zo goed intellectuele eigendomsrechten, GDPR of andere) het vrij gebruik van deepfakes kunnen beperken.

Positieve toepassingen van AI stemmen

AI-stemmen hebben volgens ons zeker ook verschillende positieve toepassingen. Ze kunnen bijvoorbeeld een belangrijke rol spelen bij text-to-speech toepassingen volgens de Toegankelijkheidsrichtlijn en -wet. Maar we zijn toch vooral bijzonder benieuwd hoe dit spraakmakende dispuut zal worden opgelost, omdat dit soort incidenten de vinger legt op groeiende conflicten tussen technologie en recht. Hopelijk leiden dit en andere verhalen tot extra bewustzijn rond het gebruik van AI en zal het de Europese en Belgische wet- en regelgevers ertoe aanzetten om burgers nog beter te beschermen tegen AI-misbruik.