Het Algemeen Dagblad (AD) heeft onderzoek gedaan naar het gebruik van auteursrechtelijk beschermd materiaal om AI-algoritmen te trainen. Kunstmatige intelligentie (AI) en geavanceerde audiotechnologieën hebben inmiddels een revolutie teweeggebracht in de muziekindustrie. En hoewel sommige van deze ontwikkelingen veelbelovend zijn, brengen ze ook aanzienlijke risico’s met zich mee, met name op het gebied van diefstal van stemmen en (song)teksten. Door het klonen van stemmen van muzikanten kan er muziek worden geproduceerd die zogenaamd van de originele artiesten is, zonder dat zij daarvoor toestemming hebben gegeven. Hierdoor kan niet alleen veel schade worden toegebracht aan het imago van muzikanten en singer-songwriters, maar artiesten lopen door illegale AI-producties ook inkomsten mis. Door de nieuwe innovatieve AI-apps worden auteursrechten ernstig geschonden.

AI-algoritmen

Met behulp van AI-algoritmen kunnen stemmen van muzikanten zoals Herman van Veen, Pascal Jakobsen (Bløf), Jacqueline Govaert (Krezip), Erik de Jong (Spinvis), Joshua Nolet (Chef’Special), Marcel Veenendaal (DI-RECT), Jack Poels (Rowwen Hèze) en Stef Bos bijna exact worden gekloond. Anderen kunnen deze geavanceerde technologieën vrij eenvoudig gebruiken om gesproken tekst van een artiest op te nemen en deze gebruiken om nieuwe muzieknummers te maken. De nummers van de artiesten kunnen vervolgens worden uitgebracht en gepresenteerd als afkomstig van de originele zangers of bands, terwijl de originele artiesten zelf geen idee hebben van de creatie.

Verlies van inkomsten

Het exact klonen van stemmen vormt niet alleen een probleem voor muzikanten, maar ook voor acteurs, radio-dj’s, voice-over-artiesten, televisiepresentatoren, podcasters en vloggers en audiboekvertalers. Ook deze mensen verdienen immers hun geld met hun stem. De gevolgen van het kopiëren en illegaal (commercieel) gebruiken van stemmateriaal van artiesten kunnen verstrekkend zijn. Het gebruik van AI-apps leidt niet alleen tot schendingen van de rechten van artiesten (omdat hun stemmen worden gebruikt zonder toestemming en ze daardoor inkomsten verliezen), maar kan ook leiden tot verwarring bij het publiek.

Reputatieschade

Fans (maar ook het brede publiek) kunnen ten onrechte geloven dat de nepmuziek van hun idolen daadwerkelijk afkomstig is van hun idolen, waardoor de reputatie van de artiesten kan worden geschaad als de nummers van slechte kwaliteit zijn of de inhoud van de AI-producties schokkend, kwetsend, discriminerend of aanstootgevend is. Bovendien kan stemmanipulatie bijdragen aan de verspreiding van misinformatie en het ondermijnen van het vertrouwen van het publiek in de muziekindustrie als geheel.

Herman van Veen en Udio

Podiumkunstenaar, schrijver, componist, regisseur, muzikant, acteur en presentator Herman van Veen, die al bijna 60 jaar (sinds 1965) op de planken staat in de Nederlandse theaters, heeft een pleidooi gehouden voor het maken van adequate wet- en regelgeving ten aanzien van het klonen (en misbruiken) van stemmen. De stem van Van Veen dook onlangs op in Udio, een generatief kunstmatige-intelligentiemodel dat muziek produceert op basis van zogenaamde ‘prompt-enginering’. Deze AI-app werd in april 2024 gelanceerd door een team van voormalige onderzoekers van Google DeepMind, een Brits bedrijf dat gespecialiseerd is in kunstmatige intelligentie en neurale netwerken.

Promt-engineering

Bij prompt-engineering worden instructies gestructureerd die kunnen worden geïnterpreteerd en begrepen door een generatief AI-model. Een prompt is tekst in natuurlijke taal die de taak beschrijft die kunstmatige intelligentie zou moeten uitvoeren. De AI-tools trainen echter met auteursrechtelijk beschermd materiaal. In principe kan iedere leek zonder enige zangkwaliteit nu razendsnel een compleet en geloofwaardig nummer produceren, met de ‘originele’ stemmen van bekende zangers of zangeressen.

Bij wet verboden

Herman van Veen realiseert zich dat kunstmatige intelligentie niet meer zal verdwijnen en dat de ontwikkeling van geavanceerde AI-apps niet valt tegen te houden. Om die reden roept hij op om regelgeving te maken die de auteursrechten van artiesten beter kunnen beschermen. Het kopiëren en ongeautoriseerd gebruiken van iemands stem is bij wet verboden, waardoor de AI-app Udio de Europese regels overtreedt. Echter, is het maken van adequate wetgeving voor AI-toepassingen (gezien de geavanceerde, complexe en grensoverschrijdende technologie) nog niet zo eenvoudig.

Invoering van de AI-Act

Binnenkort wordt de AI-Act in Europa ingevoerd, nieuwe wetgeving die de ontwikkeling van kunstmatige intelligentie en AI-apps in alle 27 EU-lidstaten moet reguleren. De AI-act regelt niet alleen wat wél en wat niet is toegestaan op het gebied van kunstmatige intelligentie, maar classificeert ook de (mogelijke) risiconiveaus van deze geavanceerde toepassingen. Inmiddels hebben verschillende Kamerleden, onder wie Mona Keijzer (BBB), Christine Teunissen (PvdD), Sandra Beckerman (SP), Barbara Kathman (PvdA), Herman Krul (CDA), Jesse Six Dijkstra (NSC) en Don Ceder (CU), zich achter het pleidooi van Herman van Veen geschaard. Ook zij vinden dat het kabinet niet langer kan wachten met het aanpakken van de auteursrechtenschendingen van AI-apps.

Meer aandacht voor ethische kwesties

Volgens de Kamerleden moet er meer aandacht zijn voor ethische kwesties die met kunstmatige intelligentie gepaard gaan en moet duidelijk zijn waar de grens ligt van deze geavanceerde en complexe technologieën. Om die reden zou er een nieuwe minister van ‘Digitale Zaken’ moeten worden aangesteld, die zich kan focussen op de uitdagingen van AI-apps en andere AI-toepassingen. En gezien de snelheid waarop de ontwikkeling van kunstmatige intelligentie op dit moment gaat, kan daar niet langer mee worden gewacht.

Stemmen gebruiken voor trainingsdoeleinden

Het is in principe wél toegestaan dat de stemmen van artiesten worden gebruikt voor het trainen van kunstmatige intelligentie voor AI-apps, maar dat mag alleen als er rechtmatig toegang is verkregen tot het stemmateriaal en er geen auteurs- of naburige rechten worden geschonden. Naburige rechten zijn rechten die naast auteursrechten bestaan en die een uitvoerend kunstenaar (zoals muzikanten, dansers, acteurs, cabaretiers, stand-up-comedians, circusartiesten, operazangers, straatkunstenaars en performancekunstenaars) of een producent, het recht geven om te beslissen over opname, vermenigvuldiging, verspreiding en uitzending van een opname en daar ook een eerlijke vergoeding voor te ontvangen. Als een artiest uitdrukkelijk géén toestemming geeft voor het gebruiken van zijn of haar stemmateriaal voor AI-trainingsdoeleinden mag het niet worden gebruikt. Wanneer gekloond stemmateriaal wordt gebruikt voor trainingsdoeleinden, dan moet dit materiaal na de trainingssessie direct weer worden verwijderd.

Verordening digitale diensten

De Verordening digitale diensten (Digital Services Act) is een Europese verordening die tracht de online verspreiding van illegale content te voorkomen en de (auteurs)rechten van gebruikers te beschermen. De Verordening digitale diensten is bedoeld om de veiligheid, transparantie en verantwoordelijkheid op het internet te vergroten en legt strengere regels op aan sociale media, marktplaatsen en zoekmachines, ten aanzien van de online inhoud die zij plaatsen. De online platformen moeten transparant zijn over hoe ze inhoud precies modereren en rapportverplichtingen instellen voor onder andere illegale inhoud, haatzaaiende taal en schadelijk content. Daarnaast bevat de Digital Service Act maatregelen om de online verspreiding van misinformatie en desinformatie tegen te gaan. Bovendien bevat de Europese verordening bepalingen om eerlijke mededinging op online markten te waarborgen en machtsmisbruik door grote digitale bedrijven te voorkomen.

Illegale online content

De Europese Verordening digitale diensten regelt niet alleen het verwijderen van illegale online content, maar verplicht bedrijven ook om transparant te zijn over de manier waarop hun algoritmes precies werken. De AI-app Udio (die ongeautoriseerd gebruik heeft gemaakt van het stemmateriaal van Herman van Veen) lijkt echter niet aan deze verplichtingen te voldoen. De Kamerleden wijzen erop dat de Nederlandse toezichthouder Autoriteit Consument & Markt (die toezicht houdt op de naleving van de Europese Verordening digitale diensten) op dit ogenblik niet genoeg doet voor het beschermen van de auteursrechten en andere belangen van artiesten.

Kabinet moet sneller handelen

Volgens een woordvoerder van de Autoriteit Consument & Markt kan de toezichthouder echter nog niet adequaat optreden, omdat de Verordening digitale diensten nog niet is vertaald naar nationale regelgeving. Dit komt vooral door lange besluitvormingsprocessen en traag handelen van het kabinet. Daarmee loopt ons land achter op andere EU-landen, zoals bijvoorbeeld Duitsland, Frankrijk en Finland. Duitsland heeft in 2021 een AI-strategie aangenomen waarin ethische richtlijnen voor kunstmatige intelligentie worden vastgesteld. Ook Frankrijk heeft een nationale AI-strategie en zet zich actief in voor het creëren van een ethisch kader voor AI-toepassingen. Daarnaast focust Frankrijk zich op het verbeteren van de transparantie en verantwoordelijkheid van AI-systemen en AI-algoritmen.

Veilig, transparant en ethisch verantwoord

Finland heeft de afgelopen jaren een reputatie opgebouwd als leider op het gebied van de ontwikkeling van kunstmatige intelligentie. Het Noord-Europese land heeft zich niet alleen ingezet voor het bevorderen van ethisch verantwoord AI-gebruik, maar ook gewerkt aan de ontwikkeling van specifieke regelgeving en richtlijnen voor kunstmatige intelligentie. Het Verenigd Koninkrijk (dat de Europese Unie inmiddels heeft verlaten) heeft richtlijnen uitgegeven voor het stimuleren van technologische innovatie, ethische ontwikkeling en het gebruik van kunstmatige intelligentie en AI-apps. En hoewel deze landen verschillende benaderingen en prioriteiten hebben bij het reguleren van kunstmatige intelligentie, delen ze allemaal het streven naar veilige, transparante en ethisch verantwoorde AI-toepassingen.

Naar de rechter tegen stemmendiefstal

Herman van Veen en andere artiesten die door AI-apps zoals Udio worden benadeeld, kunnen weinig doen tegen het ongeautoriseerde gebruik van hun stemmateriaal voor commerciële doeleinden. Als Udio het illegale materiaal niet zelf van zijn platform verwijdert, is naar de rechter stappen wellicht noodzakelijk om iets tegen de ‘stemmendiefstal’ van AI-apps te ondernemen. Om de diefstal van stemmen door AI-apps aan te pakken zijn er verschillende maatregelen en oplossingen mogelijk. Ten eerste is het essentieel dat artiesten hun stemmen en teksten beschermen door middel van auteursrechten en andere juridische maatregelen. Daarnaast moeten technologische oplossingen worden ontwikkeld om de authenticiteit van muziekopnames te verifiëren en misbruik van stemmen te voorkomen.

Blockchaintechnologie

Dit kan bijvoorbeeld door gebruik te maken van blockchaintechnologie om de herkomst van opnames te traceren en te verifiëren. Een blockchainnetwerk kan een onveranderlijk en transparant logboek creëren van alle stappen in het creatie- en distributieproces. Een blockchain maakt gebruik van cryptografie om elke transactie of actie vast te leggen in een reeks blokken, die vervolgens worden gekoppeld en beveiligd met behulp van geavanceerde wiskundige principes. Dit betekent dat wanneer een muziek of stemopname wordt gemaakt, elke stap in het proces, het bewerken, mixen, masteren en distribueren, wordt vastgelegd in de blockchain.

Verificatie van herkomst en integriteit

Elke wijziging of toevoeging aan de muziekopname wordt geregistreerd als een nieuwe transactie in de blockchain, waardoor een onveranderlijke geschiedenis van het werk ontstaat. Dit zorgt voor een hoog niveau van transparantie en vertrouwen in de herkomst en integriteit van de muziek- of stemopname, waardoor het voor consumenten gemakkelijker wordt om de echtheid ervan te verifiëren. Bovendien kan blockchaintechnologie ook worden gebruikt om de rechten en royalties van de betrokken artiesten en producenten vast te leggen en te beheren, waardoor een eerlijke en transparante vergoeding voor hun werk wordt gegarandeerd. Blockchaintoepassingen zouden op deze manier een wapen in de strijd kunnen zijn tegen het gebruik van illegale content door AI-apps.

Betere voorlichting en bewustwording

Tevens is het belangrijk dat consumenten beter worden voorgelicht over de risico’s van nepstemmen, nepmuziek, nepbeelden en nepnieuws. Door bewustwording te vergroten en verantwoordelijkheid te nemen bij het kopen en streamen van muziek, kan het publiek helpen om de integriteit van de muziekindustrie te beschermen. Als we daar nu niet mee beginnen is er een grote kans dat echte muzikanten en echte bands straks worden vervangen door AI-toepassingen.

Ondermijning van democratische processen

Door misbruik van de stemmen van artiesten zoals Herman van Veen, Stef Bos, Pascal Jakobsen, Jacqueline Govaert, Ronnie Flex, Taylor Swift, Ed Sheeran, Ariana Grande, Madonna of Bruce Springsteen, worden vooral inkomsten misgelopen. Maar wanneer AI-apps misbruik maken van de stemmen van politici om bepaalde boodschappen te verspreiden, brengt dat serieuze gevaren met zich mee. Allereerst kan stemmanipulatie van politici leiden tot desinformatie en onjuiste voorlichting van het publiek, waardoor democratische processen worden ondermijnd. Bovendien kan het de geloofwaardigheid van politici aantasten en het vertrouwen van burgers in de overheid ernstig schaden.

Valse informatie herkennen

Om dit te voorkomen is het belangrijk om strikte regelgeving en controlemechanismen in te voeren, om de echtheid van audio-opnamen te verifiëren. Daarnaast kunnen technologische oplossingen worden ontwikkeld (zoals digitale watermerken en blockchaintechnologie), om de authenticiteit van stemopnamen te waarborgen en stemmanipulatie tegen te gaan. Verder is het belangrijk om het publiek te leren hoe ze valse stem- en beeldopnamen kunnen herkennen en nepnieuws van echt nieuws kunnen onderscheiden. Mensen kunnen feiten alleen van onzin onderscheiden als ze goed begrijpen hoe ze valse informatie kunnen herkennen en kritisch kunnen blijven ten opzichte van de bronnen die ze raadplegen en de AI-apps die ze gebruiken.

Betrouwbare digitale omgeving

Ondanks het misbruik van stemmen en andere audio-opnamen door AI-apps bieden dit soort toepassingen ook kansen voor innovatie en vooruitgang. Door bewustwording over de mogelijke risico’s, het hanteren van strikte regelgeving en technologische oplossingen te implementeren, kunnen de (mogelijke) gevaren van kunstmatige intelligentie worden ingeperkt en kan er een betrouwbare digitale omgeving worden gecreëerd.

Algemeen belang en democratische waarden

Met een gezamenlijke inspanning van artiesten, AI-ontwikkelaars, beleidsmakers en het publiek, kunnen we de potentie van kunstmatige intelligentie optimaal benutten, om onze maatschappij te versterken en te beschermen tegen misbruik. Alleen als AI-algoritmen op een transparante en verantwoordelijke manier binnen systemen worden geïmplementeerd, kan kunstmatige intelligentie worden ingezet ten dienste van het algemeen belang en de democratische waarden.

Op de hoogte blijven van de ontwikkelingen op het gebied van blockchaintechnologie? Meld je dan nu aan voor de blogpost!