China zet een belangrijke stap voorwaarts in zijn digitale regulering door nieuwe regels voor te stellen die vereisen dat alle inhoud die door kunstmatige intelligentie (AI) duidelijk geïdentificeerd moeten worden. De Cyberspace Administration of China (CAC) kondigde afgelopen zaterdag een plan aan dat, indien goedgekeurd, onlineplatforms en dienstverleners verplicht om al het door AI gegenereerde materiaal zichtbaar te labelen, inclusief het invoegen van metadata in relevante bestanden.
Regelgevende voorstellen
De voorstellen specificeren dat labels op verschillende plaatsen in tekst, afbeeldingen, video's en audiobestanden moeten verschijnen. Voor audiobestanden wil de Chinese overheid een hoorbare waarschuwing die luisteraars informeert over door AI gegenereerde content aan het begin en einde van het bestand, en, indien van toepassing, tijdens het afspelen. Software die deze bestanden afspeelt, zal gebruikers ook moeten informeren wanneer ze door AI gegenereerde content consumeren.
Voor video's moeten er aan het begin, einde en op relevante momenten in de video mededelingen worden geplaatst. Gebruikers die door AI gegenereerde content plaatsen, moeten dit als zodanig aangeven en zichzelf identificeren. Registraties van hun activiteiten worden zes maanden bewaard.
Verantwoordelijkheden van platforms en gebruikers
Sommige labels worden dynamisch toegepast op basis van metadata die zijn ingesloten in door AI gegenereerde content. Als een bestand deze metadata niet bevat, moeten dienstverleners de content analyseren en, indien ze vermoeden dat het door AI gegenereerde content betreft, deze van een passend label voorzien.
Bovendien vereist de voorgestelde code dat Chinese internetplatforms technologieën delen die zijn ontwikkeld om AI-content te detecteren, zodat iedereen zijn inspanningen op dit gebied kan verbeteren. Het niet naleven van deze regels zal leiden tot sancties voor platformbeheerders en particulieren.
Internationale context en implicaties
Hoewel het ontwerp tot oktober openstaat voor commentaar, is het onwaarschijnlijk dat er significante wijzigingen in zullen worden aangebracht, in lijn met China's strikte regulering van online content. Deze maatregel weerspiegelt de aanhoudende strategie van het land om soevereine controle uit te oefenen over het lokale internet, waardoor het zeer onwaarschijnlijk is dat kritiek op de Communistische Partij of de regering online verschijnt of lang blijft bestaan, mocht dat toch gebeuren.
Conclusie
De Chinese stap roept belangrijke vragen op over transparantie in het gebruik van AI en de balans tussen staatscontrole en vrijheid van meningsuiting. Hoewel sommigen de stap zien als een noodzakelijke stap in de strijd tegen desinformatie en misleidende content, zien anderen het wellicht als een vorm van censuur en een beperking van de vrijheid.
