Une nouvelle loi visant à encadrer l’usage des deepfakes va entrer en vigueur en Chine. L’empire du milieu est ainsi le premier à légiférer sur le sujet.

Pour rappel, les technologies de deepfakes exploitent l’intelligence artificielle pour manipuler des contenus audio et vidéo. Elles permettent par exemple de remplacer le visage d’un individu par celui d’un autre dans une vidéo. Si ces technologies peuvent être utilisées pour divertir, elles peuvent aussi être utilisées à des fins de désinformation en donnant l’impression qu’un individu a tenu des propos qu’il n’a pas réellement tenu. Face à ces risques, l’Administration du cyberespace de Chine, autorité en charge du contrôle d’Internet, a décidé de mettre en place une nouvelle réglementation.

Ce nouveau texte s’articule autour de trois axes majeurs. Premièrement, il est nécessaire que les individus donnent leur consentement pour que leur image puisse être utilisée dans une vidéo de deepfake. Deuxièmement, il n’est pas autorisé d’utiliser ces technologies afin de diffuser des fake news. Enfin, seront interdits tous les contenus allant à l’encontre des lois en vigueur, nuisant à l’image du pays et aux intérêts nationaux, ou mettant en danger la sécurité nationale et perturbant l’économie. Il sera par ailleurs nécessaire d’étiqueter toutes les vidéos utilisant des technologies de deepfake.

Avec ce nouveau texte, le gouvernement chinois étend encore un peu plus son contrôle d’Internet. Pour rappel, depuis 2020 il mène une réelle campagne d’encadrement de la Tech et de ces principaux acteurs. L’objectif de ces démarches est clair :  permettre à la société de tirer profit des innovations technologiques tout en gardant le contrôle le plus complet possible et éviter toute contestation. Ce texte en est le parfait exemple : s’il permet au gouvernement de conserver le contrôle sur cette technologie, il laisse le champ libre aux entreprises afin de tirer profit des technologies de deepfake. Toute entreprise souhaitant produire des deepfake devra toutefois se soumettre à un audit de sécurité.

Reste à voir comment cette loi pourra être appliquée en pratique. Certains regrettent déjà que la procédure d’obtention du consentement des individus dont l’image est exploitée en vidéo ne soit pas clairement explicitée. Par ailleurs, l’étiquetage des deepfakes pourrait facilement être modifié simplement en ré-encodant la vidéo. Ce texte pourrait toutefois inspirer les autorités en dehors de Chine et encourager les différents gouvernements du monde à légiférer sur les deepfakes. En effet, à l’heure actuelle la régulation à leur sujet demeure très floue aux États-Unis comme dans l’Union Européenne.