Les deepfakes pornographiques sont devenus une menace numérique grandissante, générant des contenus hyperréalistes où des visages sont superposés à des corps dans des situations explicites, le tout sans le consentement des personnes représentées. Cette nouvelle forme de violence numérique, principalement dirigée contre les femmes, cause des traumatismes psychologiques profonds, des atteintes à la vie privée et peut détruire des carrières.

L’Urgence de la Situation en Corée du Sud

La Corée du Sud est particulièrement touchée par ce fléau. Selon les statistiques, les deepfakes non consentis représenteraient plus de la moitié des cas de violence numérique sexuelle dans le pays, avec des milliers de victimes recensées chaque année. Le tristement célèbre affaire du « Nth Room » a mis en lumière l’ampleur et la brutalité de la violence sexuelle numérique, mais les deepfakes posent un défi supplémentaire : la difficulté pour les victimes d’obtenir justice et de faire retirer ces contenus dégradants qui se propagent à une vitesse fulgurante.

La Réplique Législative : Le « Deepfake Crime Response Act »

Face à cette crise, la Corée du Sud a décidé de prendre des mesures fortes. Le 22 février 2024, une nouvelle législation est entrée en vigueur : le « Deepfake Crime Response Act ». Cette loi vise à renforcer la protection des victimes et à punir sévèrement les créateurs et diffuseurs de deepfakes pornographiques non consentis. Parmi les mesures clés :

• Des peines pouvant aller jusqu’à 3 ans de prison et 100 millions de wons (environ 68 000 euros) d’amende pour la création ou la distribution de deepfakes à caractère sexuel sans consentement.
• Les peines peuvent être portées à 5 ans de prison si le contenu cause un préjudice avéré à la victime.
• Le gouvernement met en place des services d’assistance et de suppression de contenu pour les victimes.
• Un soutien psychologique est également prévu pour aider les personnes affectées à surmonter les conséquences traumatisantes.

Les Défis Persistants et la Réponse Mondiale

Bien que cette loi représente une avancée majeure, la lutte contre les deepfakes reste complexe. La vitesse de propagation des contenus, l’hébergement sur des serveurs internationaux et la difficulté à identifier les auteurs sont autant d’obstacles. De plus, la définition précise de « l’exploitation sexuelle » dans le contexte des deepfakes, notamment ceux qui ne sont pas explicitement pornographiques mais à connotation sexuelle, est un sujet de débat.

La Corée du Sud n’est pas le seul pays à s’attaquer à ce problème. Aux États-Unis, plusieurs États ont déjà des lois, et des efforts fédéraux sont en cours. Le Royaume-Uni est également sur le point de criminaliser la diffusion de deepfakes non consentis. L’Union Européenne, avec son projet de loi sur l’IA, exige l’étiquetage des contenus générés par IA, mais ne criminalise pas spécifiquement les deepfakes pornographiques pour le moment.

Vers un Avenir Plus Sûr ?

La législation sud-coréenne est un pas important vers la reconnaissance et la protection des victimes de deepfakes pornographiques. Cependant, la nature évolutive de l’IA et la portée mondiale d’Internet exigent une vigilance constante, une coopération internationale accrue et le développement de solutions technologiques pour détecter et contrer ces abus. La bataille contre les deepfakes est loin d’être terminée, mais des lois comme celle-ci offrent un espoir concret pour un espace numérique plus sûr et plus respectueux.