En Equateur, enquête sur des vidéos porno générées par l'intelligence artificielle

L'enquête a été ouverte jeudi à la suite de la "diffusion d'images et de vidéos d'élèves d'un établissement d'enseignement de Quito, modifiées à l'aide de l'intelligence artificielle", a déclaré le parquet sur X (ex-Twitter).

Les auteurs présumés ont manipulé des photos d'adolescents en associant leur visage au corps nu d'autres personnes.

Sybel Martinez, du programme de lutte contre le harcèlement Grupo Rescate Escolar, a déclaré qu'il y avait "environ 700 vidéos à contenu sexuel et érotique", impliquant des images de 20 à 24 élèves.

La distribution de contenu à caractère pornographique mettant en scène des enfants ou des adolescents est passible en Equateur d'une peine pouvant aller jusqu'à 16 ans de prison. L'enquête fait suite à un incident survenu en Espagne, où des images de jeunes filles mineures nues, générées par l'IA, avaient été diffusées.

L'avènement de l'IA a suscité une inquiétude croissante dans le monde quant à l'utilisation de cette technologie à des fins malveillantes, telles que la création de "deepfakes", c'est-à-dire des images ou des vidéos générées par ordinateur, souvent réalistes, sur la base d'un modèle réel.

Selon une étude réalisée en 2019 par l'entreprise néerlandaise d'IA Sensity, environ 96% des vidéos "deepfakes" en ligne sont de la pornographie non consensuelle, la plupart d'entre elles représentant des femmes.