Les photos d'abus sexuels d'enfants créées par l'intelligence artificielle, selon un gardien de sécurité en ligne, deviennent “beaucoup plus réalistes”.
L'Internet Watch Foundation (FMI) a déclaré que les progrès de l'IA reflètent dans le contenu illégal créé et consommé par les pédophiles, et a déclaré: “En 2024, la qualité des vidéos générées par l'IA s'est améliorée de façon exponentielle et que tous les types d'images d'IA semblaient beaucoup plus réalistes que la technologie développée.”
Dans son rapport annuel, le FMI a révélé qu'ils avaient reçu 245 rapports de maltraitance des enfants sexuels d'enfants générés par l'IA en Grande-Bretagne en 2024 – une augmentation de 380% par rapport à 2023.
La plus grande proportion de ces images était le matériel de la catégorie A, le terme pour le type de violence sexuelle le plus extrême des enfants, qui comprend des activités sexuelles pénétrantes ou du sadisme. Cela était composé de 39% du matériel d'IA vu par le FMI.
En février, le gouvernement a annoncé qu'il deviendrait illégal de posséder, de créer ou de distribuer des outils d'IA afin de générer des abus sexuels d'enfants et de combler un écart légal qui avait alarmé la police et les combattants de sécurité en ligne. Il sera également illégal pour tout le monde d'avoir des manuels qui enseignent aux gens comment utiliser des outils d'IA pour prendre des photos abusives ou pour les aider à abuser des enfants.
Le FMI, qui exploite une hotline en Grande-Bretagne, mais a une tâche globale, a déclaré que les images générées par l'IA-AI sur Internet ouvert et pas seulement dans le “Web sombre”, un domaine d'Internet accessible par des navigateurs spécialisés. Le matériau le plus convaincant pour le matériau généré par A, même pour les analystes formés du FMI, ne peut pas être distingué des photos et vidéos réelles.
Le rapport annuel du chien de garde a également mis fin aux niveaux record de sites Web sur lesquels les enfants ont organisé des abus sexuels sur les enfants en 2024. L'année dernière, le FMI a présenté 291 273 rapports sur les photos d'abus sexuels pour les abus sexuels des enfants, une augmentation de 6% par rapport à 2023. La majorité des victimes des rapports étaient des filles.
Le FMI a également annoncé que les petits sites Web mettaient gratuitement à la disposition d'un nouvel outil de sécurité pour le reconnaître et empêcher la propagation de matériel d'abus sur ses plateformes.
L'outil appelé Image Intercept peut reconnaître et bloquer les images qui sont contenues dans une base de données FMI avec des images de 2,8-m qui ont été identifiées numériquement comme des images criminelles. Le chien de garde a déclaré qu'il aiderait les petites plateformes à se conformer à la loi en ligne nouvellement introduite, qui contient des dispositions pour la protection des enfants et à lutter contre le contenu illégal tel que les abus sexuels des enfants.
Derek Ray-Hill, directeur général provisoire du FMI, a déclaré que l'outil disponible libre était un “grand moment dans la sécurité en ligne”.
Le secrétaire à la technologie, Peter Kyle, a déclaré que l'augmentation des abus et de la gestion du sexe de l'AI-généré par l'IA, dans lesquelles les enfants ont chanté par le programme d'images intimes, comment “les menaces pour les jeunes évoluent constamment en ligne”. Il a dit que le nouvel outil d'Intercept Image était un “puissant exemple de la façon dont l'innovation peut faire partie de la solution pour rendre les chambres en ligne plus sûres pour les enfants”.
#Les #images #d39IA #d39abus #sexuels #des #enfants #deviennent #beaucoup #réalistes #explique #chien #garde #Intelligence #artificielle
