IA et hypertrucages : Quel est le mal?
Vous avez probablement entendu parler d’incidents survenus dans des écoles en lien avec la création et le partage en ligne d’images sexuellement explicites de jeunes générées par l’IA. La plupart des ados passent plus de temps sur Internet pendant les vacances d’été et les parents doivent prendre conscience des dangers associés aux applis et aux outils d’IA qui s’utilisent pour créer des images nuisibles appelées « hypertrucages ».
Qu’entend-on par « hypertrucages »?
Le terme « hypertrucages » désigne des vidéos, des photos ou des enregistrements audio qui paraissent très réalistes, mais qui ont été modifiés par IA. Cette technologie permet par exemple de remodeler des visages, de modifier des expressions faciales et de combiner des éléments distincts pour produire de nouvelles images.
Dans les 12 derniers mois, Cyberaide.ca – la centrale canadienne de signalement des cas d’exploitation sexuelle d’enfants sur Internet – a traité près de 4000 hypertrucages.
Quels sont les risques associés à l’IA et aux hypertrucages?
Il y a des gens qui créent des hypertrucages sexuellement explicites d’enfants et d’adolescents dans le but de les exploiter et de les harceler. Dans certains cas de sextorsion, des images hypertruquées des victimes sont utilisées pour faire chanter ces dernières et les menacer si elles ne font pas ce qu’on leur demande. En général, les garçons se font sextorquer pour de l’argent, et les filles, pour d’autres d’images. Nous voyons aussi se multiplier les incidents dans les écoles où des élèves créent des hypertrucages de leurs camarades.
Les jeunes doivent prendre conscience des ravages que les hypertrucages peuvent causer. Pourquoi n’amorceriez-vous pas la conversation?
Comment aborder la question de l’IA et des hypertrucages avec des jeunes
- Demandez-leur ce qu’ils savent de l’IA et ce qu’ils ont entendu dire à ce sujet. Partez de ce qu’ils vous disent pour aborder la question du contenu généré par l’IA.
- Demandez-leur s’ils voient des dangers avec les hypertrucages et quelles formes ces dangers pourraient prendre. Expliquez-leur que des hypertrucages sexuellement explicites sont parfois utilisés pour causer du tort à des jeunes et que ça peut être très grave.
- Vous pouvez aussi faire des mises en situation. Par exemple, vous pourriez demander : « Si tu voyais quelqu’un se vanter d’avoir créé un nu par hypertrucage, qu’est-ce que tu ferais? »
- Expliquez que même si l’image est fausse, les problèmes qu’elle peut causer sont bien réels. Discutez des répercussions qu’une telle situation peut avoir.
- Expliquez que les jeunes ont droit à la sécurité, à la vie privée, à l’autonomie corporelle et à l’intégrité sexuelle. Dites-leur que si quelqu’un viole leurs droits, vous voulez le savoir afin de les aider. Faites preuve d’ouverture et montrez que vous êtes de leur côté.
Si vous connaissez une jeune victime d’un hypertrucage, faites un signalement à Cyberaide.ca ou consultez le site AidezMoiSVP.ca pour savoir comment signaler ce genre de situation aux diverses plateformes de médias sociaux.