Le cas récent d'élèves de l'école Saint George impliqués dans la génération et la diffusion ultérieure d'images modifiées par l'intelligence artificielle pour faire apparaître leurs camarades nus (un phénomène connu sous le nom de ) a donné lieu à une série de débats. D’une part, on a souligné la nécessité de qualifier juridiquement les actes qui impliquent la production d’images et de fausses informations par des moyens technologiques, ainsi que l’importance de comprendre ce qui s’est passé comme une expression de violence de genre. D’un autre côté, le rôle des écoles dans la prévention des utilisations malveillantes de la technologie et dans l’éducation numérique a été remis en question.
Nous pensons que toute discussion sur la manière de répondre aux conséquences d’un développement technique accéléré doit partir du principe que la technologie est un produit sociotechnique et, par conséquent, une pratique culturelle. Cela signifie que les technologies ne sont pas des éléments autonomes indépendants de leurs contextes de production et d’utilisation, tandis que la culture est également perméable aux possibilités offertes par la technologie. Ainsi, société et technologie se façonnent mutuellement et ne sont pas séparées.
Partant de cette prémisse, une analyse de ce qui est arrivé aux étudiants de Saint George doit considérer non seulement les agressions sexuelles évidentes et la misogynie impliquées, mais aussi les éléments techniques qui y ont donné naissance. Les images en question ont été partagées dans un groupe sur l'application Telegram, où se trouvaient plus de 100 participants. La manière dont l’événement se produit n’est pas sans importance. Telegram se caractérise par un sentiment d'anonymat (seul un numéro de téléphone portable est requis pour s'inscrire, des surnoms peuvent ensuite être adoptés) et par la facilitation de la formation de communautés fermées qui ne sont généralement accessibles que sur invitation. Ces qualités de la plateforme peuvent favoriser la normalisation des pratiques genrées, notamment la réaffirmation de la masculinité à travers l’exercice de la violence contre les corps féminisés.
Ce qui précède ne signifie pas que l’application est responsable de la génération de cultures d’agression sexuelle. Il s’agit plutôt de se rendre compte que le contexte technologique a servi, dans ce cas, à la multiplication de problèmes déjà existants. La littérature universitaire a inventé le terme pour désigner la façon dont le développement de – en tant que générateur de – implique des processus de reproduction de normes de genre binaires qui sont négligées dans les communautés de développement. En particulier, puisqu’il s’agit de contenus générés artificiellement, il est plus facile de déshumaniser ceux qui y participent et de relativiser les dégâts que ces technologies peuvent causer. De cette manière, les technocultures toxiques dépendent de la somme entre une configuration culturelle spécifique et une plateforme.
Il ne suffit donc pas de réfléchir à des stratégies éducatives capables d’aborder des phénomènes complexes tels que l’intersection des technologies et des cultures oppressives, l’interdiction des artefacts technologiques ou la classification de sanctions exemplaires. Il est nécessaire d’analyser comment le réseau de relations impliqué conduit à des conséquences sexistes néfastes et quelles autres relations possibles pourraient exister. En ce sens, l’éducation sexuelle intégrale (ECS) peut éduquer à la consolidation saine des relations sexuelles et à la prévention des violences de genre. Par ailleurs, puisque la technologie peut être – mais pas nécessairement – un agent amplificateur du sexisme et de la violence de genre, ainsi que d’autres formes d’injustice (raciste, classiste, capacitaire, âgiste), il est également nécessaire de générer des propositions éducatives autour de la prise en charge numérique. . Or, ces propositions doivent considérer que la culture technologique n’est pas une compétence neutre, puisqu’elle implique de placer les pratiques sociales dans des contextes numériques en vue de la construction d’espaces basés sur un plus grand bien-être et moins de préjudices. En tenant compte de ces considérations, il pourrait être possible de démanteler les structures d’oppression qui imprègnent le monde matériel et numérique.
