L'intelligence artificielle sous tutelle familiale

María Carmen Morillas était satisfaite des présentations qu'elle pouvait faire avec son ordinateur lorsque sa fille, étudiante en 4ème année de l'ESO, lui a montré celle qu'elle avait réalisée pour un projet de classe. « C'était spectaculaire, dynamique, avec des images en mouvement », se souvient-il. Elle lui a demandé, étonnée, comment elle avait réalisé une telle merveille, ce à quoi la jeune femme a répondu : « Eh bien, avec l'intelligence artificielle (IA), maman. » Morillas, président de la Fédération de la Communauté de Madrid des Associations de Parents d'Étudiants Francisco Giner de los Ríos, le reconnaît : « Nos enfants nous donnent cent tours », mais il revendique le rôle des familles pour guider et donner du sens. des nouvelles générations concernant cette technologie. « Nous devons avant tout accompagner nos enfants », insiste Sara Osuna, professeur de didactique, d'organisation scolaire et de didactique spéciale à l'UNED. Selon lui, pénaliser ou interdire est contre-productif et ne sert à rien.

María del Mar Sánchez, pédagogue et experte en technologie éducative à l'Université de Murcie, reconnaît que la clé réside dans le soutien. Pour ce faire, les adultes doivent s'informer, via des canaux fiables, et accéder à des ressources de formation sur Internet (par exemple, l'Institut national de cybersécurité, Incibe, traite de plus en plus de l'IA dans son initiative Safe Internet for Kids), ainsi qu'à des conférences et des ateliers organisés par centres éducatifs, AMPAS ou mairies.

« Il y a encore peu de formation », déplore Osuna, qui perçoit des carences dans les familles en matière d'éducation aux médias. Il estime que des mesures très efficaces seraient des actions du centre éducatif lui-même, mais elles ne sont pas non plus préparées, observe-t-il. Sánchez préconise que les parents et les enfants développent ensemble la maîtrise de l’information, essentielle dans un monde de fausses nouvelles. Tandis que Juan Ignacio Rouyet, professeur à l'Université internationale de La Rioja (Unir) et expert en intelligence artificielle, estime que les familles doivent montrer à leurs enfants comment poser les bonnes questions, les instructions ou la machine, tout comme les générations précédentes ont appris à chercher. … dans une encyclopédie.

Intérêt grandissant

78% des parents sont très intéressés à approfondir leurs connaissances sur le sujet, et ce sont eux qui soutiennent le plus l'introduction d'outils d'IA dans le programme scolaire de leurs enfants, selon l'étude préparée par Empantallados et GAD3. L'étude montre que les parents, le secteur de la communauté éducative qui se sent le plus dépassé et qui comprend le moins l'IA par rapport aux enseignants et aux élèves, sont également les plus enthousiasmés par les possibilités pédagogiques de l'invention : 57 % pensent qu'elle aura un impact positif. impact sur l'éducation de leurs enfants, contre 39% des enseignants.

« Nous ne devons pas tous être des experts techniques, mais il est nécessaire de maîtriser certains aspects fondamentaux du fonctionnement de ces outils, de la manière dont ils sont formés ou de leurs préjugés », explique Sánchez. Il faut par exemple savoir que l’utilisation de GPT en remplacement du moteur de recherche Google a ses limites, de par ses défauts et ses biais. Osuna trouve grave que les algorithmes multiplient les préjugés et estime que sur des questions telles que le genre, les acquis des générations précédentes sont perdus.

« Lorsque les parents aident leurs enfants à faire leurs devoirs et utilisent GPT, ils doivent être conscients que l'IA hallucine et présente des inexactitudes qui ne correspondent pas à la réalité, même si elles semblent plausibles », explique Osuna. Il est donc nécessaire de comparer les informations par d’autres moyens. « Utilisez ce que l'outil vous dit comme point de départ ; ne faites pas de copier-coller ; Soyez critique et créez votre propre message. Ce que dit ChatGPT n'a pas d'importance », souligne Rouyet, qui suppose qu'à un moment donné les étudiants utiliseront ChatGPT ou similaire pour faire leurs devoirs, tout comme lui, à son époque, utilisait une calculatrice alors que c'était interdit.

Osuna révèle que les familles sont préoccupées par les diminutions que l'IA peut entraîner dans la pensée critique, la créativité ou la concentration de leurs enfants. Aussi la santé émotionnelle. « Il n'y a pas de contrôle parental sur ces sites », prévient-il. « Les enseignants considèrent approprié l’utilisation de l’IA, sous encadrement, dès l’âge de 13 ans », révèle le rapport Empantallados. La propre société de GPT, Open AI, indique que ce type d'outils n'est pas recommandé aux enfants de moins de 12 ans et qu'un consentement est requis pour autoriser leur utilisation par des mineurs de moins de cet âge. « Si nous souhaitons les utiliser pour une raison justifiée, nous devons le faire à partir de notre compte et ne jamais fournir d'informations sur des mineurs ; Nous devons prendre soin de leur identité numérique, et cela signifie ne pas les exposer », déclare Sánchez. L'expert conseille aux adultes d'effectuer une analyse préalable des outils pour voir s'ils sont effectivement sécuritaires.

Un pouvoir sous contrôle

Allez-y et dites que pour Morillas, l’IA générative semble « un outil très puissant ; Encore un rebondissement ». Mais il craint que tout le monde n’y ait pas accès, ce qui crée des inégalités. Et la vie privée, bien sûr. Leurs filles prennent des précautions, comme éteindre le microphone de leur ordinateur portable et couvrir la caméra. « Les systèmes actuels ont été possibles grâce à la grande quantité de données qui existent sur le réseau. Consciemment ou inconsciemment, nous avons fourni une multitude d'informations avec lesquelles ces systèmes sont formés ; Il est important que nous prenions les rênes », recommande Sánchez. Par exemple, consulter les modalités de la technologie utilisée. « Dans les systèmes d'IA, il est encore plus pertinent de savoir s'ils peuvent être entraînés, par exemple, avec les données que nous incluons », explique-t-il.

« La première chose pour alerter les mineurs sur les risques, c'est que les familles elles-mêmes sachent qu'ils existent », explique Rouyet. Les dangers que quelqu'un se fasse passer pour la voix ou l'image d'une autre personne existent. À tel point qu’il faut même arriver à confirmer les informations arrivées numériquement avec le monde physique. « Si vous voyez qu'une amie vous appelle pour vous demander quelque chose qui sort de l'ordinaire, comme de l'argent, raccrochez et appelez cette amie pour confirmer qu'il s'agit bien d'elle », donne-t-il en exemple. « Utilisez GPT mais méfiez-vous » est leur mantra. Surtout gratuit, encore plus que ce qu’offre l’argent. Nous devons savoir pourquoi et à qui nous offrons nos données personnelles, qui vont au-delà de l'adresse ou du téléphone portable, et peuvent également être le visage, l'empreinte digitale ou l'iris de l'œil. « Pourquoi ne donnez-vous pas vos informations personnelles à quelqu'un que vous rencontrez à un feu rouge, aussi beau et amical soit-il ? Eh bien, dans le monde numérique, c’est pareil », souligne-t-il.

Un grand défi social

Selon Sánchez, les familles, et la société en général, doivent « reconnaître qu'il s'agit d'une chose nouvelle et qu'il s'agit d'un défi social et familial et que nous allons l'affronter ensemble », ce qui signifie soulever et réfléchir aux dilemmes éthiques qui se posent. . « Il est important de parler à la maison d’éducation et d’actualité », estime-t-il. L'expert trouve presque dystopique qu'il y ait un débat sur l'interdiction de l'utilisation de la technologie par les jeunes et, en même temps, que des informations rapportent que ce sont ces mêmes jeunes qui viennent se faire scanner l'iris pour la Fondation Worldcoin par Sam. Altman (fondateur d'Open AI) en échange de crypto-monnaies. « Le scan de l'iris implique de fournir des données biométriques particulièrement sensibles ; Nous ne savons pas ce qui sera fait d'eux. Des plaintes ont déjà été déposées à ce sujet. Il est essentiel que nous les accompagnions et leur faisons comprendre le risque de participer à des actions aussi discutables que cela », conclut-il.