Plagiat à l’école, avenir du travail et égalité des chances : tels sont les défis posés par l’intelligence artificielle

Près des deux tiers (63 %) des enseignants américains utilisent déjà l’IA générative pour planifier leurs cours, trouver des activités créatives ou jeter les bases du reste de leur programme, selon une enquête d’Impact Research et de la Walton Family Foundation. Avec eux, 42% des élèves l’utilisent, et tant les enseignants que les élèves et les parents ont une opinion positive de cet outil. Une écrasante majorité (84 %) des enseignants ayant déjà utilisé ChatGPT trouvent son impact sur l’enseignement très positif. Et pourtant, son utilisation soulève surtout certaines questions liées à l’authenticité des œuvres : existe-t-il un moyen de prévenir ou de combattre les possibilités de plagiat ?

« Prévenir le plagiat est aussi simple que de mettre l’étudiant dans une situation où il doit démontrer qu’il possède réellement les connaissances. Cela existait déjà depuis les écoles de l’Égypte ancienne », explique Carlos Guardiola, directeur du New Business à l’école des métiers du numérique Ironhack. Grâce au travail de réflexion, souligne-t-il, les élèves ont accédé à un sujet, recherché des sources, contrasté des informations et développé leur propre conclusion raisonnée. « L’objectif est que l’élève apprenne à faire une réflexion critique par lui-même et démontre ensuite qu’il en est capable », ajoute-t-il.

Cependant, relever le défi présenté par l’intelligence artificielle générative nécessite avant tout d’adapter les méthodologies pédagogiques afin qu’il ne soit pas si facile d’utiliser des outils comme ChatGPT pour générer du contenu en quelques secondes pour le faire passer pour le vôtre. Un danger qui place au centre du débat la nécessité de sensibiliser les étudiants sur des questions éthiques telles que l’intégrité académique.

« L’une des clés pour lutter contre le plagiat est de changer l’orientation de l’évaluation : au lieu de se concentrer sur le produit final, les éducateurs doivent prêter attention au processus d’apprentissage de l’élève, ce qui implique de valoriser les discussions en classe, les brouillons, les réflexions et toute autre méthode qui montre le le processus de réflexion et le développement de l’étudiant », déclare Frankie Carrero, directeur des données et de l’IA chez VASS. En d’autres termes, encouragez les élèves à réfléchir de manière critique et créative.

Guardiola et Carrero (et une grande majorité d’enseignants) s’accordent pour souligner l’opportunité que représente l’incorporation de ces outils et d’autres basés sur l’intelligence artificielle dans l’enseignement et l’apprentissage. Il pleut sous la pluie car, pour maximiser ces opportunités, il serait conseillé de réduire les ratios actuels entre enseignants et étudiants, un débat qui, après avoir laissé la pandémie derrière lui, tombe à nouveau (bien sûr) dans l’oreille d’un sourd en raison du manque de volonté politique. « Grâce à l’IA et à sa capacité à améliorer l’expérience des étudiants et des enseignants, il existe une excellente opportunité de revenir à un environnement de formation plus proche et plus personnel, avec un enseignant qui a moins d’élèves par classe et qui travaille plus près d’eux, favorisant un dialogue. cela aide à percevoir leur capacité de raisonnement », explique Guardiola.

L’utilisation d’une IA peut-elle être détectée ?

Aujourd’hui, il existe déjà des outils spécialisés qui prétendent pouvoir différencier le contenu généré par l’homme de celui généré par l’IA : GPTZero, Writefull’s GPT Detector, Originality.ai et Copyleaks en font partie. Il s’agit d’applications qui analysent des caractéristiques spécifiques du texte, telles que les modèles répétitifs ou inhabituels, le manque d’originalité et la structure globale des phrases. « Bien que les modèles d’IA puissent imiter les styles d’écriture, ils génèrent parfois des textes dépourvus de « touche humaine », répétitifs ou contenant des déclarations trop générales », prévient Carrero. Mais ces outils de détection ne sont pas non plus infaillibles : certaines études récentes, comme celui publié dans ont révélé que ces outils peuvent commettre des erreurs, identifiant de vrais textes humains comme ceux générés par l’IA.

Et si la technologie a rendu possible la création de ces solutions, elle a également fait de même avec le développement de techniques pour y éluder… Sans oublier le plus basique (et analogique de tous) : une personne peut demander un texte à une IA puis personnalisez-le, en le modifiant, en changeant le libellé à volonté et en le rendant ainsi pratiquement indétectable.

Face à ce défi, certains se demanderont encore s’il est possible de restreindre, voire d’interdire purement et simplement, l’utilisation des outils d’IA générative par les étudiants, comme cela a d’ailleurs déjà été fait l’année dernière (l’État de New York et les écoles de Seattle, aux États-Unis, et les universités australiennes en sont quelques exemples). Un an après l’émergence de ChatGPT, la tendance est davantage à la manière dont il peut être intégré de manière productive dans les salles de classe, mais une réglementation adéquate de son utilisation fait toujours défaut : d’accord avec un récent rapport de l’UNESCO Menées dans plus de 450 écoles et universités, moins de 10 % ont mis en œuvre des politiques ou des lignes directrices institutionnelles réglementant l’utilisation des applications d’IA générative.

La même organisation rappelle également que, même si l’utilisation de la technologie peut être bénéfique pour l’éducation, elle peut également avoir un impact néfaste si elle est utilisée de manière excessive ou sans supervision adéquate de la part de l’enseignant, car elle contribue alors à la distraction et génère de moins bonnes performances. Des études récentes mettent en garde contre leur effet négatif sur la capacité d’attention et de concentration des élèves du préscolaire et du primaire ; et en fait, Rapport GEM de l’UNESCO juillet 2023 recommande aux écoles du monde entier d’interdire l’utilisation d’appareils tels que ou

Dans quels métiers l’IA peut-elle être la plus utile ?

El uso de la IA generativa tiene el potencial de mejorar la productividad y ahorrar tiempo a los profesionales de cualquier sector, pero muy especialmente a aquellos que se dedican a gestionar información y conocimiento: programadores, abogados, periodistas, profesores, economistas, publicistas, administrativos … Parce que? « Très simple : un système d’IA générative peut aider dans toutes les tâches effectuées par un travailleur de l’information ; et les avantages peuvent être mesurés à la fois du point de vue de la productivité et de l’amélioration personnelle, en améliorant les capacités de la personne », explique Guardiola.

Dans le secteur juridique, par exemple, ces innovations remplissent un grand nombre de fonctions auparavant assurées par des personnes, contribuant à l’automatisation du travail et à la simplification de certaines tâches. « Ainsi, l’ennui cesse et l’avocat commence à se concentrer sur ce qui ajoute de la valeur, en plus d’atteindre un meilleur équilibre entre le travail et la vie personnelle », indique Lefebvre. Entre autres avantages, et grâce à l’IA, « l’information juridique sera également beaucoup plus accessible tant aux clients qu’aux professionnels du secteur, pouvant tout offrir, du conseil juridique aux explications adaptées à chaque cas ».

« Peut-être que nous ne le voyons pas comme quelque chose de positif en ce moment parce que de nombreux doutes et risques inconnus surgissent et qu’il faudra évaluer, mais si nous réfléchissons à tout cela, nous verrons que nous pourrons élever l’intellect humain à un autre niveau. « , dit Carrero. « Nous aurons à notre disposition un immense ensemble d’assistants personnels, image, voix, vidéo… qui pourront nous aider à développer notre créativité. »

Défis et enjeux de l’IA

Malgré les avantages déjà évoqués, la vraie question réside peut-être dans la question de savoir où fixer les limites dans l’utilisation des outils d’IA générative. Les défis ne sont pas rares, comme le rappelle Carrero : « Les enseignants et les éducateurs sont confrontés à la possibilité de plagiat ; des journalistes, des designers et des artistes, des conceptions et des œuvres d’art produites par l’IA qui peuvent remettre en question la valeur et le caractère unique du travail humain ; et dans le monde du divertissement, le rôle de l’IA dans la création de musique, de littérature ou de films en vient à remettre en question la paternité et l’originalité.

Les défis éthiques, techniques et sociaux posés par l’IA illustrent également la nécessité de développer une réglementation adéquate qui réponde à tous ses dangers :

• La possibilité de préjugés et de discrimination. « Étant donné que les systèmes d’IA sont entraînés avec des données, si un quelconque type de biais est reflété, il peut finir par être amplifié. Et cela pourrait, à son tour, aboutir à toutes sortes de décisions injustes, depuis la sélection du personnel jusqu’aux décisions judiciaires », explique Carrero.
• Égalité des chances. La loi sur l’IAen cours de développement au sein de l’Union européenne et dont la sortie est prévue fin 2025 ou début 2026, sera basé sur les principes de transparence, d’égalité des chances, de non-discrimination et d’autres aspects tels que l’interdiction de la reconnaissance faciale. et le social.
• Confidentialité et données. L’IA a le potentiel de collecter et d’analyser des informations personnelles à une échelle sans précédent. Sans réglementation claire, cela pourrait conduire à des violations de la vie privée.
• Droits et libertés civiques. La réglementation dans le domaine de la technologie est une manière de défendre les droits civils, « lorsque les règles du marché libre font émerger des technologies qui obéissent à la volonté des entrepreneurs privés, mais avec un impact et des conséquences imprévues sur la société, de celles pour lesquelles personne ne prend ses responsabilités », déclare Guardiola.
• Responsabilité. Pour Carrero, il est nécessaire d’établir des lignes claires concernant la prise en charge lorsqu’un système d’IA commet une erreur, notamment dans des domaines critiques comme la médecine, les transports, la finance ou le domaine militaire (comme les systèmes d’armes autonomes).
• Désinformation. Les outils d’IA peuvent générer des informations fausses ou manipulées, ce qui a de graves conséquences dans des domaines tels que la politique, le journalisme et la perception du public.

Guardiola, de son côté, souligne l’effet que l’IA générative peut avoir sur le lieu de travail : « Réduire les coûts est la décision rationnelle de toute entreprise (…). Plus que pour une profession, le risque réside dans les professionnels et dans la capacité de remplacer une personne par une autre ayant la même productivité à moindre coût, et de la compléter avec l’IA. Et puis, ajoute-t-il, il y a le défi pour les pays : « La compétitivité des personnes, entraînée par la délocalisation du travail et la mondialisation, peut amener la richesse perdue dans un pays à être générée dans un autre à partir d’un bloc différent. Au niveau européen, par exemple, des programmes tels que NextGen peuvent être articulés, de manière à maintenir la compétitivité au niveau des blocs et à distribuer la richesse créée.»

Où ira l’IA générative ?

Si, actuellement, l’IA générative dépend de la volonté et des instructions de celui qui l’utilise pour générer du contenu, une condition qui, selon Guardiola, sera surmontée à l’avenir : « Le prochain pas concerne la capacité de l’IA à choisir un action, la faire et, par conséquent, en avoir la responsabilité (ou son terme en anglais). Appliqué à l’IA générative, cela signifierait par exemple connaître les préoccupations d’un groupe et matérialiser des propositions culturelles qui répondent à son intérêt.

Mais les possibilités sont bien plus grandes. Il devrait également accélérer le développement d’environnements 3D pour la réalité virtuelle et augmentée ; et dans les jeux vidéo, cela contribuera à la création d’environnements plus immersifs et de personnages non-joueurs qui interagissent de manière plus réaliste. Et Guardiola termine en citant Mustafa Suleyman, co-fondateur de DeepMind, qui affirme dans son essai que « dans un avenir proche, une IA devrait être capable d’identifier un défi d’un groupe, de concevoir une solution, de construire un modèle commercial à partir de celui-ci, matérialisez-le et commercialisez-le avec succès.

FORMER LE PAYS en X et Facebook

Abonnez-vous au de la Formation EL PAÍS