Les dirigeants et chercheurs de l’enseignement supérieur préviennent que l’intelligence artificielle pourrait avoir de graves conséquences lorsqu’elle est utilisée dans les admissions, les services aux étudiants et l’enseignement.
L’intelligence artificielle s’est infiltrée dans presque tous les aspects du fonctionnement des collèges, depuis les admissions et l’embauche jusqu’à l’enseignement et l’apprentissage. La technologie a peut-être le pouvoir de révolutionner l'enseignement supérieur, mais la protection des étudiants n'a pas suivi le rythme de l'innovation, selon un nouveau rapport de l'initiative SHAPE (Sauvegarde de l'enseignement supérieur grâce aux pratiques et à l'éthique de l'IA) de Student Defense.
Dans le rapport intitulé Students at Stake: Risks of AI Deployment in Higher Education, les dirigeants et les chercheurs de l’enseignement supérieur se disent préoccupés par la manière dont l’IA est utilisée, en particulier dans les admissions, les services aux étudiants et l’enseignement. Ils identifient les risques liés aux biais ; confidentialité des données ; la perte de communautés d'apprentissage; et divulgation, transparence et crédibilité.
Dan Zibel, co-fondateur et avocat en chef de Student Defence, a déclaré dans un communiqué que les dirigeants « ne peuvent pas se permettre d’adopter l’IA d’abord et de poser des questions plus tard ».
« La poursuite d'études supérieures implique certaines des décisions les plus importantes qu'un étudiant puisse prendre. Bien que certaines utilisations de l'IA aient un potentiel énorme, les collèges et les universités doivent comprendre les risques, établir des garde-fous clairs et garantir de solides protections aux étudiants pour suivre le rythme de la technologie », a déclaré Zibel. « À une époque où de nombreux Américains remettent en question la valeur d’un diplôme universitaire, une gouvernance institutionnelle solide est nécessaire pour garantir que les universités utilisent l’IA uniquement pour ajouter de la valeur, plutôt que pour dévaloriser l’expérience éducative. »
L'utilisation de l'IA dans les admissions, le recrutement et l'aide financière soulève des inquiétudes quant aux étudiants contactés par les collèges, aux messages qu'ils reçoivent, à la manière dont l'aide est distribuée et à savoir si les étudiants comprennent le véritable coût des études universitaires, écrivent les auteurs. Une utilisation non contrôlée pourrait conduire à des représentations trompeuses, à un ciblage discriminatoire ou à une manipulation du choix des étudiants.
L’utilisation de l’IA dans le conseil, l’orientation et les services aux étudiants est particulièrement risquée, notent-ils ; cela pourrait encourager les étudiants à être particulièrement vulnérables et potentiellement les exposer à des conseils incorrects ou entraîner d’autres conséquences académiques ou financières.
L’IA pourrait également avoir un impact négatif sur l’offre d’éducation, notamment sur la qualité de l’enseignement, la liberté académique et la vie privée des étudiants, selon le rapport.
Le rapport conseille aux dirigeants des établissements d’enseignement supérieur de se poser des questions spécifiques avant de mettre en œuvre des produits d’IA : quel problème essayons-nous de résoudre ? Avons-nous mis en place des politiques et des structures de gouvernance adéquates pour garantir la fonctionnalité, garantir la responsabilité et gérer les risques ? Sommes-nous transparents ? Est-ce que cela crée de la valeur pour les étudiants ?
« Le jugement et le comportement humains sont également imparfaits. Mais la vitesse, la puissance et la nature probabiliste de l'IA peuvent amplifier les risques d'une manière difficile à comprendre », indique le rapport. « Ces risques persistent même lorsque la technologie semble fonctionner parfaitement mais contient des erreurs, telles que des hallucinations, qui produisent des erreurs qu'un substitut humain ne commettrait probablement pas. »
En réponse au rapport, la députée américaine Suzanne Bonamici, démocrate de l'Oregon, a déclaré dans un communiqué que l'IA dans l'enseignement supérieur ne devrait pas se substituer à la pensée critique et que la mise en œuvre de la technologie devrait être fondée sur l'éthique, la transparence et l'équité.
« Alors que les collèges et les universités élargissent leur utilisation de l’IA, les étudiants et les enseignants ont besoin de garde-fous et de ressources claires pour que cette technologie puisse élargir les opportunités et non creuser les écarts », a déclaré Bonamici.
