Depuis des années, la volonté de collecter des données sur lesquelles fonder presque toutes les décisions dans les collèges et universités – et également dans tous les domaines de notre économie – est une obsession nationale. Séduits par ses résultats, nombreux sont ceux qui trouvent ses conclusions sacro-saintes, incontestées, comme si sa parole était transmise par les dieux du numérique.
« Les chiffres ne mentent pas », disent-ils.
Mais les fondements de notre confiance reposent souvent sur des informations fragiles, des sources qui peuvent être suspectes, recueillies par des chercheurs dont les convictions et les antécédents influencent fortement les questions qu’ils posent et les citations qu’ils ignorent. Certains appellent cet échec un biais institutionnel, qui influence les résultats de manière involontaire ou peut même être mensonger.
En tant qu'ancien doyen de NYU, j'ai souvent participé à des panels universitaires qui lançaient la collecte de données et concevaient des questionnaires pour découvrir les tendances universitaires. Les autres membres sont généralement issus du même groupe d’élite : universitaires, professeurs et administrateurs. Certains sont de vieux amis que je rencontre de temps en temps lors d'un événement universitaire ou d'un autre : prendre un café lors d'une conférence à Orlando, présenter un article scientifique commun, se joindre à un conseil universitaire, recommander un collègue pour un prix. Nous sommes si à l’aise les uns avec les autres que nos pensées s’orientent souvent dans des directions assez similaires.
Ce n'est que rétrospectivement que je me suis rendu compte que les décisions cruciales sur les questions à poser et celles à omettre pourraient ne pas répondre aux intérêts de ceux dont nous ne sommes pas proches. S’il y a souvent une bonne mixité entre hommes et femmes, d’autres sont souvent absents ou mal représentés. La voix essentielle des étudiants n’est souvent pas entendue. D’autres sont des professeurs et du personnel issus de disciplines universitaires de statut inférieur. Et surtout, comme cela arrive souvent aux États-Unis et ailleurs, les membres des minorités ethniques et raciales – noires, hispaniques, sud-asiatiques et autres, ainsi que les personnes handicapées – ne sont souvent pas invités.
Mes collègues, tous universitaires sérieux et engagés, travaillent avec détermination pour générer des résultats de haute qualité, dans l’espoir de répondre aux besoins des professeurs et des étudiants de tout le pays en matière de réponses solides. Leur sentiment de responsabilité académique est du plus haut niveau. Mais quelles données essentielles pourraient ne pas être communiquées parce que les bonnes questions ne sont pas posées ? Quels ensembles de données pourraient être générés si les étudiants jouaient un rôle central ? Quelles questions les professeurs noirs soulèveraient-ils ? Ou les hispaniques et autres minorités ethniques ? Quelles questions sont supprimées parce qu’aucun d’entre nous n’a le bagage ou l’expérience de ceux qui ne font pas partie de notre cercle ?
Pendant une décennie en tant que doyen en ligne, j'ai assisté chaque mois à des discussions à l'échelle de l'établissement, explorant les meilleures façons de faire progresser l'éducation numérique. Quelques dizaines de collègues experts, issus de divers aspects de l'école (enseignement et apprentissage, technologie, finance, marketing, entre autres), étaient assis autour d'une table de conférence géante et raffinée dans une belle salle du campus donnant sur un parc verdoyant. Nos discussions ont porté sur une longue liste de sujets que les collèges et les universités doivent prendre en compte concernant les programmes en ligne : services de soutien, conception de cours, outils numériques, conseils, frais de scolarité, et bien d'autres encore. Durant toutes ces années, les étudiants n'ont jamais été invités et je ne me souviens pas avoir jamais vu un collègue noir prendre une chaise pour nous rejoindre à notre table.
Tout comme mon expérience dans d’autres milieux universitaires, je me demande maintenant dans quelle mesure nous avons été minutieux dans nos délibérations, reconnaissant qu’aucun étudiant ni aucun collègue noir n’était présent. Quels problèmes n’ont jamais été soulevés ? Quels programmes n’ont jamais été envisagés ? Quelle formation n’a jamais été proposée ? Quels investissements critiques n’ont jamais été réalisés ? Quelles questions ne nous sont jamais venues à l’esprit parce que nos expériences académiques et de vie étaient séparées de celles de ceux qui étaient exclus ?
Dans quelle mesure devriez-vous avoir confiance dans les données générées par votre établissement alors que les idées de collègues ignorés sont absentes des rangs de ceux qui décident de ce que nous devons savoir et de ce que nous n’apprendrons peut-être jamais ?
Dans un paysage plus vaste de l’enseignement supérieur, les préjugés involontaires peuvent avoir de graves conséquences. Par exemple, un article publié récemment dans le journal de l’American Educational Research Association révèle que les algorithmes largement utilisés dans de nombreux collèges pour évaluer le potentiel des candidats universitaires peuvent empêcher l’admission des Afro-Américains et d’autres minorités, car les outils utilisés sont criblés de données historiques racistes.
« Ces modèles sont beaucoup plus susceptibles de prédire l'échec des étudiants noirs et hispaniques qui ont réellement réussi et moins susceptibles de prédire la réussite des étudiants qui ont échoué par rapport aux groupes blancs et asiatiques », ont découvert les chercheurs.
Lorsque les collecteurs de données manquent de diversité, les résultats souffrent souvent d’énormes angles morts. Les groupes de haut rang conçoivent souvent des questions et construisent des collections de données qui reflètent leurs propres objectifs, et non ceux de l’ensemble des étudiants ou du corps professoral.
Les mesures sérieuses prises par l’administration actuelle interdisant les formations et les cours sur la diversité et interdisant le recrutement basé sur l’identité, entre autres actions brutales, sont au cœur de l’attaque actuelle contre l’enseignement supérieur. Pourtant, avec la plus profonde ironie et même en reconnaissant l’ignorance délibérée des autorités, des années d’études approfondies révèlent que la diversité ethnique est nécessaire pour parvenir à un savoir de haute qualité. Un article majeur (Communications naturelles 9, 5163 (2018)), visant à évaluer les effets de la diversité, a analysé plus de neuf millions d'articles et six millions de scientifiques pour découvrir la relation entre l'impact de la recherche et la diversité ethnique, entre autres éléments clés : discipline, sexe, affiliation et âge universitaire.
« Remarquablement », conclut l'étude, « parmi les classes considérées, la diversité ethnique présentait la plus forte corrélation avec l'impact scientifique. »
Alors que l’IA progresse sans relâche, ceux qui connectent les sources qui sous-tendent les réponses que tout le monde recherche doivent être conscients que des informations cruciales peuvent manquer. Alors que l’IA occupe une grande partie de notre réflexion, les questions fondamentales sur qui collecte les informations occupent les ailes les plus lointaines de notre drame national. Les doutes soulevés par les critiques affirmant que les documents alimentant les référentiels numériques géants peuvent être faussement trompeurs ne sont pas au centre de nos préoccupations.
Au lieu de cela, nous nous inquiétons de savoir si l’IA a des sentiments, quand elle pourrait totalement nous déjouer, comment elle pourrait envahir notre vie privée, compromettre l’environnement, propager des deepfakes et, le plus effrayant de tous, comment elle pourrait par inadvertance mettre fin à l’humanité toute entière. En attendant, nous devons être vigilants quant à ceux qui collectent des données dans nos collèges et universités et qui, honteusement, pourraient être laissés de côté.