Le doyen du Dartmouth College, Santiago Schnell, ne semble plus rédiger ses articles d'opinion et ses articles universitaires.
Cette nouvelle est le résultat d'une enquête menée par des journalistes étudiants de Dartmouth, s'appuyant sur une enquête menée par le Semafor site Web, qui tentait de déterminer quels articles d'opinion d'invités dans les principaux journaux avaient été rédigés par l'IA, comme déterminé par le programme de vérification de l'IA Pangram.
Nous devons noter que, comme moi et d’autres l’avons exploré ailleurs, Pangram n’est pas infaillible et que de petites modifications dans le texte peuvent faire passer les déterminations de 100 % d’IA à 100 % humain, mais le Provost Schnell ne nie pas avoir utilisé l’IA pour produire un texte qu’il garantit comme reflétant sa production.
Par courrier électronique, il a déclaré aux journalistes de Dartmouth qu'il déployait l'IA pour « affiner le langage, réviser, améliorer la clarté et l'organisation et rendre les processus de rédaction plus efficaces », mais « réviser(s) le texte final et assumer la responsabilité de son contenu ».
L’e-mail que Provost Schnell a envoyé aux journalistes a été jugé rédigé à 100 % par l’IA. Interrogé à ce sujet, il a répondu qu'il « avait développé le fond et rédigé un brouillon… utilisé un outil Al pour aider au langage et à la clarté, en prenant en compte plusieurs suggestions (y compris des phrases reformulées), avant de le lire entièrement, d'y apporter des modifications mineures et de vous l'envoyer avec ma signature. »
Il a ajouté : « Je suis entièrement responsable de tout texte sous ma signature. »
En effet, mais ce n'est pas lui qui a écrit ce texte. Au mieux, Provost Schnell a remplacé l'écriture par la génération de texte assistée par l'IA. Les scores « 100 % IA écrit » suggèrent qu’il aurait peut-être fait un pas de plus vers une production de texte entièrement automatisée.
Cela ne convient pas à au moins certains étudiants. Dans un article d'opinion, Eli Moyse, spécialiste des études gouvernementales et de la création littéraire, appelle au licenciement du prévôt Schnell, soulignant ce qu'il considère comme une hypocrisie intenable de la part de Schnell utilisant l'IA pour produire un Washington Post article d'opinion sur les étudiants qui trichent en utilisant l'IA.
Moyse qualifie les actions de Schnell d'« insulte ». En tant que directeur académique du Dartmouth College, utiliser l’IA pour produire du texte sans le divulguer est le genre d’actions qui poseraient des problèmes importants aux étudiants.
Jeff Sharlet, professeur d'écriture à Dartmouth, écrivant dans La Chronique en juillet, il a déclaré que ses étudiants « détestaient » l’IA, même s’ils se trouvaient obligés de l’utiliser.
Je ne peux pas prédire ce qui va arriver au Provost Schnell, mais il est peut-être sur des bases solides étant donné que la présidente de Dartmouth, Sian Leah Beilock, a publié sa propre opinion sur L'Atlantique plus tôt ce mois-ci, intitulé «Pourquoi je veux plus d'IA à Dartmouth».
Dans son article, le président Beilock présente une position très sensée : « Si les universités espèrent rester pertinentes dans un monde façonné par l’intelligence artificielle, elles devraient s’efforcer d’amener les étudiants à comprendre et à utiliser ces outils de manière productive. »
Sans aucun doute, une partie de cette utilisation productive implique des considérations éthiques liées à l’utilisation de ces outils, considérations que Provost Schnell semble avoir négligé dans ce cas particulier dans son désir d’efficacité accrue.
Dans cet article, le président Beilock critique également certains refus de l’IA en disant : « Mais plutôt que de s’attaquer de front à ce changement perturbateur et à l’anxiété qui en résulte, de nombreux éducateurs tentent simplement de faire disparaître l’IA. »
Laissant de côté ce que je considère comme douteux selon lequel le refus serait un effort pour faire « disparaître » l’IA, je pense qu’elle a raison quant à la nécessité de prendre ces problèmes de front. Voyons donc un peu cela avec quelques questions que nous devrions explorer dans ce domaine particulier de l'intersection du travail humain et de l'assistance de l'IA.
- Existe-t-il une différence significative entre l’écriture humaine et la production de documents assistée par l’IA ?
Les lecteurs réguliers savent que ma position sur cette question est complètement, entièrement, définitivement oui. Je le sais parce que cette dernière phrase est celle qu'un modèle d'IA n'écrirait pas, mais que j'ai pris beaucoup de plaisir à faire, appréciant la redondance et le choix (discutable) de violation des « règles » consistant à enchaîner ces adverbes.
L’écriture n’est pas seulement quelque chose qui aboutit au produit d’un texte final, mais une expérience en soi. S'engager dans la génération de texte assistée par automatisation (ou entièrement automatisée) via les LLM revient à nier ou à déformer cette expérience.
Je crois que l’expérience de l’écriture est en fait essentielle à notre humanité, et donc, oui, la production de texte assistée par l’IA n’est pas la même chose.
- Est-il significatif pour le directeur académique de choisir de s'engager dans la génération de textes assistée par automatisation (ou entièrement automatisée) pour la rédaction publique ?
Cela ne semble pas avoir de sens pour Provost Schnell, personnellement, qui, selon l'enquête de Dartmouth, a publié ses écrits avec succès avant l'apparition des LLM capables d'automatiser la production de textes, mais est maintenant passé à un processus automatisé.
Cela semble être très significatif pour au moins certains étudiants de Dartmouth, en particulier ceux du journal étudiant qui, contrairement au président Beilock, « ne veulent pas de plus d’IA à Dartmouth ».
Personnellement, j'ai quelques inquiétudes quant au fait que Provost Schnell soit confronté au phénomène d'« aliénation de soi » où son choix d'automatiser des parties importantes de son travail pourrait supprimer le tissu conjonctif qui rend notre travail significatif et même agréable. J'ai été témoin de cela chez d'autres. C'est un réel danger.
- Lorsque les autorités institutionnelles publient des travaux sous leur nom, doivent-elles divulguer l’utilisation de l’IA ?
Je pense que la réponse facile à cette question est incontestablement, entièrement, incontestablement, oui.
Si cela doit désormais faire partie de la pratique régulière du leadership universitaire, ils doivent aux communautés qu’ils servent une totale honnêteté quant à la manière dont les communications qu’ils soutiennent ont été produites.
Il est possible que la production de texte assistée par l'IA se normalise dans ces espaces, en particulier lorsqu'il s'agit du type de déclarations passe-partout auxquelles nous nous attendons dans des contextes bureaucratiques, mais je dois dire que si j'étais l'un de ces étudiants journalistes de Dartmouth et que je savais que le prévôt avait utilisé l'IA pour répondre à nos demandes, je serais plutôt glacial à ce sujet.
- Est-ce de l'hypocrisie de la part du prévôt Schnell ?
Moins d'une semaine avant l'appel du président Beilock en faveur de davantage d'IA à Dartmouth, L'Atlantique a publié un article de John Paul Rollert, instructeur à la fois à Harvard et à la Booth School de l'Université de Chicago, intitulé « Une société de tricheurs », dénonçant les étudiants qui utilisent l'IA comme « rogner sur les raccourcis », qualifiant ces choix non seulement de problème de tricherie, mais de véritable désastre moral.
Il est possible que nous puissions considérer l’utilisation de l’IA par le prévôt Schnell comme un exemple positif de l’appel du président Beilock en faveur de « plus d’IA ». Voici un professionnel établi et accompli qui a prouvé ses capacités sans l'aide de l'automatisation de l'IA en utilisant les outils pour produire du texte plus efficacement.
Les étudiants, en revanche, sont des apprenants qui n'ont pas encore prouvé qu'ils ont développé les capacités que possède déjà le Provost Schnell, le jugement nécessaire pour demander un texte généré par l'IA et ensuite le soutenir avec confiance comme le reflet de ses propres pensées, sentiments et communications.
Je m'inquiète d'accepter ce type de cadrage, que l'IA en tant qu'outil soit quelque chose dans lequel vous pouvez gagner votre place et que les établissements puissent naviguer confortablement dans des espaces où l'utilisation de l'IA est interdite aux étudiants mais autorisée aux professeurs lorsqu'ils produisent le même genre d'artefact écrit (essais, recherche, opinion, etc.).
J'ai soutenu que le « pire » cas d'utilisation de l'IA générative est l'écriture, en raison de la façon dont la production automatisée de texte déforme inévitablement le processus d'écriture. et l'expérience de l'écriture. Et ce qui se passe à Dartmouth me suggère que la signification de l’externalisation de ce travail humain n’a pas été suffisamment prise en compte par ceux qui invitent davantage d’IA dans leur institution.
Je pense en fait que supprimer le Provost Schnell dans le but de tenter à court terme d'apaiser le mécontentement des étudiants serait une erreur, car ce qu'il offre est une opportunité pour la communauté de discuter de ce qu'elle apprécie et pourquoi.
Il y a une invitation et une opportunité ici. Dartmouth devrait s'en emparer.
