La professeure, docteure et chercheuse Roxana Daneshjou est une référence actuelle projetée vers le futur. Médecin dans une clinique de Palo Alto (non loin de l'Université californienne de Stanford où elle a été formée), et en même temps experte dans l'application des modèles d'IA dans sa spécialité particulière, la dermatologie, et dans la santé en général, avec de nombreux articles scientifiques publiés sur ses promesses et ses dangers.
Les profils comme le vôtre, qui combinent pratique de la médecine et recherche en IA, ne sont pas encore courants…
J'ai étudié la bio-ingénierie à l'université et déjà à l'époque, j'étais intéressé par l'utilisation de la technologie pour améliorer les soins de santé. Lorsque j’ai découvert l’apprentissage profond et les premières formes d’IA, j’ai réalisé que la dermatologie étant très visuelle, la vision par ordinateur pourrait avoir un impact important sur notre domaine. C'est pourquoi je voulais comprendre comment les modèles sont construits et testés, et comprendre les aspects techniques tout en pratiquant la médecine. C'est quelque chose qui m'aide à comprendre les problèmes du monde réel et à réfléchir à la manière dont nous pouvons utiliser la technologie pour les résoudre.
Y a-t-il également des attentes excessives dans ce domaine ?
Tout ce qui voudrait dire qu'on va remplacer les médecins peut être envisagé [abreviatura en inglés de hipérbole, que ha pasado a la jerga tecnológica como sinónimo de reacción emocional exagerada]. Mais il existe également de nombreuses opportunités, comme des outils d’aide aux tâches administratives ou à la prise de décision. Beaucoup, s’ils sont testés correctement, seront utiles.
Lesquels ont le plus de potentiel ?
Par exemple, le modèle qui peut écouter la conversation entre le médecin et le patient puis joindre automatiquement la documentation médicale nécessaire. Cela permettrait aux professionnels de santé de passer plus de temps avec le patient au lieu de se soucier de la paperasse. Les outils qui visualisent des images telles que des radiographies ou des IRM sont également intéressants pour aider à identifier les maladies et aider le médecin qui lit ces images. Il existe bien d’autres possibilités, mais le plus important est que tout soit validé et cela nécessite des essais cliniques prospectifs pour suivre les patients afin de s’assurer qu’il n’y a pas d’effets nocifs et que tout fonctionne bien. Des évaluations sont également nécessaires pour voir comment ces outils fonctionnent dans le monde réel.
Je suis préoccupé par les applications que les patients utilisent directement. Par exemple, en dermatologie, nous avons vu des « applications » mobiles prétendant diagnostiquer les cancers de la peau. La plupart d’entre nous ne savent pas s’ils fonctionnent, s’ils ont été testés ou validés.
Certains de ces outils pourraient-ils être dangereux ?
Je suis préoccupé par les applications que les patients utilisent directement. Par exemple, en dermatologie, nous avons vu des téléphones portables prétendant diagnostiquer les cancers de la peau. Pour la plupart d'entre eux, nous ne savons pas s'ils fonctionnent, s'ils ont été correctement testés ou validés, mais ils peuvent être facilement téléchargés et peuvent potentiellement causer de nombreux dommages s'ils ne parviennent pas à rassurer le patient ou à l'inquiéter inutilement. Il n’existe pas de modèles dermatologiques capables d’identifier ces éléments de manière autonome, sans qu’un médecin examine les images.
Faut-il toujours avoir la surveillance d'un médecin ?
Certains modèles d'IA en dermatologie peuvent aider le médecin de premier recours et augmenter sa précision, mais l'intuition et la sagesse de ce médecin ont toujours la décision finale. Par exemple, une étude a montré comment ces outils peuvent améliorer la capacité des médecins généralistes à détecter les maladies de peau. Que ces outils aident le médecin généraliste à faire un meilleur travail et à découvrir qui a besoin d'un rendez-vous peut être très utile.
L’IA va-t-elle détruire des emplois ?
Je ne le pense pas, du moins dans ce secteur et pour le moment. Il sera intégré au système de santé pour travailler en collaboration avec les professionnels de la santé, mais nous sommes loin d’avoir la précision nécessaire pour qu’il remplace les médecins et les professionnels de la santé.
Il existe des exemples impressionnants d'IA, mais nous en sommes encore aux premiers stades de la recherche de la manière de l'appliquer aux soins des patients.
Il ne les remplacera peut-être pas, mais les obligera-t-il à se mettre à jour et à apprendre à l'utiliser ?
Oui, ils devront s'entraîner. On dit toujours que les médecins seront remplacés par d’autres médecins, ceux qui comprennent et savent utiliser la technologie. Il est passionnant de voir à quel point les nouvelles générations de médecins et de professionnels de santé s’intéressent à ces outils. Il faut faire davantage, mais il existe déjà une certaine conscience qu’ils seront quelque chose d’important, que nous devons les comprendre et contribuer à leur construction.
Et les ingénieurs ? Vont-ils devoir se former à l’éthique et à la médecine ?
Justement, en tant que personne travaillant entre cette partie technologique et la pratique de la médecine, je trouve extrêmement important, lors de la conception d'un algorithme, de comprendre le problème que l'on essaie de résoudre et comment il se manifeste dans le monde réel. Plusieurs études montrent déjà que, si l’on ne prend pas en compte les préjugés et le facteur social, on peut construire des algorithmes qui nuisent aux populations vulnérables.
Pouvez-vous donner un exemple?
Un problème très clair en dermatologie est que de nombreux modèles ne sont pas formés avec des images de maladies de peau brune et noire, et c'est pourquoi ils sont très mauvais pour identifier les maladies et les cancers chez ces patients. C'est un cas de parti pris dans leur conception, car ils peuvent le faire avec des peaux blanches.
Les patients sont-ils prêts à comprendre que le Dr ChatGPT n’existe pas ?
Il y avait déjà de la désinformation sur Google, évidemment, mais lorsque vous parlez à ChatGPT, il peut vous donner des informations erronées ou avoir des hallucinations en disant des choses qui ne sont pas vraies. C'est un gros risque avec ce type de modèles de langage.
Est-ce un problème pour la vie privée si des entreprises comme Google ou Microsoft s’y joignent ?
La vie privée des patients est extrêmement importante et toute entreprise travaillant dans ce domaine doit en être consciente et la protéger. Comment les informations sur les patients vont être utilisées, qui va y avoir accès… tout doit être traité avec un maximum de transparence.
Doivent-ils être informés si l’IA est utilisée dans les diagnostics ?
La transparence est également nécessaire ici, les patients doivent savoir exactement quand l’IA est utilisée et avoir le droit de demander un deuxième avis humain, sans IA.
Et pourront-ils avoir ce deuxième avis ?
Voilà une bonne question. Je pense que nous ne le savons pas encore. Par exemple, certaines compagnies d’assurance utilisent l’IA pour refuser une couverture, et jusqu’à présent, il n’existe aucun mécanisme permettant d’annuler ces refus générés par l’IA. En fait, il existe déjà des litiges à ce sujet aux États-Unis.
Existe-t-il un risque d’avoir deux niveaux de couverture santé, l’un avec accès aux médecins humains et l’autre avec accès uniquement aux modèles d’IA ?
Cela peut poser problème dans les pays sans système de santé public universel, comme les États-Unis, c’est-à-dire que les populations vulnérables, sans accès aux soins médicaux, bénéficient d’une sorte d’évaluation par l’IA, tandis que les personnes ayant des ressources ont accès à la meilleure couverture. La technologie peut être un luxe réservé aux personnes ayant la possibilité d’y accéder, mais elle peut également être utilisée pour fournir des soins pires que les interactions humaines reçues par les personnes qui n’y ont pas accès.
Malgré ces précautions, sommes-nous au début d’une révolution ?
Je crois que l’IA va changer les soins de santé et j’espère pour le mieux. Dans le meilleur des cas, nous réduirons la charge des professionnels, nous les aiderons à offrir des soins plus précis et ponctuels, équitables et non préjudiciables aux patients, avec un meilleur résultat. C'est l'espoir. Le pire des scénarios, ce sont des outils qui ne fonctionnent pas ou qui sont biaisés et qui finissent par nuire aux populations vulnérables avec des soins de qualité inférieure… Concernant l'avenir, je ne suis ni optimiste ni pessimiste, je suis réaliste. Je vois les opportunités et je suis conscient des dangers potentiels.
