Les risques associés à l’intelligence artificielle sont bien documentés : atteintes à la vie privée, vol de propriété intellectuelle ou remplacement massif du travailleur humain, pour n’en citer que quelques-uns. Mais Pilar Manchón, experte en IA chez Google, en souligne une autre : la « bêtise humaine ». Pour Manchón, il s'agit du plus grand risque à prendre en compte lors de la réglementation de cette technologie, comme l'a indiqué ce mardi lors du panel « L'état de l'IA générative dans l'entreprise : décidez maintenant de la prochaine » organisé dans le cadre du forum, organisée à New York par EL PAÍS et la Chambre de Commerce Espagne-États-Unis.
« Nous savons que nous irons si loin et si vite parce que nous avons le contrôle. C'est donc à nous de veiller à prendre les mesures nécessaires et à prendre les précautions nécessaires pour utiliser l'IA de la manière la plus constructive, juste et appropriée », a expliqué Manchón, directrice principale de l'ingénierie, stratégie de recherche sur l'IA chez Google, lors de son discours. intervention lors de l'événement parrainé par DLA Piper, Iberia, Inditex, Indra, NTT Data et Total Protect en collaboration avec l'Organisation des États ibéro-américains (OEI). L’expert a également souligné que « l’IA n’est qu’un outil, c’est un moyen pour parvenir à une fin ». Ce sont donc les humains qui décident comment ils l’utilisent, pour le meilleur ou pour le pire. « Dans ce domaine, je dirais que nous sommes nos meilleurs alliés, mais aussi nos meilleurs et nos plus dangereux ennemis », a-t-il ajouté.
Pour faire face à ce risque et à d'autres, Manchón considère qu'un cadre réglementaire commun est nécessaire, combinant ceux déjà en place en Europe et aux États-Unis, entre autres. « Différentes sociétés, en Europe, aux États-Unis ou en Asie, auront des interprétations différentes du niveau de risque que nous voulons prendre et du degré de sensibilité de certaines données, de certaines applications, de certaines choses. Nous devons donc trouver un moyen de rendre compatibles les différents cadres juridiques qui se développent en Europe, aux États-Unis et dans d’autres parties du monde. Et nous devons parvenir à une compréhension selon laquelle la mobilité et le caractère éphémère enrichissent notre monde », a-t-il déclaré.
Il s’agit de trouver « l’équilibre entre risque et valeur », a souligné Domingo González, directeur de l’innovation informatique chez Nestlé pour l’Amérique du Nord. « Et en fonction du risque, certaines garanties et certaines conformités doivent être respectées », a-t-il déclaré. Une partie de ces garanties peut être assurée par l’éducation : « Chaque fois que nous mettons en œuvre des outils d’IA générative chez Nestlé, nous consacrons beaucoup de temps à la formation, en apprenant aux gens comment utiliser l’outil, comment lui parler, comment en tirer de la valeur. » « En pensant au niveau d'un pays, nous devons enseigner la même chose aux citoyens », a-t-il ajouté.
« Je pense que nous savons tous que l'IA est trop importante pour ne pas la réglementer, mais il est également important de ne pas la réglementer de manière excessive », a averti Manchón, reconnaissant la nécessité de trouver le « juste équilibre » auquel faisait référence González. « Il est également important de veiller à ne pas réglementer la technologie, mais plutôt ses applications, car la technologie n’est ni bonne ni mauvaise, ce qui compte c’est la manière dont elle est utilisée, et c’est à nous de décider comment nous l’utilisons. » ajouta Manchón.
De son côté, Mariano Jabonero, secrétaire général de l'OEI-Organisation des États ibéro-américains, a souligné lors d'un deuxième panel axé sur l'intelligence artificielle, que la réglementation de cette technologie doit également donner la priorité à la protection de la propriété intellectuelle. « Nous avons créé une chaire spécifique sur le sujet car s'il y a eu un fort pillage dans la région du patrimoine physique, qui est historique en plus, maintenant on constate un pillage du travail des créatifs qui en vivent, qui sont complètement non protégé. Nous devons faire pression sur les gouvernements dans ce sens car cela fait partie de la richesse de la région », a-t-il prévenu.
L'IA pour tous
Lors du deuxième panel sur l'IA, les utilisations possibles de l'IA dans des secteurs tels que l'éducation, la science et la culture ont également été discutées. Mais Carme Artigas, coprésidente de l’organe consultatif sur l’IA aux Nations Unies, et Jabonero, ont souligné l’importance des outils qui doivent atteindre tous les pays, et pas seulement les plus riches.
« Nous devons compenser les grandes différences entre le nord et le sud du monde », a déclaré Artigas. « Parmi les 100 supercalculateurs que compte le monde, il n’y en a pas un seul dans les pays du Sud. « Nous sommes dans une bataille géopolitique pour le contrôle des matières premières, des chips… Nous ne voulons pas d'un nouveau technocolonialisme, nous voulons que l'Amérique latine et l'Afrique soient capables de générer leurs propres solutions avec les outils que le Nord peut fournir ». « , a-t-il ajouté.
