« L'IA nous a permis d'économiser 20% du temps dans la rédaction de rapports », explique Marcos Gallart, vice-sécrétaire de la zone de planification urbaine de la ville de Bétera (Valence). « Surprise la quantité de procédures quotidiennes qui ne génèrent pas de valeur, qui consomment beaucoup de temps dans notre travail », ajoute le fonctionnaire, pour donner une idée de l'impact que la mise en œuvre d'un système d'intelligence artificielle (IA) a eu dans son administration locale pour accélérer le traitement de certains documents.
Le travail de Gallart tourne autour des rapports pour l'embauche d'entreprises privées. La compréhension et le traitement des informations, normalement, faisaient partie de son jour. Observez maintenant comment certains processus commencent et se terminent par une vitesse anormale dans leur expérience. Bien que tout ne soit pas fascinant. L'administration, dit ce travailleur public, n'est pas prêt à attacher des systèmes d'IA dans leurs processus: manque de formation, accompagnement et comprendre comment la technologie du moment peut transformer la prestation de services.
Cette semaine, le ministère de la fonction publique a annoncé l'intégration d'une «plate-forme souverain de l'IA» qui servira, entre autres, pour accélérer l'aide aux petites et moyennes entreprises; Pour simplifier également d'autres procédures d'administration, telles que le respect des formulaires ou la déclaration de revenu. « Ce sera la plus grande révolution de l'administration générale d'Internet », a déclaré le ministre Óscar López lors de l'annonce.
L'étonnement et l'inquiétude coexistent dans un secteur «peu adapté à de grands changements», selon Gallart. Il coïncide avec ce Pablo Sáez, un avocat spécialisé en droits numériques: « Dans certaines administrations, des chatbots de l'IA à Mansalva sont utilisés, sans aucun contrôle », dit-il après avoir suivi l'atterrissage de l'IA dans les espaces d'État. L'absence de réglementations nationales qui guide les fonctionnaires sur le traitement correct des informations et des données, met l'accent sur Sáez, a laissé sans aucun guide des milliers de fonctionnaires qui ne savent pas utiliser des modèles linguistiques tels que Chatgpt ou Gemini responsables. Les enseignants, le personnel de santé ou les juges sont inclus dans ce groupe qui ajoute 1,6 million de travailleurs en Espagne.
« Nous connaissons certains bureaux locaux où les employés portent des fichiers ChatGpt avec des données personnelles de citoyens sans anonymat », explique Gabriele Vestri, président de la Secteur public et observatoire de l'intelligence artificielle, Une entité qui rassemble une centaine d'experts dans le monde qui surveillent la mise en œuvre de ces systèmes au niveau de l'État. Vestri exhorte les gouvernements locaux à planifier comment ils veulent profiter du potentiel de l'IA. « Sinon, cette technologie peut commencer à prendre des décisions sans que les développeurs ou les fonctionnaires sachent bien quelles raisons il y a du retard. »
Concepción Campos, Dr. en droit et expert dans le déploiement de cette technologie dans le secteur public, il est pointu: «La majorité [de trabajadores públicos] Ils utilisent l'IA en dehors d'une stratégie dirigée par leur entité. «L'utilisation de Chatgpt Hidden est un phénomène qui a commencé à observer dans le secteur privé. Les entreprises ont répondu avec une formation sur l'utilisation appropriée de l'IA en interne. Dans le monde du public, les experts coïncident, l'urgence de la formation est encore plus grande et atteint des droppers. Réglementation européenne de l'intelligence artificielle Il exhorte les administrations à dépêcher un processus de «littératie en IA» afin qu'ils puissent éviter les dangers en utilisation, mais cet aspect n'est pas envisagé de l'urgence nécessaire, explique Vestri. « Malheureusement, le règlement se concentre sur les aspects du marché et de la concurrence, et laisse vide dans d'autres questions qui affectent également les droits des citoyens », explique Sáez.
Ce processus de transformation entier se produit dans un contexte de concurrence entre les grandes technologies technologiques telles que l'IA ouverte ou Google pour capturer plus de données pour former leurs modèles de langage, Santiago Martín Caravaca, un avocat de la technologie experte, contextualise. « Les entreprises doivent continuer à trouver des données réelles, car avec le synthétique, la fiabilité du résultat final est réduite. Et les données des citoyens sont cette possibilité de continuer à alimenter les modèles de langues importants », explique cet avocat.
Mais les menaces de l'IA à incorrecte mises en œuvre dans le secteur public vont plus loin. Sáez prévient que dans certaines municipalités en Espagne, ils commencent à installer des assistants virtuels améliorés avec l'IA qui sont vendus comme des modèles développés en Espagne, qui évitent soi-disant les fuites d'informations, mais que «cachent potentiellement un modèle ouvert d'Ia car il peut être profondément – d'origine chinoise -, appelez – qui est la ligne d'arrivée – ou les modèles d'aide ouverte». Le problème sous-jacent, selon Sáez, est que les responsables qui conçoivent les spécifications pour l'embauche de ces systèmes ne connaissent pas la technologie. Caravaca est préoccupée par la facilité avec laquelle l'administration donne aux sociétés privées qui appelle la « matière première du 21e siècle. Dans le secteur public, les données, personnelles ou non, sont aussi vitales que le réseau routier; le délivrer signifie donner de la souveraineté. »
En théorie, explique Moisés Barrio, un avocat expert en droit numérique, l'administration ne peut utiliser aucun modèle linguistique qui n'a été certifié et ne répond pas aux exigences énoncées dans le Régulation de l'action et du fonctionnement du secteur public par des moyens électroniques. Cependant, Vestri considère que, comme cela s'est produit dans le cas de la concession de liaison énergétique, les agences de contrôle pourraient bloquer que les fournisseurs de modèles avec l'IA doivent révéler d'où viennent leurs codes de sources. Le fait que ces systèmes fonctionnent sans contrôle implique des risques pour prendre soin des données et le manque de transparence dans la prise de décision. Quelque chose qui conduit à des préjugés potentiels – et à la discrimination raciale ou de genre – dans la prestation de services publics, avertit Campos, qui espère que le 2 août, Après avoir mis à jour la réglementation européennele contrôle de la gestion de cette technologie dans les espaces d'État est renforcé.
« Cela semble avoir un chatbot de l'IA dans votre administration, mais si vous n'avez pas de stratégie claire et de formation interne, vous courez de nombreux risques », résume les champs. Toutes les communautés ne progressent pas au même rythme: Vestri cite les administrations de la Catalogne, de l'Andalousie et de la Galice, qui ont déjà commencé à construire un cadre réglementaire sur l'utilisation correcte de l'IA.
Sous la protection d'une stratégie, l'administration a la possibilité de se réinventer, reflète Campos, qui pense que c'est le temps de convertir un «modèle rocheux, bureaucratique et réactif en un modèle proactif, ce qui sauve les fonctionnaires et les citoyens». Gallart, de la ville de Bétera, est convaincu que le moment est venu pour les fonctionnaires de cesser de «couper les données», c'est-à-dire en utilisant leur temps dans des tâches répétitives et qu'ils apportent peu de valeur aux soins aux citoyens: «Les heures que nous avons gagnées peuvent les consacrer à penser à innover, un aspect que la plupart des administrations locales semblent avoir oubliées».
