L’utilisation quotidienne de l’intelligence artificielle (IA) a été normalisée dans la vie quotidienne de millions de personnes: de l’achat à la préparation de recettes ou à des procédures officielles. Cependant, un cas récent en Espagne a mis sur la table les risques de déléguer des décisions juridiques et économiques dans ces outils sans supervision professionnelle.
Un homme de 60 ans résidant en Espagne a demandé à Chatgpt comment il pouvait traiter sa retraite anticipée et calculer le montant de sa pension. L’IA lui a assuré que, en vertu d’une prétendue disposition de «Cuadgesimosétima» de législation espagnole, il avait droit à un avantage mensuel de 800 euros. Le citoyen, qui fait pleinement confiance à la réponse, a soumis la demande à la suite des indications sans consulter la sécurité sociale ou un avocat.
La surprise est venue avec la résolution officielle: la pension reconnue n’était que 200 euros par mois, soit 25% de la base réglementaire. La disposition citée par l’IA n’existait pas dans les réglementations espagnoles.
L’erreur irréversible de faire confiance à l’IA
Selon Ignacio de la Calzada, un avocat du travail connu dans les réseaux sociaux sous le nom Un oncle légall’erreur ne s’est pas réglée dans l’administration, mais après avoir pris les indications valides inventées par l’outil OpenAI.
« Le problème est que Chatgpt a cité des articles et des lois qui n’ont jamais fait partie du système juridique espagnol », a déclaré l’expert. En outre, il a averti que la correction de ce type de résolutions est presque impossible, car la demande soumise était ajustée aux réglementations réelles et les calculs de sécurité sociale sont corrects.
Limites de l’intelligence artificielle dans les procédures juridiques
L’affaire met en évidence les limites de l’IA lors de l’interprétation des réglementations du travail et de la sécurité sociale. Bien que des plateformes telles que ChatGPT ou Google AI puissent être utiles pour écrire des textes ou résoudre des doutes généraux, ils ne remplacent pas le travail d’un avocat ou de l’administration compétente.
De plus, les modèles d’IA peuvent donner des réponses contradictoires en fonction de la façon dont la question est posée et, dans de nombreux cas, inventer des articles ou des dispositions non existants, un phénomène appelé hallucination.
Le chatppt est un chatbot IA qui utilise des modèles de langage pour comprendre et générer du texte en conversation, comme si vous parliez à une vraie personne. / Frank Rumpenhorst / DPA
Un avis de citoyenneté
L’intelligence artificielle est venue à rester et de plus en plus d’administrations et les entreprises l’incorporent pour accélérer les procédures. Cependant, les experts recommandent toujours de vérifier les informations avec des sources officielles et, en matière juridique, de se rendre chez des professionnels spécialisés.
Comme résumé par la route: « Chatgpt a foiré. Et maintenant, cet homme devra vivre avec une pension de 200 euros à vie. »