Peut-être que tu n’étais pas né et Ramon López de Mántaras J’ai déjà étudié le intelligence artificielle. L’ingénieur catalan électrique, informatique et physique étudie une discipline scientifique à la mode depuis plus de 50 de ses 72 ans, ce qui fait de lui un pionnier en Espagne. Il est actuellement professeur de recherche émérite au Centre supérieur de recherche scientifique (CSIC), dans lequel il a fondé son Institut de recherche sur l’intelligence artificielle.
Auteur du livre 100 choses à savoir sur l’intelligence artificielle (Cossetània Edicions in catalan et Lectio Ediciones en espagnol), López de Mántaras met en vedette vendredi une nouvelle édition du forum Cornellà Debates créé avec le journaliste Xanta Llavina. Avant, assistez au journal.
– À la fin de 2022, le lancement de Chatgpt a popularisé l’IA génératrice jusqu’à ce que le licenciement entre les entreprises et les pays. Cependant, il a souligné que scientifiquement, il voit un intérêt « rare ». Parce que?
La grande question scientifique sur l’IA est de savoir si quelque chose de non-biologique en tant qu’ordinateur peut être vraiment intelligent. Nous ne parlons pas d’un spécialisé dans les tâches concrètes, mais dans celle qui comprend la langue et a un modèle du monde qui l’entoure, qui est des années-lumière de modèles de langue tels que Chatgpt. Yann LeCun (scientifique en chef de la Meta et qui a assisté aux séminaires de López de Mántaras en 1986, alors qu’il s’agissait d’un professeur invité à l’Université Pierre et Marie Curie de Paris) avertit également que ces modèles ne nous rapprochent pas de celle de celle forte ou générale, mais ne nous éloigne pas de la voie à la voie objective qui ne considère pas l’IA comme quelque chose de scientifique et non commercial.
– Les géants technologiques promettent que nous nous rapprochons de la création d’une IA avec une cognition égale ou supérieure à celle des humains. Est-ce viable ou est-ce de la fumée promotionnelle? Où est la frontière entre la compréhension et la simulation?
Ils créent l’illusion que le général So-Called approche à grands pas pour attirer les investisseurs et réévaluer leurs actions. C’est un pur intérêt économique.
Si nous considérons l’IA générale comme celle capable d’exécuter des centaines ou des milliers de tâches avec un niveau de bonne qualité, je pense que cela peut être quelque peu possible à long terme. Si, d’un autre côté, nous le définissons comme une IA avec une conscience indiscernable de l’humain, alors je ne vois pas cela du tout possible. Je pense que les états mentaux sont complètement liés au fait que nous vivons, les téléphones portables, basés sur la chimie du carbone. Nous avons un cerveau extraordinairement complexe en raison de millions d’années de développement. Les machines sont basées sur la programmation informatique, les transistors avec une couche de logiciels qui traitent certains et zéros, il semble donc impossible que de là soit né une conscience. Il est presque ridicule de comparer les deux choses.
Nous avons un cerveau super complexe en raison de millions d’années de développement. Les machines sont basées sur des transistors avec une couche de logiciels qui traitent certains et zéros. Il est presque ridicule de comparer les deux choses.
– Malgré cela, lorsque nous interagissons avec une machine qui semble capable de raisonner, nous avons tendance à croire qu’il y a une conscience là-bas. Parce que?
Les humains ont toujours eu tendance à anthropomorphiser les machines, à regarder ce qui est arrivé à Tamagotchis (rires). Parce que dans ce cas, il est multiplié par mille. Chatgpt répond avec précision et autorité, mais régurgite ce qu’il sait déjà et ne raisonne ni ne comprend rien. Cette tendance à croire que les machines sont conscientes est un problème terrible avec beaucoup plus d’implications que nous ne voyons maintenant. Imaginez qu’une personne s’est suicidée après être allé dans une IA génératrice en tant que psychologue, comme cela s’est produit aux États-Unis, et que les entreprises disent que la machine est au courant d’esquiver sa responsabilité. C’est dangereux, vous devez donc réglementer pour que l’IA ne soit jamais responsable, mais les humains qui l’ont développé.
– Demis Hassabis, directeur général de Google Deepmind, a déclaré que les grands modèles multimodaux d’IA génératif (capable de traiter du texte, des images, de l’audio et de la vidéo) seront un élément fondamental de l’atteinte du général, mais pas assez. Tu as souligné Que pour que l’IA ait du bon sens et puisse comprendre le monde qui l’entoure, il devrait avoir un corps physique. La porte ouvrirait-elle cette combinaison à l’IA peut-elle apprendre de manière autonome?
Pourrait être. Il y a des années, avant que Hassabis et LeCun, qui explique que l’apprentissage de la relation de cause à effet, par exemple ce qui se passe lorsque vous prenez un objet et le jetez au sol, est crucial pour avoir un modèle mondial. Ma thèse de l’année 1977 était déjà un algorithme d’apprentissage probabiliste lié à une main qui a saisi et classé des objets solides géométriques. Et que les capteurs tactiles étaient beaucoup moins sophistiqués que ceux maintenant. Une IA avec un corps robotique anthropomorphe pourrait interagir avec le monde similaire au nôtre. Google Deepmind et Meta ont déjà des projets dans cette direction, mais c’est un processus très long et compliqué.
Une IA avec un corps robotique pourrait interagir avec le monde similaire au nôtre.
– Jusqu’où sommes-nous de cette étape?
Nous avons beaucoup avancé en robotique: nous avons des capteurs et des ordinateurs beaucoup plus sophistiqués avec une capacité de calcul brutale. Actuellement, il existe une série de conditions qui favorisent les progrès vers un corporel, mais nous sommes encore très loin. Il pense que les humains naissent avec un développement cognitif qui nous permet de comprendre le monde, mais c’est un processus très lent. Le doute est de savoir si nous pouvons l’accélérer, permettant à un robot d’interagir, par exemple, avec un monde simulé très similaire à Real pour apprendre plus rapidement. C’est très compliqué, mais pas impossible.
– Les modèles génératifs d’IA ont évolué vers des systèmes de raisonnement de plus en plus puissants et convaincants, mais produisent également des informations de plus en plus incorrectes. Parce que? Les hallucinations sont-elles un problème sans remède?
Je pense qu’il n’a pas de solution, les erreurs sont quelque peu inhérentes au fonctionnement de Transformateurs (Architecture de réseau neuronal derrière l’IA générative). Le modèle de langue est programmé pour générer des phrases convaincantes, et non pour vérifier que ce qu’ils disent est vrai. Une autre chose est que d’autres méthodes d’IA sont intégrées pour empêcher ces hallucinations de s’engager.
Le modèle de langue est programmé pour générer des phrases convaincantes, et non pour vérifier que ce qu’ils disent est vrai.
– La vulgarisation des générateurs de texte tels que Chatgpt, Gemini ou Grok commence à remplir le site Web avec du contenu synthétique au point qu’il existe déjà des études qui indiquent que les résultats de Google ont de moins en moins de qualité et de fiabilité. Travaillez-nous vers la pollution par Internet?
Absolument, nous le voyons déjà et ira plus. Les entreprises lancent des modèles linguistiques plus grands avec plus de paramètres et hallucinent davantage. De plus, ces mauvaises informations peuvent être utilisées pour former de nouveaux programmes d’IA, qui amplifieront le problème. Internet sera dégradé, mais aussi les nouveaux modèles de langue.
L’ingénieur informatique et physique Ramón López de Mántaras, un pionnier de l’investigation de l’IA en Espagne. / Manu Mitru
– Quel impact ce modèle a-t-il sur la protection des données? Openai a reconnu qu’il est impossible de s’entraîner sans exploiter du matériel avec Droit d’auteur. Une IA générative est-elle possible sans violer le droit d’auteur?
Non, à peine, s’ils s’entraînent avec tout sur Internet, ils devraient demander la permission ou payer, et ils ne le font pas.
– Quelles avancées techniques pensez-vous qu’ils sont sous-évalués aujourd’hui par le Battage Les médias et les entreprises (comme le raisonnement symbolique, les neurosciences informatiques ou les architectures hybrides)?
Tout ce qui est connu sous le nom d’IA symbolique ou d’apprentissage par renforcement. L’IA est très large et lorsque davantage de ressources sont destinées au génératifs, ils se consacreront aux autres. Nous mettons tous les œufs dans le même panier et ce n’est pas pratique.
Nous mettons tous les œufs dans le même panier et ce n’est pas pratique.
– La recherche scientifique est-elle la terre la plus fertile pour l’IA? L’année dernière, leurs réalisations étaient déjà reconnues avec Deux prix Nobelceux de Physique et Chimie.
Certainement. (Le programme IA) AlphaFold n’est pas génératif, mais utilise 32 algorithmes d’apprentissage pour le renforcement des réseaux neuronaux. C’est un exemple parfait de grands résultats scientifiques pour d’autres méthodes. Toutes mes enquêtes ne sont pas génératives, comme dans le domaine de la robotique. Je doute qu’un modèle de langue mène à un prix Nobel.
– IA a déclenché une concurrence non seulement entre les entreprises mais aussi entre les pays. Au-delà de la lutte pour l’hégémonie technologique entre les États-Unis et la Chine, que peut apprendre l’Union européenne des deux pouvoirs?
C’est l’inverse, les États-Unis et la Chine devraient apprendre de l’UE. Même Pékin a déjà commencé à copier des parties du règlement général sur la protection des données, réglementation qui a été initialement très critiquée. Peut-être que quelque chose de similaire se produit avec la loi sur l’IA (loi qui réglemente l’IA), qui malgré les aspects critiques, je pense qu’il vaut mieux que de ne pas avoir de réglementation.
– Si j’avais une liberté totale de diriger un grand projet d’IA en Espagne avec un financement de l’État, quel serait votre principal engagement?
Je ne dis pas que la création de modèles de grande langue avec les différentes langues de l’État ne devrait pas être soutenue, mais je diversifierais et financerais d’autres approches d’IA telles que Corporal, la priorisation de l’intégration de différents modèles de mod a fait Alphafold.
Abonnez-vous à continuer à lire