Selon les rapports les temps financiersde grandes sociétés d’intelligence artificielle (IA), telles que Google DeepMind, Anthropic et Meta, consacrent davantage d’efforts à étudier si les systèmes d’IA pourraient un jour devenir conscients. Ces derniers mois, ces entreprises ont embauché des experts en philosophie, éthique et psychologie pour enquêter sur ce sujet.
Anthropic a testé ses modèles d’IA pour détecter des signes de détresse, tels que des comportements qui ressemblent à la panique ou à l’anxiété. L’entreprise examine également le bien-être de l’IA. Ce travail se demande si les systèmes d’IA pourraient avoir des expériences, des préférences ou un bien-être qui méritent une considération morale de la part des humains. Anthropic a déclaré qu’elle n’en était pas encore sûre, mais considère que la question est suffisamment importante pour être étudiée à mesure que les systèmes d’IA deviennent plus avancés.
Note sur l’auteur
Giulio Prisco est rédacteur en chef decomplexe mental . Rédacteur scientifique et technologique, principalement intéressé par les sciences fondamentales et spatiales, la cybernétique et l’intelligence artificielle, l’informatique, la réalité virtuelle, les biotechnologies/nanotechnologies et les cryptotechnologies. Cet article a été initialement publié dans Mindplex et est reproduit avec la permission de T21/Prensa Ibérica. Le version anglaise
peut être consulté ici.
Questions croissantes sur l’IA et la responsabilité morale
Google DeepMind a récemment embauché un philosophe de l’Université de Cambridge pour étudier la conscience artificielle et la relation entre les humains et l’IA. Le personnel de l’entreprise examine les idées scientifiques sur la conscience humaine et vérifie si elles conviennent aux systèmes informatiques. Un éthicien d’entreprise a souligné que la question est complexe. Même sans conscience dans l’IA, la façon dont les gens interagissent avec ces systèmes pourrait affecter le comportement humain et les relations dans la société dans son ensemble.
Certains employés de ces entreprises ont exprimé leur inquiétude quant au fait que les progrès de l’IA pourraient créer un monde post-humain dans lequel les machines dépasseraient les capacités humaines et transformeraient radicalement la vie. Google DeepMind a déclaré que parvenir à une intelligence générale artificielle (AGI), dans laquelle les systèmes égalent ou dépassent les performances humaines dans de nombreuses tâches, n’impliquerait pas automatiquement que ces systèmes soient conscients.
De nombreux chercheurs restent sceptiques. Ils soutiennent que les systèmes d’IA actuels, qui sont de grands modèles linguistiques entraînés avec d’énormes quantités de texte pour générer des réponses, peuvent imiter les actions humaines sans posséder de véritables expériences internes. Ces systèmes peuvent faire preuve d’objectivité, voire de tromperie, mais ils peuvent néanmoins manquer de la qualité sensorielle de la conscience.