Deux réflexions de Yann le Cun dans cet échange qui précisent ce qu'il sous-entend, à son niveau d'expertise, par "conscience". Ce qui implique de savoir et de définir le plus exactement possible ce qu'on entend par sous ce terme, c'est à dire d'avoir accès à la connaissance la plus approfondie des niveaux d'organisation, qui se passe des desiderata humains, et de son plus redoutable vecteur, le langage, qui représente l'un des outils de socialisation via la communication entre les individus, le plus puissant, unique, mais qui est également l'un des plus limitants si on n'y prend pas garde (raisonnements erronés, théories fausses, biais cognitifs,...).
La conscience ce n'est pas uniquement être en état de veille, de lucidité, avoir l'impression de maîtriser et de décider, c'est aussi comprendre et admettre qu'une somme considérable de mécanismes inconscients, ceux qui opèrent dans l'ombre de notre inconscient cognitif, est en oeuvre. C'est un ensemble très complexe, c'est un tout, auquel, dans cet état de veille, nous n'avons accès qu'à la partie, très réduite, émergée.
Yann le Cun sait s'entourer de chercheurs tels Stéphane Dehaene pour poursuivre ses investigations et ses constructions.
Une machine intelligente, dotée de sentiments, vraiment ? Mais à quelle échéance ?
Yann Le Cun : C’est très difficile de dire combien de temps cela prendra. Mais il ne fait aucun doute pour moi qu’il y aura des machines au moins aussi intelligentes que les humains. Et, si elles ont la capacité de fixer des objectifs, elles auront aussi un équivalent de nos sentiments humains, car très souvent les émotions ne sont qu’une anticipation des résultats. Pour planifier, il faut pouvoir anticiper si le résultat sera bon ou mauvais, et c’est l’une des principales causes des émotions. En tant qu’humains, si nous prévoyons qu’une situation risque d’être dangereuse, nous ressentons de la peur, ce qui nous incite à explorer différentes options pour échapper à la situation dangereuse. Si les machines peuvent le faire, elles auront des émotions...
Il y aura certainement beaucoup de systèmes que nous qualifierons d’intelligents. Il en existe déjà, par exemple un joueur de go ou même un système de conduite automatique. Ils n’ont pas d’émotions mais, en fin de compte, si l’on veut qu’ils acquièrent un certain niveau d’autonomie et travaillent en essayant de satisfaire un objectif, alors on les dotera probablement d’un équivalent d’émotions, parce qu’ils devront être capables de prédire quel sera le résultat d’une séquence particulière d’actions...
Comment? c'est une autre histoire...
Ce qui nous conduit à Antonio Damasio:
https://www.contrepoints.org/2023/07/18 ... tot-dotees
...En synthèse, selon A. Damasio, l’apparition du système nerveux, il y a plus ou moins 500 millions d’années, a permis l’apparition de l’esprit. L’auteur désigne par ce terme l’ensemble des images mentales générées dans le cerveau par les stimuli sensoriels et les émotions. Ce que l’auteur appelle émotions sont les signaux envoyés par le corps au système nerveux central, pour renseigner en permanence sur son équilibre vital, via le système nerveux périphérique intimement mêlé à lui. Pour A. Damasio, la conscience est un état de l’esprit, enrichi par des images mentales qui indiquent clairement le lien entre l’ensemble des contenus mentaux de l’esprit et un organisme particulier. Ce sont les sentiments, nés du corps qui abrite l’esprit, qui sont à l’origine de cet enrichissement.
Cette représentation de la conscience est porteuse de deux conséquences, potentielles, pertinentes dans les réflexions sur la conscience humaine et, demain peut-être, celle des « machines » :
La conscience est une capacité que l’humain apprend au début de sa vie extra utérine
En effet, dans cette phase de sa vie, le nourrisson est soudain exposé à d’innombrables signaux visuels, sonores, tactiles, olfactifs et autres, qui s’ajoutent aux sentiments, ces signaux venus de l’intérieur du corps, qui sans doute sont là depuis bien longtemps. Vus sous cet angle, ces deux groupes de signaux sont clairement différents, et le système nerveux central est exposé à ces deux flux en permanence, à même donc, si utile, d’apprendre à les reconnaître par ce qu’on appellerait en intelligence une classification.
Bien sûr, difficile d’interroger un nourrisson pour lui demander si, et quand il découvre qu’il y a un moi et un non moi. Mais il est frappant de voir les agitations d’un nourrisson de quelques semaines lorsqu’il saisit un objet, son pied, le doigt de sa maman. Et il n’est pas invraisemblable de penser que, dans ces moments, le mélange des images mentales venues du dedans et du dehors est particulièrement intense, propice à séparer ce flux de celui, plus pauvre en stimuli externe, qui suit le biberon.
Approfondissement... comment la conscience vient à un bébé...
https://www.cerveauetpsycho.fr/sd/cogni ... i-8047.php
Quelles sont les origines de la conscience de soi – on sait qui l'on est – et comment se développe-t-elle ? Les psychologues du développement ont longtemps suggéré qu'un concept de soi commence à se manifester au cours de la deuxième année de vie, quand le jeune enfant se reconnaît dans le miroir. Cette aptitude cognitive est révélée par le test de la « tache » : on dessine une tache noire sur le front de l'enfant quand il dort, et lorsqu'il découvre son visage taché dans un miroir, il tente de l'effacer en frottant son front. Auparavant, il aurait frotté la tache sur l'image, c'est-à-dire le miroir. Ce test serait la preuve comportementale d'une conscience de soi. Cela montre que l'enfant associe l'image du miroir à son propre corps, ne la confondant pas avec celle d'une autre personne. Mais par quels mécanismes la conscience de soi émerge-t-elle au cours de la deuxième année de vie ? Nous allons voir que son développement n'est ni soudain ni spontané. Au contraire, la conscience de soi se construit progressivement à mesure que le fœtus et le bébé « expérimentent » et perçoivent leur corps. L'expérience du corps est propre à l'enfant, mais elle dépend aussi de l'environnement et surtout d'autrui....
Cette dernière étape prépare au développement de la pensée symbolique. Elle permet en particulier à l'enfant d'entrer dans la culture de l'adulte qui repose notamment sur l'enseignement et la capacité de se représenter des perceptions, croyances et pensées d'autrui (ce que l'on nomme les « théories de l'esprit »). La conscience de soi vient s'articuler aux théories de l'esprit.
Nous avons récemment comparé le développement d'enfants des régions rurales du Pacifique Sud (au Samoa) à celui des jeunes des villes dans les pays occidentaux (par exemple à Atlanta). Nous avons montré que, quel que soit l'environnement socioculturel, le développement social et cognitif de l'enfant est semblable à celui que nous venons de présenter. Peut-être existe-t-il un ordre universel – en cinq étapes – au développement de la conscience de soi et des autres ?
Article complet:
Quand bébé prend conscience de lui.pdf
Ce qui laisse très perplexe et dubitatif l'individu lambda, non spécialiste, devant l'ampleur des défis évoqués par Yann le Cun.
...Mais la seule réponse que je vois est un plan sur la comète : "Yann LeCun : Not yet, but it will happen." Je n'ai rien vu sur comment ça pourrait arriver, ni qu'est-ce qui indique qu'on s'en approcherait, ni comment on le saurait. Ou alors : "And if they have the ability to plan and set goals, they'll also have the equivalent of feelings, because very often emotions are just an anticipation of outcomes...". Qu'est-ce qu'il en sait ? On peut donner des buts à une IA, et même la faculté de discerner des buts secondaires, ça ne lui donnera pas une conscience, en tout cas ça ne permettra pas en soi de la mettre en évidence...
Nous ne sommes pas des chercheurs avec un (très) haut niveau de haute spécialisation, ce qui indique que nous n'en savons rien et que nous ne pouvons pas prétendre que c'est impossible parce que beaucoup d'éléments d'appréciation nous échappent.
Vous ne pouvez pas consulter les pièces jointes insérées à ce message.
praedicator veridicus, inquisitor intrepidus, doctor egregius
