Une physicienne formule mathématiquement ce qu’Einstein pressentait : la conscience précède la matière

[mathias]

J’ai acheté récemment un perceuse dopée à l’intelligence artificielle ,.!

Au début, tout va bien, elle murmure, elle , l’intelligence artificielle:
« « tout va bien Mathias, encore un effort et nous sommes arrivés à percer notre premier trou. »
Moi, dans mon for intérieur : « c’est trop cool d’être épaulé, encouragé ainsi. »

Mais au terme du 1231 e. trous, cela m’agace, je la jette à la poubelle.
Toute émue, celle-ci s’insurge : mais pourquoi ce geste Mathias ?, etc »
….
Puis aucun bruit,

J’ouvre donc ma poubelle, la perceuse git là, inanimée, inconsciente …… plus de batterie.
Sans regret, mais ému quand même.

[Jodie]

Ne pas forcer l'exclusion des émotions et des intentions de la définition de la conscience, en lui laissant ainsi une partie essentielle de ce qu'elle est pour nous, êtres humains, c'est laisser la place si cruciale (et pas toujours positive) que joue cette part de notre conscience que sont : nos motivations, nos intentions, nos émotions, nos valeurs.

C'est aussi écouter une chanson en ressentant toute une gamme d'émotions;
C'est créer, porté par nos peines et nos joies.
Ressentir l'air frais sur nos joues,un froid matin d'hiver, et ressentir... se rappeler... Vivre !

Une I.A. produit des actions, mais ne ressent rien; un tableau rempli de forme, sans couleur autre que celle que nous lui prêtons.

[Jodie]

Réagir, tel une plante au soleil, ou répondre comme une I.A., est-ce être conscient ?

[Jean-Francois]

Pourquoi préférer restreindre la définition du terme de conscience à une capacité d'analyse d'informations dépourvue d'émotions et d'intentions (bienveillantes ou malveillantes d'ailleurs), d'objectifs (bénéfiques ou néfastes), de valeurs (positives ou dévastatrices) ?

Vous trouvez qu'il plus restreignant de ne pas inclure les émotions que d'inclure les émotions? Imposer une contrainte supplémentaire à une définition est élargir la définition? Vous montrez bien vers la fin de votre message que vous cherchez à forcer l'inclusion des émotions dans la définition de conscience pour des raisons émotives (peur principalement). Vous n'analysez pas posément les choses, vous en craignez des conséquences et cela vous conduit à potentiellement nier la réalité (dans le cas où des I.A. deviendraient conscientes) plutôt que de préparer des moyens d'éviter les dérives.

Pour moi, c'est quand on impose des contrainte supplémentaire (comme imposer que la conscience doive comprendre des émotions) que l'on retreint la définition. Et ça n'est souvent pas une attitude saine que de nier la réalité au profit d'une forme d'idéologie (ex., ça peut conduire à préférer toujours plus de profits ($) au détriment de la planète).

Avec cette définition de la conscience, qu'est-ce qui nous distingue d'une I.A. intellectuellement performante ?

Plein de choses: deux bras, deux jambes, un corps vivant, les émotions (justement), etc. Ça n'est pas parce qu'une caractéristique d'une I.A. - la conscience - la rapprocherait d'une de nos caractéristiques que nous deviendrions entièrement semblables.

Pensez-vous que si une I.A. manifeste de la conscience, c'est qu'elle devient vivante? Si non, ça:

Quelle raison avons nous de nous préoccuper d'attribuer de la valeur à la vie, à la santé et au respect de l'autre (humain) si nous estimons que science sans conscience c'est quand même de la conscience, que nous sommes une machine qui en vaut une autre

C'est inutilement mélodramatique La présence d'I.A. conscientes ne changerait rien à l'importance qu'on devrait accorder (ou pas) à la vie humaine, à sa santé, etc. Il est parfaitement possible d'incorporer un fait technologique à nos lois et philosophies morales sans qu'il y ait forcément de dérapages. Mais nier la possibilité que les I.A. puissent atteindre un niveau de complexité d'analyse qui les rendraient conscientes (même sans émotions) sur la base de principes rhétoriques, c'est un peu comme nier que les bombes atomiques et à hydrogène puissent exister parce qu'elles pourraient servir à détruire l'humanité. Ces bombes peuvent détruire l'humanité, ça n'empêche pas leur existence.

Et puis, des portions d'humanité n'ont pas attendu et n'attendent toujours pas la conscience chez les I.A. pour manifester du dédain pour "la vie, [la] santé et [le] respect de l'autre (humain)": ces valeurs sont souvent mis à mal dans de nombreuses circonstances, par différentes entités (individus, sociétés, etc.). Voulez-vous des exemples de mises à pied d'humains pour des raisons de profitabilité (avec augmentation démesurée des avoirs des PDG)? Voulez-vous un rappel que de plus en plus de travailleurs ne gagnent même plus assez pour se loger ou se nourrir correctement? Voulez-vous des exemples d'industries qui ont pollué massivement l'environnement au détriment de ''la vie, [la] santé et [le] respect de l'autre (humain)"?

Autre exemple: pendant longtemps, les Noirs étaient considérés comme inférieurs aux Blancs et tout plein de bien-pensants se sont offusqués ou ont craints les conséquences néfastes qui surviendraient si on devait les traiter comme des humains à part entière (i.e., égaux aux Blancs). Ça me fait un peu penser à la crainte que vous exprimez dans votre avant-dernier paragraphe. Pour moi, il vaut mieux commencer par tenir compte des faits (les Noirs sont des humains, les I.A. atteignent (presque) des niveaux d'analyse complexes qui font qu'on peut (presque) les qualifier de conscientes) afin de déterminer la plus juste manière d'intégrer ces faits dans notre manière de voir le monde plutôt que de réagir avec bigoterie pour nier la réalité en fonctions de conséquences réelles ou supposées.

Après tout, même des conséquences néfastes pour un groupe (la perte de la capacité d'asservir les Noirs par les esclavagistes, par exemple) sont justes à un niveau moral.

Jean-François

[ABC]

Et ça n'est souvent pas une attitude saine que de nier la réalité au profit d'une forme d'idéologie (ex., ça peut conduire à préférer toujours plus de profits ($) au détriment de la planète).

Sur quelle base décider de considérer que c'est bien ou pas bien de faire toujours plus de profit (malheureusement parfois fictifs car découlant de rapports valeur/prix pas toujours pertinents fondant nos décisions d'achat) puisque ça ne peut pas être le rôle de notre conscience selon votre définition ?

Pourquoi préférer le choix idéologique d'écarter de la définition de notre conscience le rôle fondamental qu'y jouent dans nos décisions nos émotions, nos valeurs, nos intentions et nos objectifs au choix idéologique admettant au contraire qu'ils y jouent un rôle de premier plan ? Quels avantages trouvez vous au premier choix idéologique par rapport au second ?

[Jean-Francois]

Et ça n'est souvent pas une attitude saine que de nier la réalité au profit d'une forme d'idéologie (ex., ça peut conduire à préférer toujours plus de profits ($) au détriment de la planète).

Sur quelle base décider de considérer que c'est bien ou pas bien de faire toujours plus de profit [...] puisque ça ne peut pas être le rôle de notre conscience selon votre définition ?

Grossière caricature: j'ai bien dit que notre conscience reposait, au moins partiellement, sur les émotions (dont celles qui poussent à la quête irraisonnée de profits en niant les importants dégâts que cela cause). Cela parce que notre cerveau comprend des systèmes qui génèrent des comportements émotifs (et font sécréter des hormones) et que notre conscience est une résultante de l'activité cérébrale globale. Ce que je signalais surtout avec cet exemple, c'est que les émotions n'ont pas toujours des conséquences positives. Ça n'est pas pour rien que lorsqu'on cherche à comprendre quelque chose, faire moins appel aux émotions aide à limiter les biais cognitifs. Et on n'est pas moins conscient lorsqu'on le fait que lorsqu'on se laisse aller émotivement.

Par ailleurs, je ne vois pas en quoi une conscience ne ressentant pas elle-même d'émotions ne pourrait arriver pas au constat que la quête de "toujours plus de profits" est forcément voué à l'échec dans un monde aux ressources limitées. De plus, une telle conscience pourrait aussi tenir compte de l'importance émotive que les humains portent (parfois) à leur environnement.

Quels avantages voyez vous au premier choix idéologique par rapport au second ?

Décrire de manière plus adéquate la réalité observable des choses ne vous semble pas suffisant? Si les réponses d'une IA à des problèmes complexes ne peuvent être différencier de celles qu'un humain donnerait*, et si cette IA fait preuve d'une capacité de raisonnement qui ne permet pas non plus de la différencier de celle des humains, il faudrait quand même s'obstiner à dire que l'IA n'a pas une forme de conscience parce qu'elle n'a pas d'émotions? Je pense que c'est pousser la négation à un point irrationnel.

C'est pourquoi, le principal avantage que je voie est de ne pas nier une potentielle réalité: que des I.A. pourraient être conscientes même si elles ne ressentent pas les émotions. Après, cela pourrait avoir d'autres conséquences positives**: par ex., cela donnerait un argument supplémentaire à l'encadrement de l'usage de ces IA pour éviter les mauvaises utilisations.

Par contraste, je ne vois aucun avantage à restreindre rhétoriquement une définition pour faire de la conscience une propriété qui ne concernerait que l'humain (et, au mieux, quelques rares animaux).

Jean-François

* En fait, actuellement, les réponses de nombreuses IA surpassent dans plusieurs domaines celles des humains. Peut-être devrait-on plutôt dire qu'elles s(er)ont surconscientes par rapport à nous
** Dans un tout autre domaine, beaucoup plus spéculatif, ne pas restreindre la définition de la conscience pourrait nous aider à identifier des manifestations d'ET très différents de nous.

[Jodie]

C'est inutilement mélodramatique La présence d'I.A. conscientes ne changerait rien à l'importance qu'on devrait accorder (ou pas) à la vie humaine, à sa santé, etc. Il est parfaitement possible d'incorporer un fait technologique à nos lois et philosophies morales sans qu'il y ait forcément de dérapages. Mais nier la possibilité que les I.A. puissent atteindre un niveau de complexité d'analyse qui les rendraient conscientes (même sans émotions) sur la base de principes rhétoriques, c'est un peu comme nier que les bombes atomiques et à hydrogène puissent exister parce qu'elles pourraient servir à détruire l'humanité. Ces bombes peuvent détruire l'humanité, ça n'empêche pas leur existence.

Petite remarque sur la partie soulignée :

''« Confondre la faisabilité d’une arme avec la définition de la conscience, c’est réduire l’esprit à une mécanique. La bombe existe parce que la physique le permet ; la conscience, elle, ne se décrète pas par la technique. Nier cette distinction, c’est fragiliser la valeur humaine face à la machine. »

J'ai mis entre guillemet parce que c'est l'explication de l'I. A. que je n'arrivais à bien formuler.

[Jean-Francois]

J'ai mis entre guillemet parce que c'est l'explication de l'I. A. que je n'arrivais à bien formuler

Comme quoi, même une I.A. correctement promptée peut céder au mélodrame

Jean-François

[Gwanelle]

J'ai mis entre guillemet parce que c'est l'explication de l'I. A. que je n'arrivais à bien formuler

Comme quoi, même une I.A. correctement promptée peut céder au mélodrame

Jean-François

Devant les raisonnements de type "A est à B ce que C est à D" , même les humains font fréquemment ce type de réponse :

"Confondre...Nier cette distinction..."

l'IA ne fait que reproduire une réponse très très fréquente, mais non valable. seule la comparaison du rapport entre A et B avec le rapport entre C et D compte .
Objecter que A n'a rien à voir avec C , ou que B n'a rien à voir avec D est fréquent (chez les humains) mais incorrect.

https://fr.wikipedia.org/wiki/Analogie

Spoiler

Afficher

Le raisonnement par analogie est un raisonnement par association d'idées, combinaison et synthèse.

Il ne faut pas confondre l'analogie avec les cartes mentales, qui sont basées sur des conceptions hiérarchiques, héritières d'Aristote, notamment par son ouvrage les catégories. L'étymologie nous en indique la raison : le préfixe kata en grec signifie de haut en bas, d'où les hiérarchies, un point d'entrée en haut puis une division analytique en genres de plus en plus fins, ce qui aboutit à un catalogue. Le préfixe ana en grec signifie le mouvement exactement contraire soit de bas en haut. Analogue est donc, étymologiquement, exactement le contraire de catalogue et donc des cartes mentales. L'analogie consiste à étendre l'application de la logique propre à un fait particulier vers un autre fait particulier. Elle ne procède donc pas d'une analyse, mais réalise une augmentation du domaine d'application d'un principe logique particulier.

La définition stricte de l'analogie est A est à B ce que C est à D. Par conséquent, en affirmant une telle analogie, j'affirme que tout ce qui est vrai dans le rapport entre A et B, l'est aussi dans le rapport entre C et D; et aussi que tout ce qui est faux dans le rapport entre A et B, l'est aussi dans le rapport entre C et D.

L'analogie est souvent utilisée en science et en philosophie, car elle permet de reporter les résultats qui sont connus dans un premier domaine vers un second domaine, ceci de manière efficace. Il suffit en effet pour appliquer la même logique en parallèle, de substituer fidèlement tant A par C que B par D pour obtenir des résultats à coup sûr corrects dans le rapport entre C et D. De ce point de vue, l'analogie est une opération parfaitement rationnelle. C'est un simple calcul en parallèle. Si la substitution donne des résultats erronés, c'est que l'analogie est fausse.

À noter que dans l'analogie A est à B ce que C est à D, ni A, ni B, ni C, ni D n'ont besoin d'être définis explicitement, seul leur rapport respectif compte.

Incidemment, cela permet d'inventer des notions ad hoc, par exemple une grandeur D telle que C soit à D ce que A est à B, donc d'étendre les concepts de manière cohérente avec le savoir déjà acquis. Par exemple le moment d'inertie fut inventé de telle manière que celui-ci soit au mouvement de rotation ce que la masse inertielle est au mouvement de translation ou encore le moment cinétique fut inventé de telle manière que celui-ci soit au mouvement de rotation ce que la quantité de mouvement est au mouvement de translation.

À noter également le fait qu'une analogie n'exprime pas explicitement le rapport entre des notions, mais indique simplement l'existence d'un rapport identique. La nature du rapport n'apparait que dans l'idée de celui qui s'y penche, non dans l'expression littérale. C'est donc à l'entendement que l'analogie fait appel.

Plusieurs travaux chez le singe suggèrent qu'ils peuvent associer entre elles des relations d'identité ou de différence, et disposeraient donc des prémisses d'un raisonnement par analogie[2].

[Jean-Francois]

l'IA ne fait que reproduire une réponse très très fréquente, mais non valable

L'IA ne poste pas ici, c'est Jodie qui sélectionne et rapporte les réponses*. Et ça n'est pas la première fois que Jodie emploie des leçons de morale quand elle n'a pas d'argument rationnel.

Jean-François

* Qui sait combien d'essais elle a pu faire avant de tomber sur ce qui lui convenait? (Surtout que le texte n'est pas grammaticalement correct: à mon avis l'IA a commencé par faire mieux (mais pas assez moralisateur) )

[Jodie]

* Qui sait combien d'essais elle a pu faire avant de tomber sur ce qui lui convenait? (Surtout que le texte n'est pas grammaticalement correct: à mon avis l'IA a commencé par faire mieux (mais pas assez moralisateur) )

Vous êtes méprisant. Je ne pense pas vous avoir insulté d'aucune façon. Vous êtes peut-être riche de connaissance mais pauvre en humanité. En fait, vous pouvez faire des leçcons à ceux que vous considérez comme des ignorants, mais vous n'avez absolument rien saisi de mon intervention et non je n'ai pas utilisé l'I. A. comme vous vous plaisez à l'imaginez. Vous me faites pensez à un crapaud bavant sur tout ce qui ne lui convient pas. Faut-il s'essuyer les pieds rempli de votre bave avant d'entrer sur le forum, de peur que notre discussion nous vaille vos commentaires à peine voilés de mépris.

[Jean-Francois]

Vous me faites pensez à un crapaud bavant sur tout ce qui ne lui convient pas

Ah, je suis redevenu un grand méchant pas beau? Bah, vous laverez la "bave" avec vos larmes de colère... les substances imaginaires ne tachent pas.

mais vous n'avez absolument rien saisi de mon intervention

Peut-être. Peut-être l'ai-je suffisamment comprise pour trouver qu'elle ne vaut pas la peine d'y répondre. Qui sait?

Jean-François

[Gwanelle]

J'ai mis entre guillemet parce que c'est l'explication de l'I. A. que je n'arrivais à bien formuler.

je reviens là dessus parce que c'est un des points sur lequel l'IA diffère complétement de nous

En tant qu'être humain: bien savoir formuler est à peu prés fonction de la célèbre sentence de Boileau (ce qui se conçoit bien s'énonce clairement et les mots pour le dire arrivent aisément) .
Mais, pour l'IA, pas du tout ! la sentence de Boileau ne s'applique pas du tout à elle ! (les mots lui arrivent toujours aisément dans tous les cas) .

Un autre point sur lequel l'IA nous surpasse largement, est sa capacité à répondre à plusieurs personne simultanément (elle répond à des milliers de personnes qui lui parlent en même temps dans le monde entier) , autrement dit: elle a une capacité "multi tache" qu'aucune conscience n'approche.

Donc, au delà du débat sur les émotions et les intentions, déjà ces deux points impliquent qu'il est difficile de la prendre pour une conscience.

Par exemple, quand je parle à une conscience humaine assise sur le siège conducteur dans un rond point bondé, soit je n'ai droit qu'à un long silence (en attendant qu'elle sorte du rond point) soit à des balbutiements ou des phrases mal faites et non terminés (si elle n'attend pas la sortie du rond point pour me répondre) .