Gérard Berry : « L’ordinateur est complètement con »

[Dash]

...Comment la vérité de quelque chose (ici la définition de la conscience) pourrait-elle être obtenue à partir d'une illusion, à partir de quelque chose qui n'existerait pas vraiment? Comment l'illusion elle-même peut-elle découvrir sa vraie nature d'illusion? Forcément, il y aurait quelque chose de réel, de véridique, à l'intérieur même de cette illusion, ce qui serait contradictoire. Non?

Yep!

J'aurais encore plusieurs choses à exprimer sur ce sujet, mais ça resterait au stade de l'opinion (tout de même minimalement réfléchie) et de la spéculation.

Bah, on peut bien partager nos opinions (le sujet s'y prête). Certains ont plus de connaissance que d'autres dans le domaine, mais, franchement, quand on parle de « conscience » concernant les IA, je pense que nous sommes tous pas mal dans « l'opinion ». Et, aussi, il n'y a pas que yquemener Dave, hein. Moi, je peux t'assurer que j'existe et qu'il y a une conscience derrière ce que tu lis et que tes propos, ta vision et ta perception m'intéressent (pas moins que ceux et celles de yquemener en tout cas).

pour moi, il n'est pas impossible qu'il puisse exister des « formes » de conscience hors du temps. Aussi, si l'on image la conscience par un champ de conscience (ce qui, à mon avis, éviterait une réelle émergence forte que Raphaël exprimait par la pensée douteuse que la conscience apparaitrait comme par magie), alors des structures matérielles programmées précises (mais lesquelles?) pourraient « intercepter », capturer ce champ de conscience intemporel et improuvable. Tout ça reste vague, j'en conviens. Mais, selon moi, la conscience et l'infini pourraient être intimement liés. Du moins, rien n'empêche (et tout semble indiquer) que la conscience soit à jamais incompréhensible.. .

Ça correspond grosso modo à ce que je me représentais à mon « époque zozo ». Je suis encore sensible à ce genre de représentation sauf que je me concentre essentiellement maintenant qu'à ce qui est utile et pratique par souci de pragmatisme. Mais je ne m'empêche pas d'en discuter quelquefois avec certaines personnes, pour le plaisir. Sauf que sur un forum comme ici, entrer « là-dedans » sans rien pouvoir prouver, ça commence à être un peu « too much » malheureusement.

Quoi qu'il en soit, comme je l'ai déjà dit, il m'est évident que tous n'ont pas accès au même « champ de consciences » et que tous n'ont pas les mêmes capacités concernant la métacognition. Certaines personnes m'apparaissent êtres prisonnier (toutes leurs vies) de ce que j'appelle le « déterminisme de contingences » alors que d'autres (très peu) peuvent s'auto-analyser/programmer beaucoup plus facilement. Aussi, certaines personnes semblent posséder des capacités intellectuelles « brutes » élevées (ainsi que plusieurs connaissances), sans pour autant nécessairement posséder un champ de conscience très « élargie ». Pour moi, c'est une évidence.

[Dave]

Salut Dash!



Je suis également en accord avec la majeure partie de ce que tu exprimes. Comme moi, tu restes assez prudent sur la question. Il faut avouer cependant que Yquemener a le courage de ses opinions et a, de toute évidence, réfléchi fortement à la question.

Petit détail cependant concernant ton propos, j'aurais plutôt écrit « champ de conscience » sans le « s » pour évoquer justement le principe que tout est relié, ce qui permet d'entrevoir des solutions éthiques dont j'ai maintes fois discuté. Car, le vrai grand problème, selon moi, c'est le potentiel de souffrance beaucoup trop élevé dans le monde : trafique d'organes, tortures, accidents évitables, faible respect pour la vie en général, inégalité honteuse des richesses, massacre d'animaux et tout ce qu'on peut imaginer de graves problèmes. Tout cela est relié au problème de la conscience ou plutôt du manque de conscience, de sensibilité. Justement, dans notre plaisir de domination, nous oublions que notre prochain est vraiment comme une partie de nous-mêmes. Nous sommes intimement liés avec notre environnement, avec les autres.

Si la conscience est une sorte d'interface, où se situe-t-elle réellement? C'est un problème qui m'apparait vertigineux. Le « hardware » (la matière) me semble être un élément significatif dans la façon d'être conscient. Mais, ce n'est qu'une intuition. Si la pensée est limitée en elle-même et que cette limite exprime l'impossibilité de tout comprendre (car, à mon sens, comprendre réellement la conscience reviendrait pratiquement à tout comprendre), alors le repos (« le silence ») de la pensée a sa légitime place dans l'art de vivre heureux (ou plutôt moins malheureux, moins conditionné). J. Krishnamurti parlait de « vraie méditation », de bonheur créatif. Peut-être avait-il compris quelque chose d'important.


Pour moi, ça reste encore une fois une question d'humilité. La science est, par essence, une activité d'humilité. Par contre, penser que nous avons suffisamment compris les mécanismes reliés à la conscience pour s'approprier la légitimité d'entreprendre une activité de programmation ayant pour objectif de programmer une conscience me semble un tantinet prétentieux. Sinon, ça ressemble à jouer à l'apprenti sorcier. C'est comme si, à ce moment-là, les techniques de programmation devenaient les véritables problèmes difficiles à résoudre et que les problématiques entourant ce qui touche de près la question de la conscience n'en étaient plus. Ça me semble un tour de passe-passe suspect.

En somme, le programmeur en apprend beaucoup plus sur la programmation que sur les quasi innombrables façons d'être conscient. Ce n'est pas mauvais en soi, bien au contraire, c'est fort utile malgré tout. Mais, personnellement, je ne vois pas ce qui forcerait la conscience ou l'intelligence à être calculable d'autant plus que l'on sait que, mathématiquement, ce qui est incalculable existe et est immensément vaste. Évidemment, on peut définir la conscience d'une telle manière que l'on peut ensuite prouver qu'elle est calculable ou connaissable, mais ça ne devient-il pas alors une astucieuse tautologie? Du moins, ce n'est pas une preuve que le programme est conscient (ressent) en lui-même.

Je ne suis pas contre la recherche, évidemment, mais les recherches sur le cerveau et le corps (la douleur, par exemple) me semblent plus enrichissantes que la recherche sur la programmation d'une intelligence consciente en ce qui concerne justement « les » consciences, les façons de percevoir, penser, ressentir quelque chose. Cependant, l'un peut (en partie, du moins) formaliser l'autre (l'ensemble des choses que l'on a déjà suffisamment comprise), j'en conviens. Ensuite, il y a toute la question des rapports entre les différentes formes de conscience. Enfin... C'est à la fois fascinant et déroutant.


Bref, je suis en accord avec toi, Dash, lorsque tu exprimes le fait que certains humains ont des capacités incroyables de métacognition et d'inspiration et que, en revanche, certains humains semblent si simples d'esprit que l'on pourrait presque en faire des copies programmables. Peut-on donner un peu de conscience à son prochain?

[Raphaël]

C'est un peu comme les fantômes: je ne peux pas prouver qu'ils n'existent pas. Je peux juste proposer de mettre en défaut toutes les preuves qu'on me présente. Après, si c'est un phénomène qui a une réalité objective à moment il faut se demander pourquoi il n'est pas démontrable plus facilement que ça.

Il l'est: il suffit de brancher le sujet (humain ou animal) sur un électro-encéphalogramme. Le cerveau produit une onde caractéristique qui dépend de l'état de conscience dans lequel il se trouve. Cette onde est déterminée par la synchronisation des neurones. Il n'y a pas de centre de conscience dans le cerveau; c'est l'ensemble des neurones qui génère la conscience. Comment pourrait-on imaginer qu'il existe une conscience localisée dans un CPU qui traite un caractère de 64 bits à la fois alors que le reste de la mémoire est dans l'ombre, d'autant plus que ces informations sont codées et ne sont pas directement accessibles ? C'est un non-sens à mon avis.

Autre chose: d'où vient cette affirmation gratuite que la conscience serait générée par l'intelligence ? Ça ressemble à un lapin sorti d'un chapeau. Si on regarde la réalité des choses on pourrait conclure au contraire que ce sont deux phénomènes indépendants. Il existe dans le cerveau des zones subconscientes et inconscientes. Pourtant ces zones sont capables de faire des raisonnements complexes et intelligents. Pourquoi la conscience n'y a-t-elle pas accès dans ce cas ?

Si on peut se dire conscient, c'est qu'on l'est...non ?

Je te soumet l'exemple de mon mug sur lequel j'ai écrit "Je suis un mug" et fait un dessin de mug. Est-il conscient?

Non. Si tu en doutes tu peux toujours le tester avec un EEG.

Pour aller plus loin, je pense qu'il y a en fait (au moins) 3 concepts qui s'enchevêtrent quand on parle de conscience:
- la capacité d'introspection: je suis conscient de mon état mental et physique. De nombreux systèmes automatiques sont dotés de ces capacités.
- la conscience morale: la capacité à faire des jugements sur les choses bonnes ou mauvaise. Ça me semblait clairement un concept séparé mais la définition wikipédia citée plus haut l'inclut. Un système-expert peut facilement émettre des jugements moraux
- le petit sentiment au fond de soi qui dit que tu existes et que tu es quelque chose d'unique, de merveilleux, forcément plus qu'un traitement d'information.

Je vois les choses autrement:

- Conscience morale: ça dépend de l'éducation et de l'apprentissage et c'est hors-sujet.

- Conscience générale: perception de l'environnement, ou plus précisément capacité du cerveau à se construire une représentation mentale cohérente de son environnement et à pouvoir interagir avec.

- Conscience de soi: perception de soi-même (confirmée par le test du miroir). Ce genre de conscience ne se retrouve que chez les humains et certains animaux considérés comme ayant des capacités mentales supérieures à la moyenne (gorilles, dauphins, corneilles, etc.).

C'est le 3 qui je pense est illusoire.

De la façon dont tu le définis je dirais que oui en effet c'est illusoire.

Tu veux dire qu'un robot pourrait, dans l'avenir, apprendre à s'auto-programmer en se projetant dans une expérience ?

Oui. Tu veux en voir apprendre à marcher dans un univers virtuel ?

C'est évident qu'un robot peut apprendre à s'auto-programmer mais ça ne veut pas dire qu'il pourra réussir à le faire avec la même efficacité que les humains dans tous les domaines.

Au passage : la conscience pourrait t'elle être possible qu'avec de la "vie", donc la présence de biochimie, voir d'ADN ?

La conscience serait peut-être possible avec une machine mais à condition de fonctionner de la même façon qu'un cerveau, c'est-à-dire en ayant une vision d'ensemble synchronisée où le traitement des informations n'est pas localisé dans un (ou des) CPU et n'est pas codé en binaire, comme c'est le cas avec nos ordinateurs.

[Raphaël]

Personnellement je pense que cette exigence de non-programmation vient à la fois d'une vision peut être incomplète de ce que permet la programmation et d'un anthropocentrisme qui donne l'intuition que le seul chemin vers la conscience est notre développement humain.

On pourrait aussi parler d'un anthropomorphisme qui donne l'intuition que la conscience devrait se retrouver dans nos machines ...

[Corwin]

Personnellement c'est lorsque j'ai sincèrement essayé de trouver une définition de la conscience que j'ai cessé de croire que c'était plus qu'une illusion.

On ne peut définir l'illusion sans se référer à la conscience.
Le concept d'illusion serait-il donc également… illusoire ?



Afficher l'image

Il n'y a pas de centre de conscience dans le cerveau; c'est l'ensemble des neurones qui génère la conscience.

Génère…

L'onde manifeste donc la présence de la conscience. Mais sait-on vraiment ce qui génère quoi ?

il suffit de brancher le sujet (humain ou animal) sur un électro-encéphalogramme.

Afficher l'image

Puisque c'est rebranché, et qu'il reste un peu de jus dans les fils, reprenons donc un peu celui-ci (de fil).

Sans conscience morale, point de conscience pour les machines, comparable à la conscience humaine.

L'éthique, c'est évidemment ce qui pourrait conduire les hommes à maintenir les robots au rang de l'outillage.
Donner le libre arbitre à des appareils dénués de sens moral, ce serait en effet un pari dangereux.

Afficher l'image

Pourtant, comme on le sait, c'est sur ce terrain que se manifeste la véritable faiblesse des hommes.
Si l'humanité est vulnérable, ce n'est pas tant à cause des piètres performances de son physique et de son intelligence, car nous avons des machines pour les compenser.
Notre vraie faiblesse, en réalité, est d'ordre moral.

Un humain, en effet, c'est un être qui, sachant quelle action s'impose et en ayant les moyens, est capable de choisir de ne pas l'accomplir, et même de faire le contraire.
Il peut prendre des décisions sans se soucier des obligations et des conséquences, quel que soit son niveau de responsabilité.
C'est le propre du libre arbitre, dont nous usons et abusons largement.

Mais nous pouvons alors nous prendre à rêver de machines conçues pour nous rappeler à nos devoirs.

Afficher l'image

Pour autant, s'il existait des ordinateurs aptes à émettre des préconisations parfaites, il n'est pas certain du tout que nous les appliquerions.

Le mythe du robot, en dehors des rêves d'invulnérabilité évoqués précédemment, émane aussi d'une quête de l'infaillibilité. Mais nos sociétés, encore plus que que le laxisme, redoutent les effets d'une trop grande rigueur morale, conduisant au purisme, ou à un fondamentalisme hors des réalités.

Afficher l'image

A contrario, des machines respectant à tout prix la logique pourraient être amenées à des actes contraires à nos principes, dont les priorités varient selon les personnes et les situations, en fonction de critères parfois difficiles à fixer.

Afficher l'image

Les automates risqueraient alors d'être détournés pour les pires usages
(ou les meilleurs, selon les points de vue).

Afficher l'image

C'est pourquoi, avant d'envisager des créatures susceptibles de nous dépasser, peut-être faudrait-il essayer d'y voir plus clair dans notre échelle de valeurs. C'est peut-être ainsi, d'ailleurs, que nous nous hisserons à la hauteur de l'idéal que notre sens moral, justement, nous suggère.

Faute de quoi, plutôt qu'un futur de science fiction, nous risquons d'aboutir dans un recueil de légendes, dont la plus mystérieuse, cette fois… serait nous.

Afficher l'image

P.S.: Deux des illustrations que j'ai postées à la page 2 (dans ce post) n'ont pas de liens de secours, et c'est justement celles-là que le robot afficheur a choisi de beuguer (si c'est comme ça qu'il pense obtenir son libre arbitre, celui-là). Elles sont (normalement) visibles respectivement ici et là (ç'eût été dommage de s'en passer, faut reconnaître).
P.P.S. : Pour ceux qui n'ouvrent les sujets que pour les images, le présent message, sur ce point, fait suite à celui-ci (page 3 du sujet).

[Emmanuelle]

Bonjour,

J'ai effacé ce que j'avais écrit, trop vite, sans réfléchir !

Emmanuelle

[Corwin]

Ça c'est bien.
On devrait tous faire pareil.
(bon, je ne sais pas ce qu'il resterait de ce forum, mais…)



  Afficher l'image

Il existe d'ailleurs des robots effaceurs :

Spoiler

Afficher

Afficher l'image

Ils manquent encore un peu de discernement, parait-il.
Mais pour le web, après tout…

----------------------
EDIT : il est possible de supprimer un message que l'on vient de publier, en cliquant sur la petite croix en bas à droite.

[Emmanuelle]

Merci !
Euh si je l'efface, peut-être vous devrez effacer le vôtre et puis après moi, celui-ci !
Ah ben c'est trop tard ! Plus de petite croix en bas à droite.
Merci en tout cas pour l'info !

[Nicolas78]

pour moi, il n'est pas impossible qu'il puisse exister des « formes » de conscience hors du temps. Aussi, si l'on image la conscience par un champ de conscience (ce qui, à mon avis, éviterait une réelle émergence forte que Raphaël exprimait par la pensée douteuse que la conscience apparaitrait comme par magie), alors des structures matérielles programmées précises (mais lesquelles?) pourraient « intercepter », capturer ce champ de conscience intemporel et improuvable. Tout ça reste vague, j'en conviens. Mais, selon moi, la conscience et l'infini pourraient être intimement liés. Du moins, rien n'empêche (et tout semble indiquer) que la conscience soit à jamais incompréhensible.. .

Salut,

Intéressant.
Un peut comme Dash, je suis sensible à tout cela.
Mais bien moins qu'avant.
Disons que ça ne rentre plus dans le domaine de la foi mais simplement dans "l'hypothèse philosophique mentale".
Je ne pense pas qu'en parler sois totalement inutile, mais je pense qu'il ne faille pas y perdre son temps.
Mais je ne serait juger ou commencer et ou s'arrêter.
Karl Popper s'y prenais mieux

Le problème bien sure, c'est que c'est totalement irréfutable pour le moment.
Le livre "Le Secret" utilise ce genre de trucs, au grand désespoir des esprits qui s'y perdent ou qui s'y croient.

Une chose est : quel genre de "réalité" pourrait à jamais être incomprise ou intouchable, mais être dans un sens factuel ?

[Dave]

Salut Nicolas!



Bien que je critique (à l'aide du principe d'incomplétude) ceux qui voient une vérité dans l'hypothèse que la matière produit l'esprit, je suis tout aussi méfiant de ceux déclarant que c'est plutôt l'esprit qui produit la matière ou l'activité cérébrale. J'ai l'impression que le principe de la conscience est quelque chose d'irréductible au sens où l'on n'arrivera jamais à l'expliquer suffisamment avec certaines connaissances fixées.

Affirmer que c'est plutôt l'esprit qui influence l'activité cérébrale, c'est, par définition, pratiquement irréfutable. On se retrouve confronté au même problème de définitions implicites qui touchent de près à la subjectivité. Que signifie exactement la liberté, l'esprit ou la volonté? Personnellement, je ne saurais le dire, bien que j'en ressente une vague impression. Ce sont des notions qui semblent glisser entre les mailles du filet de la connaissance objective, de ce qui est raisonnablement connaissable.

Si le matérialisme est ce qui constitue la connaissance ou les choses connaissables, il me semble acceptable de penser qu'il existera toujours quelque chose d'inconnu nous influençant. Cela n'implique aucunement qu'il y aurait une limite infranchissable à la connaissance objective. Par contre, je ne vois pas comment il serait possible de tout connaitre et donc de connaitre tous les états de conscience possibles à une entité. La précision des mesures, étant limitée, pourrait être l'indice d'autres phénomènes véritables devenant significatifs à une autre échelle.

Aussi, même si, par une chance incroyable, nous découvrions la « formule » de la connaissance (en supposant qu'elle existe), j'ose imaginer qu'un événement étranger à cette formule pourrait survenir à tout moment. Cela dit, supposer un tel esprit est, dans le meilleur des cas, une façon de dire que quelque chose de très mal connu influencerait certaines activités cérébrales. Il faut donc continuer à investiguer dans le domaine des neurosciences (cette activité scientifique est sûrement loin d'être épuisée) et, si possible, trouver des hypothèses réfutables sur le caractère « indépendant du temps » de la conscience.


J'admets qu'il y a quelque chose de frustrant à penser que ces notions d'esprit ou de conscience sont inévitablement liées à ce qui est mystérieux, mais on peut aussi voir le mystère comme quelque chose de passionnant et nous forçant à nous dépasser.

Le livre « Le Secret » utilise ce genre de trucs, au grand désespoir des esprits qui s'y perdent ou qui s'y croient.

Ce livre est un bel exemple de malhonnêteté intellectuelle, mêlant gratuitement fantasmes, science, philosophie et culpabilité. Bref, une belle grosse bouette.

Une chose est : quel genre de « réalité » pourrait à jamais être incomprise ou intouchable, mais être dans un sens factuel?

Je crois que j'ai été imprécis lorsque j'ai mentionné que la conscience était à jamais incompréhensible. J'ai seulement vulgarisé mon propre propos. Notre connaissance collective est limitée (finie), mais toujours (potentiellement, du moins) grandissante. On peut alors penser que ce qui est inconnaissable est infini, mais pas le même qu'à un moment précédent. On ne peut donc pas affirmer qu'une chose précise (par exemple, la conscience) serait à jamais inconnaissable.


Je dis juste que la conscience est liée en partie à des choses connaissables et à ce qui est inconnaissable. Ce qui est inconnaissable demeure ce qui est inconnaissable (relativement à un groupe d'entités, à un certain moment). On ne peut pas dire qu'une chose est inconnaissable. On ne peut pas rendre dénombrable ce qui est inconnaissable. Je ne sais pas si tu vois la nuance que j'essaie d'apporter.

En ce sens, je me méfie de tous ceux qui dénombrent ce qui est inconnaissable en plusieurs couches, puisqu'une contradiction interne apparait inévitablement dans l'entretien d'un tel propos.


Aussi, en ce qui a trait à l'émergence forte, il se peut que je dise encore des bêtises, car je ne suis pas certain de bien comprendre cette notion. Certains la considèrent comme étant scientifique, mais la plupart des scientifiques semblent la considérer plutôt comme étant une notion philosophique. Je crois que la conscience peut être envisagée autant dans l'émergence faible que dans l'émergence forte (ou un mélange des deux).


Cordialement.

[Nicolas78]

Salut Dave,

Globalement, je suis en "accord" avec ce que tu dit, mais je mettrais un petit bémol ici :

Bien que je critique (à l'aide du principe d'incomplétude) ceux qui voient une vérité dans l'hypothèse que la matière produit l'esprit, je suis tout aussi méfiant de ceux déclarant que c'est plutôt l'esprit qui produit la matière ou l'activité cérébrale. J'ai l'impression que le principe de la conscience est quelque chose d'irréductible au sens où l'on n'arrivera jamais à l'expliquer suffisamment avec certaines connaissances fixées.

En faite, en agissant sur le physique/chimique, on peut altérer ou couper la conscience.
Cela ne prouve pas définitivement que la conscience est généré par le cerveau, car il pourrait en être que le récepteur ou un des éléments qui permet de la ressentir et de l'exprimer, mais cela tend fortement à le prouver.

Et en même temps, même si tout cela me plait grandement.
Je doit dire que l'idée que la conscience est un "artefact" de l'intelligence, l'idée d'yquemener, me plait aussi bcp.
Que l'intelligence peut se jouer de la conscience ne veut pas dire qu'elle ne la crée pas aussi, de manière plus "limitée" donc.

Sinon j'aime beaucoup ta phrase :

Notre connaissance collective est limitée (finie), mais toujours (potentiellement, du moins) grandissante. On peut alors penser que ce qui est inconnaissable est infini, mais pas le même qu'à un moment précédent. On ne peut donc pas affirmer qu'une chose précise (par exemple, la conscience) serait à jamais inconnaissable.

Aussi :

On ne peut pas dire qu'une chose est inconnaissable. On ne peut pas rendre dénombrable ce qui est inconnaissable. Je ne sais pas si tu vois la nuance que j'essaie d'apporter.

Tu dit la que l'inconnue est non quantifiable c'est ça ?
Si oui, je suis en parti d'accord : expliquer ce qui est inconnue par la logique et la connaissance est une illusion logique.
Ceci-dit, on peut émettre des hypothèses, sinon on n'avance pas...et ses hypothèse ce font dans ce que l'on pense "manquer" dans une interprétation d'une théorie déjà en place, face et avec ce que l'on perçoit.
Je ne sais pas si on pourrait illustrer ça comme un équation avec un facteur inconnu...qu'en pense tu ?

[Dave]

En faite, en agissant sur le physique/chimique, on peut altérer ou couper la conscience.

Oui, je comprends. Mais, ça reste tout de même une partie manifeste d'une conscience particulière. On ne connait pas toutes les « intentions » derrière les phénomènes.

Comme je l'ai déjà dit auparavant, l'hypothèse d'une dualité corps/esprit me semble difficile à soutenir. Peut-être il existe-t-il une toute petite part de notre conscience (ce n'est pas impossible dans l'absolu) qui subsiste après la mort du cerveau, mais celle-ci ne serait sûrement pas reliée avec notre mémoire usuelle, nos goûts. Cette dualité serait séparable (« notre » esprit se séparerait de notre corps mourant) alors qu'il me semble bien plus réaliste et fécond de voir une multiplicité (ou une dualité en mode binaire) implicite (inséparable) entre le mental et la matière, une sorte d'unité relative cohérente (monisme) entre les deux.

Notre langage simplifie la notion de conscience. Il y a « la » conscience, le principe permettant l'existence de quoi que ce soit, puis « des » consciences individuelles qui, effectivement, semblent inévitablement vouées à une forme ou une autre d'illusion. Par ailleurs, Lupasco (qui influença la pensée de Basarab Nicolescu qui, lui, affirme que « l'abstraction fait partie intégrante de la Réalité ») y voyait même un principe de tiers inclus pour mieux représenter l'aspect psychologique des phénomènes. C'est un principe logique restant à une vision philosophique et n'ayant pas vraiment d'impact direct au niveau de la science cependant (pas à ma connaissance, du moins).

Tu dis là que l'inconnu est non quantifiable, c'est ça?

Et bien, je dirais que ce qui est inconnaissable pour une collectivité d'entités (pour nous) n'est pas quantifiable (dénombrable). Ce que l'on peut potentiellement connaitre (grâce principalement à la science) ne fait pas partie, à mon sens, de ce qui est inconnaissable pour nous.

C'est bien grâce aux découvertes scientifiques qu'il est possible de réaliser d'autres formes d'investigation (scientifique) et de se poser des questions qui étaient impossibles à imaginer avant ces découvertes.

Je ne sais pas si on pourrait illustrer ça comme une équation avec un facteur inconnu... qu'en penses-tu?

On peut légitimement l'imaginer, mais je ne crois pas que l'on puisse l'illustrer réalistement par une véritable équation. On pourrait imaginer une équation infinie dont l'inconnu est impossible à isoler. Mais, ça ne reste qu'une image floue pour exprimer ce qui nous embête, rien de plus, à mon avis.

[Raphaël]

Il n'y a pas de centre de conscience dans le cerveau; c'est l'ensemble des neurones qui génère la conscience.

Génère…

L'onde manifeste donc la présence de la conscience.

Oui, et jusqu'à preuve du contraire tout ce qui est conscient produit une onde caractéristique de son état de conscience.

Mais sait-on vraiment ce qui génère quoi ?

Oui, on le sait.

Le signal électrique à la base de l'EEG est la résultante de la sommation des potentiels d'action post-synaptiques synchrones issus d'un grand nombre de neurones.

il suffit de brancher le sujet (humain ou animal) sur un électro-encéphalogramme.

Erreur en passant: j'aurais dû écrire électroencéphalographe.

[Nicolas78]

Oui, je comprends. Mais, ça reste tout de même une partie manifeste d'une conscience particulière. On ne connait pas toutes les « intentions » derrière les phénomènes.

Comme je l'ai déjà dit auparavant, l'hypothèse d'une dualité corps/esprit me semble difficile à soutenir. Peut-être il existe-t-il une toute petite part de notre conscience (ce n'est pas impossible dans l'absolu) qui subsiste après la mort du cerveau, mais celle-ci ne serait sûrement pas reliée avec notre mémoire usuelle, nos goûts. Cette dualité serait séparable (« notre » esprit se séparerait de notre corps mourant) alors qu'il me semble bien plus réaliste et fécond de voir une multiplicité (ou une dualité en mode binaire) implicite (inséparable) entre le mental et la matière, une sorte d'unité relative cohérente (monisme) entre les deux.

Notre langage simplifie la notion de conscience. Il y a « la » conscience, le principe permettant l'existence de quoi que ce soit, puis « des » consciences individuelles qui, effectivement, semblent inévitablement vouées à une forme ou une autre d'illusion. Par ailleurs, Lupasco (qui influença la pensée de Basarab Nicolescu qui, lui, affirme que « l'abstraction fait partie intégrante de la Réalité ») y voyait même un principe de tiers inclus pour mieux représenter l'aspect psychologique des phénomènes. C'est un principe logique restant à une vision philosophique et n'ayant pas vraiment d'impact direct au niveau de la science cependant (pas à ma connaissance, du moins).

Oui je comprend, et je pense très bien qu'on garde cette liberté de marge de manoeuvre dans la pensée, afin de pouvoir penser à tout ce que l'esprit peut fournir.

Cette idée :

Peut-être il existe-t-il une toute petite part de notre conscience (ce n'est pas impossible dans l'absolu) qui subsiste après la mort du cerveau, mais celle-ci ne serait sûrement pas reliée avec notre mémoire usuelle, nos goûts. Cette dualité serait séparable (« notre » esprit se séparerait de notre corps mourant) alors qu'il me semble bien plus réaliste et fécond de voir une multiplicité (ou une dualité en mode binaire) implicite (inséparable) entre le mental et la matière, une sorte d'unité relative cohérente (monisme) entre les deux.

Est effectivement c'est du monisme, parfois vue comme une "métaphysique matérialiste", une forme de transcendance de la matière, par la matière (ou une énergie du moins dépendante des "lois de la natures", d’ailleurs le monisme fut utilisé avec les cordes d'Hawking).
Tel qu'en parle d’ailleurs le Bouddhisme (dans une interprétation moderne au moins, peut-être même avant) (et sympathiquement illustré dans les dernières saisons de Stargate ).

Mais tout ceci ne pèse pas bcp face au simple fait que le cerveau produit bien la conscience et qu'on peut "jouer" avec sur différent niveau, et que si elle ne peut pas communiquer grâce à la survie de ses neurones et ses synapses, elle meure.
Tout simplement, si j'ose dire.

Mais bien sure, cela n’empêche pas d'aller chercher des questions/réponses plus loin , plus "librement", comme le suggère fortement la difficulté bien réelle de comprendre ce qu'est la conscience et ce qu'elle produit, comment elle fonctionne, comme elle gère la subjectivité, avec quelle force, influencé par quoi, quel rôle complexe à la mémoire la dedans...sont rapport à la chimie, au physique...jusqu'à : quelles questions vues comme légitimes se heurte à la limite du savoir ? Comment y répondre ? Quel principes épistémologiques peut contraindre ça ? Comment rester dans un cadre et proposer des réponses sans tomber dans la métaphysique, ou à l'inverse, dans le scientisme...etc
(le monisme matérialiste est surement la plus zézé des idées zozo , et en parler pour laisser son esprit libre et sans collier est toujours plaisant, mais il faut, tjr, avoir un sifflet pour arbitrer le match, sinon cette liberté ne sert à rien, plutôt que de proposer des bonnes questions et un recul dans les réponses, elle risque de proposer des réponses strictes à des questions ouvertes).

On peut légitimement l'imaginer, mais je ne crois pas que l'on puisse l'illustrer réalistement par une véritable équation.

je suis d'accord.

[Chanur]

Il me semble surtout que la question de savoir si une IA peut être consciente ne mène nulle part.

Supposons qu'on crée une IA réellement consciente, on fait comment pour le prouver ?
C'est juste impossible. Exactement comme il m'est impossible de prouver que mon voisin est conscient. Je choisis de le croire parce que je trouve que cette façon de voir le monde me paraît cohérente, vu que mon voisin me ressemble beaucoup et que je sais que je suis conscient. Mais ça reste un choix.

Et pour une IA ?
On ne peut pas le lui demander : ça ne prouverait rien du tout (écrire un logiciel qui répond "oui" à la question "Es-tu conscient ?", je vous le fais en 10 mn. )
Lui faire subir un electro-encéphalogramme nous renseignera sur la façon dont elle est construite, ce qui n'apportera rien : on le saura déjà.
Un test de Turing ne nous renseignerait que sur sa capacité à manier le langage, donc son intelligence, pas sa conscience.
Et comme il a déjà été souligné, le lien entre intelligence et conscience n'est pas du tout clair (notamment à cause des processus inconscients mais néanmoins intelligents de notre cerveau).

Pour moi la seule question de l'IA, c'est la question de l'intelligence, et elle est déjà sacrément compliquée (ne serait-ce que parce qu'on a du mal à définir clairement ce qu'intelligence signifie).

[Pooh]

Salut Chanur ! Bonjour aux autres participants également !
Je suis d'accord avec vous ! Il me semble qu'on a déjà de la difficulté a définir clairement ce qu'est la conscience humaine. Si on doit mêler les cartes,(si je puis m'exprimer ainsi), avec l'IA, on s'en sortira jamais
Bon je

[Emmanuelle]

Bonjour,

Je ne connais rien à l'IA mais d'après ce que j'ai compris un robot est capable d'apprendre (?) (enfin ce mot "apprendre" est assez vaste donc ?)
Alors une piste peut-être: est-il libre d'apprendre ou non ?
Quel est le degré de liberté d'une machine ?
Peut-être que la conscience implique la liberté, c'est juste une idée que je lance.

Cordialement,

Emmanuelle

[Pooh]

Bonjour,

Je ne connais rien à l'IA mais d'après ce que j'ai compris un robot est capable d'apprendre.
Alors une piste peut-être: est-il libre d'apprendre ou non ?
Quel est le degré de liberté d'une machine ?
Peut-être que la conscience implique la liberté, c'est juste une idée que je lance.

Cordialement,

Emmanuelle

Oh la ! La !
Je suis curieuse d'entendre les réponses des spécialistes la dessus

[Nicolas78]

Il faudrait aussi voir la conscience comme un continuum, un grand dégradé.
Une IA pourrait t'elle, sur une échelle de 10, avoir par exemple une conscience de 1 ou + (5 étant arbitrairement l'apparition de la conscience de sois, 6 la capacité de l'exprimer, 7 la capacité d'abstraction... etc) ?

[Pooh]

Il faudrait aussi voir la conscience comme un continuum, un grand dégradé.
Une IA pourrait t'elle, sur une échelle de 10, avoir par exemple une conscience de 1 ou + (5 étant arbitrairement l'apparition de la conscience de sois, 6 la capacité de l'exprimer, 7 la capacité d'abstraction... etc) ?

L'idée est bonne !
Toutefois, il faudrait des critères plus précis à votre échelle afin de répondre adéquatement à votre question non ?

Pour ce qui est de la capacité a l'exprimer cela revient à ce que dit Chanur non ?

Édition
Ps
Et puis quand est-ce que la conscience apparaît ?

[Nicolas78]

Mais sur ce sujet les critères serait "flottants" entre objectivité et arbitraire...
Une échelle ne reflète jamais réellement la réalité.

On peut dire donc que d'une certaine manière, les IA et les programmes les plus avancés et autonome arriverait à des niveau 1/2/3, 3/4 serait une intelligence adaptative et capable d’interagir logiquement et dit "intelligemment" à à réagir certains problèmes complexes y compris "sociaux".
5 serait la capacité de sentir son "soi", et à avoir une capacité de transformer sa propre "physionomie", afin de ne jamais être le même programme tout le temps, et à régénérer/fabriquer des "tissus/connexions" (ou autre) afin d'échapper à une forme de déterminisme limité*, c'est pas pour tout de suite.
6/7/8 serait des capacité d'abstraction et d'expression qui tendrait à prouver sa conscience à lui et au autres.
Semble t'il qu'une IA, même consciente, aurait possiblement du mal à avoir des discutions du genre qu'on à ici (capacité d'abstraction comprise, capacité de faire valoir son subjectif aussi)... ?
Au delà, on pourrait imaginer une forme de conscience plus "lucide" que celle de l'humain et différents types d'intelligences plus "fortes".

*"Limité", car un programme peut déjà, apparemment, changer seul sa programmation et son auto-apprentissage.

[Emmanuelle]

Je suis en train de relire le sujet et cette question de la liberté a déjà été posée par Corwin il me semble !
De façon très détaillée !

[Pooh]

Oui , j'ai cru comprendre que Corwin nous avais illustré la notion du libre arbitre et je crois, à mon humble avis, que cette notion doit être en relation avec la notion de conscience.

Spoiler

Afficher

[kestaencordi]

est-ce que mes neurones ont conscience ou une conscience? non, elle font leurs travail. tout comme les transistors font leurs travail!
c'est purement physique.

nul besoins de se mot indéfinissable et qui veut rien dire.

[Raphaël]

est-ce que mes neurones ont conscience ou une conscience? non, elle font leurs travail. tout comme les transistors font leurs travail!

Un neurone c'est autrement plus complexe qu'un transistor. La comparaison me parait un peu énorme...