Un robot devant un miroir

[Raphaël]

Contrairement à ce que vous dites, la conscience est étudiée par les scientifiques, et ressemble de plus en plus à une illusion (on prend souvent des décisions plusieurs secondes avant d'en avoir conscience par exemple) assez localisée si je me souviens bien.

C'est parce qu'on possède deux mentals: un conscient et un inconscient. Les décisions originent souvent de l'insconscient. Ton exemple prouve le contraire de ce que tu affirmes. Si la conscience était une illusion, on ne parlerait plus d'inconscient (ou de subconscient) puisque les deux mentals auraient la même "illusion de conscience".

[yquemener]

Ça vous semble impossible d'énoncer la morale suivant un ensemble de règles ?

Tout à fait impossible en effet, la morale c'est absolument pas un ensemble de règles.
La morale c'est subjectif. Un programme différent par individu. Bon courage pour essayer de dégager une pseudo moyenne objective.

Et en quoi le fait que les règles soient différentes d'un individu à l'autre empêche d'écrire ces règles ?

"Ne fais pas souffrir les autres" résume 90% des règles morales

Bah non justement, la quasi totalité des humains fait souffrir un moment à un autre les autres de manière plus ou moins intentionnelle.

Relisez le contexte dans lequel je parle d'énoncer sous forme de règles la morale. Il s'agissait d'expliquer comment la culpabilité apparaissait. Un des objectifs du système est d'obéir aux règles morales, mais ce n'est pas le seul objectif. Lorsqu'un autre objectif (la survie par exemple) prend le pas sur la moralité, le système réagit à la transgression des règles morales en attribuant un poids négatif aux actions ayant menées à cette transgression. C'est la culpabilité.

Peut être que je ne suis pas clair dans ce que je veux dire lorsque je parle d'un système à plusieurs objectifs et plusieurs systèmes de règles. Il s'agirait a priori d'un système multi-agent ayant chacun un but déterminé et arbitrés entre eux dans leurs décisions parfois contradictoires par le "caractère" (un autre agent) du système. Ainsi une règle morale sera suivie par l'agent moral, qui indiquera la ou les marches à suivre pour obéir au modèle interne de moralité du système, mais cela ne garantit pas que ce sont ces actions qui seront respectées.

Non on c'est mal compris, j'expliquais simplement et partiellement comment l'homme parvenait à se construire sa conscience morale, avec l'exemple de la culpabilité, ce qu'un robot à mon sens ne peut pas reproduire car on ne le laissera pas expérimenter et commettre des erreurs pour des raisons de sécurité évidente

Cet argument est à la fois faux en non valable :
- Faux car on peut tout à fait (et on le fait couramment) laisser un robot faire ses propres expériences. Que ce soit dans le monde physique (la grande majorité des robots expérimentaux auraient vraiment du mal à blesser un humain) ou dans un monde simulé.
- Non valable car l'idée selon laquelle il faut nécessairement acquérir une conscience morale par l'apprentissage pour qu'elle soit authentique est un biais purement humain. Il existe des religieux disant que tout code moral non basé sur la religion n'est en fait qu'une simulation permettant aux loups sans foi ni loi de tromper la vigilance des authentiques croyants. J'y oppose le même test : mettez un système dans une situation où il pense ne pas être espionné, donnez lui le choix entre un intérêt personnel et un choix moralement préférable, si le système ou la personne est capable de sacrifier son intérêt en faveur du choix moral, il s'agit d'une moralité identique. Si vous êtes incapables de créer un test (même hypothétique) pour faire la différence entre les deux, c'est que la différence n'a aucune espèce d'importance.

La créature sapiente la plus idiote est aussi la plus intelligente vu qu'il y en a qu'une !

J'entendais par là, que nous sommes en matière d'intelligence très loin d'être parfaits. Nous n'avons pas laissé à l'évolution le temps d'affiner notre intelligence au delà du stade nécessaire à la création d'une civilisation. Il est très vraisemblablement possible pour une créature organique d'avoir une intelligence plus grande, un intellect affranchi de nombreuses contraintes humaines. Le fait est que la première espèce sapiente issue de l'évolution est nécessairement la moins évoluée qu'il soit possible. J'utilise cet argument pour indiquer que de nombreuses caractéristiques humaines ne sont certainement pas la seule ni la meilleure façon de créer une intelligence artificielle. Notamment le fait de devoir acquérir en plusieurs années, par essais et erreurs, le sens moral, la rationalité, le langage, etc... sont des caractéristiques purement animale liées à notre cycle de vie. Dire qu'elles sont obligatoires à l'authenticité d'une expérience, voici le biais principal à mon sens. Je suis conscient des biais qui peuvent exister et je fais attention à toujours permettre à mon opinion de changer face aux faits nouveaux. C'est pour cela que je demande des tests objectifs et des contre-exemples à chaque étape.

Ce que tu dis ensuite et aussi pertinent que de dire que l'homme se fait superformer par un briquet, un stylo à bille, un rasoir à main.

Un coureur se fait battre par une voiture. Est ce qu'on va déclarer que le déplacement de la voiture n'est pas authentique ?
L'humain se fait battre au calcul mental. Est ce qu'on va déclarer que les ordinateurs ne calculent pas vraiment ?
L'humain se fait battre à la reconnaissance de visages par une machine qui imite précisemment (mais bien plus rapidement) les couches neurales du cortex visuel humain. Est ce qu'on va déclarer que ce n'est pas de la vraie reconnaissance ?

Qui est responsable ?

Toi, évidemment.

Et si on remplace la machine par un chien ? Par un bébé ? Par une arme ?

[Denis]

Salut Étienne,

Tu dis :

Non merci, j'en suis revenu du redico. C'est ludique mais on s'y enlise assez vite.

Que le coinçage (du plus tordu) arrive 20~25 fois plus vite en Redico qu'en style libre, c'est plus un point positif qu'un point négatif.

Non?

Tu préfères les enlisements lents?

Denis

[Etienne Beauman]

Et en quoi le fait que les règles soient différentes d'un individu à l'autre empêche d'écrire ces règles ?

Elles ne sont pas seulement différentes elles sont floues, interdépendantes et constamment réactualisées, c'est comme si tu prétendais pouvoir programmer l'évolution de la bourse, c'est complétement utopique.

Lorsqu'un autre objectif (la survie par exemple) prend le pas sur la moralité

Mais ce n'est jamais le cas !
La légitime défense est totalement morale pour la plupart des individus, tuer en tant de guerre est moralement acceptable pour un nombre non négligeable de personne. Pour un voleur professionnel voler n'est pas mal, c'est juste illégal.
La morale individuelle est totalement arbitraire.
Tu peux parfaitement faire une action immorale selon toi et puis finalement ne pas éprouver de culpabilité et te dire et que après tout bah non ça va, ou alors le contraire faire quelque chose en pensant bien faire mais réaliser après coup que t'aurais mieux fait de t’abstenir et de regretter à tout jamais ton geste pourtant moralement acceptable selon toi. Il y a rien de rationnel là dedans. Comment veux tu programmé du ressenti, tout ce que tu pourras faire c'est tenter de reproduire des schémas, mais c'est je pense une fausse piste...

Faux car on peut tout à fait (et on le fait couramment) laisser un robot faire ses propres expériences.

Non, il n'a pas le champ libre. Le "tu ne tueras pas" biblique est la conséquence de milliers d'année de tuerie et n'a pas empêché les milliers d'année de tuerie suivantes. Cette réalité absurde est une composante essentielle de la morale humaine.
Va programmer que la première règle ne s'applique pas vraiment mais que c'est mieux qu'on l'applique à moins qu'on ait pas le choix sauf qu'on a toujours le choix, du moins en théorie mais on est pas sûr en pratique, donc quoi c'est programmé ? c'est quoi le code bah on l'a pas.. merde et puis tout ce qu'on a bâti est basé sur le fait que c'est pas programmé... mais, mais alors est que ce doute influe sur mes actions? euh quoi ?
Ça c'est ta règle numéro 1.
On ne peut laisser à un robot autonome le libre arbitre de pouvoir tuer ou non en comptant sur son sens moral pour ne pas le faire. Un robot ne sera jamais responsable de ses actes. Ces émotions n’altéreront donc jamais sont jugement, car son jugement sera restreint par son programme certaines possibilités seront impossibles. Un robot pourra rationnellement comprendre le mécanisme de la colère mais jamais ne la ressentir.

si le système ou la personne est capable de sacrifier son intérêt en faveur du choix moral,

Mais là c'est ta propre vision de la morale que tu mets en avant, pour Sade il était moralement acceptable que des parents abusent de leur enfants ceux ci auraient, s'ils y survivent, tout le loisir d'éprouver les joies de la vengeance quand ils seraient devenus suffisamment fort pour répliquer.
La notion de sacrifice n'a pas de sens en soi, elle est contextuelle. C'est pas un critère objectif.

Le fait est que la première espèce sapiente issue de l'évolution est nécessairement la moins évoluée qu'il soit possible.

Affirmation totalement gratuite, l'évolution n'a pas la finalité d'améliorer ses créations.

Un coureur se fait battre par une voiture. Est ce qu'on va déclarer que le déplacement de la voiture n'est pas authentique ?
L'humain se fait battre au calcul mental. Est ce qu'on va déclarer que les ordinateurs ne calculent pas vraiment ?
L'humain se fait battre à la reconnaissance de visages par une machine qui imite précisemment (mais bien plus rapidement) les couches neurales du cortex visuel humain. Est ce qu'on va déclarer que ce n'est pas de la vraie reconnaissance ?

Oui et alors ? Ce sont des actions purement mécaniques qui n'ont pas aucun lien avec les émotions, la conscience, le libre arbitre.

Et si on remplace la machine par un chien ? Par un bébé ? Par une arme ?

Si le chien s'échappe tu es responsable. Si on te le vole, le voleur est responsable.
Si c'est pas un chien mais un tigre et que tu n'as aucune autorisation de le posséder tu es responsable, même si on te le vole.
Tu n'es évidemment pas responsable des actes commis par un bébé qu'on t'a kidnappé, pareil pour l'arme sauf encore une fois si tu n'avais pas l'autorisation de la posséder ou si tu as failli a ton obligation morale de la mettre en lieu sûr.

[Etienne Beauman]

Salut Denis,

Que le coinçage (du plus tordu) arrive 20~25 fois plus vite en Redico qu'en style libre, c'est plus un point positif qu'un point négatif.

Non?

Tu préfères les enlisements lents?

Bah c'est justement de ça que je suis pas convaincu du tout du tout.
On passe en redico quand ça coince déjà en libre, et on se rend compte trente coups plus tard que bah oui ça coince. Je t'accorde que ça peut permettre de localiser plus précisément le point où sa coince si on pratique patiemment la dichotomie. Mais on arrive au même résultat avec une demande de réponse en oui ou non.

[Denis]

Salut Étienne,

Tu dis :

Mais on arrive au même résultat avec une demande de réponse en oui ou non.

En style libre? Avec des pavés de 250 propositions dégoulinantes de rhétorique?

Le pire, c'est qu'on dirait que tu le penses vraiment.

Denis

[Etienne Beauman]

En style libre? Avec des pavés de 250 propositions dégoulinantes de rhétorique?

Le pire, c'est qu'on dirait que tu le penses vraiment.

C'est le cas.

Le 11/9/01, le Boeing 757 du vol AA77 a terminé son vol en dans un crash dans l'édifice du Pentagone.
Oui ou non ?
Le chat le plus âgé de la planète vit présentement au Liechtenstein.
Oui ou non ?
Les restes de la plupart des passagers du vol AA77 ont été récupérés et identifiés dans les débris du Pentagone.
Oui ou non ?
Plusieurs dizaines de personnes ont clairement vu un gros avion de ligne volant très très bas en direction du Pentagone, avant d'entendre un gros "boum".
Oui ou non ?
Le 11 sept. 2001, vers 8h20, le vol AA77 a quitté l'aéroport Washington-Dulles (en direction de Los Angeles) avec plus de 60 personnes à bord.
oui ou non ?


Que Richard réponde à ces questions par oui ou par non, t'en apprends autant que son évaluation.

[yquemener]

Bon, ça m'énerve, on arrête pas de sauter d'une définition à l'autre, de changer le cadre du problème, on va tourner en rond, oscillant entre plusieurs définitions de la moralité, de la responsabilité, de l'expérience. J'arrête pas de donner des arguments, ils sont enterrés sans justification...

Je préfère revenir à une question fondamentale que j'ai posé plusieurs fois et à laquelle je n'ai toujours pas vu de réponse satisfaisante: Si vous considérez qu'il existe une chose qui rend les émotions authentiques, dites moi sur quelles observations vous vous basez, que l'on établisse un test objectif sur la base de ces observations. Si vous en êtes incapable, admettez qu'il s'agit d'une simple croyance. Sinon, expliquez moi pourquoi vous pensez qu'un fait peut se passer d'une observation objective.

[Etienne Beauman]

Salut Yquemener,

on va tourner en rond, oscillant entre plusieurs définitions de la moralité, de la responsabilité, de l'expérience. ... Si vous considérez qu'il existe une chose qui rend les émotions authentiques, dites moi sur quelles observations vous vous basez, que l'on établisse un test objectif sur la base de ces observations. Si vous en êtes incapable, admettez qu'il s'agit d'une simple croyance.

Mais le problème est bien là, la conscience c'est avant tout subjectif.
Que fais tu de l'identité ?
Ne pourrais tu pas théoriquement créer une machine qui réussisse à se faire passer pour toi quelque soit le protocole de vérification utilisée ?
Qu'est ce que ça prouve ?
Que l'identité est une croyance ?


conscience:
Organisation de son psychisme qui, en lui permettant d'avoir connaissance de ses états, de ses actes et de leur valeur morale, lui permet de se sentir exister, d'être présent à lui-même

valeur :
Qualité, importance estimée par un jugement subjectif.

Morale :
Qui concerne les règles ou principes de conduite, la recherche d'un bien idéal, individuel ou collectif, dans une société donnée.

bien :
En rapport avec certains critères d'appréciation individuels ou collectifs; d'une manière exactement adéquate à l'idée ou à l'effet attendu(e), propre à recevoir l'approbation.

responsabilité morale :
Nécessité pour quelqu'un de répondre de ses intentions et de ses actes devant sa conscience.

émotion :
Conduite réactive, réflexe, involontaire vécue simultanément au niveau du corps d'une manière plus ou moins violente et affectivement sur le mode du plaisir ou de la douleur.

Si tu m'accordes que les émotions affectent le jugement, la boucle est bouclée.
Tout est lié est profondément subjectif.
On a pas de protocole infaillible pour évaluer si un homme est responsable de ses actes ou non, on a des débats d'experts psychiatres dans les tribunaux et des psychopathe sont assez souvent relâché car ils ont réussi à passer les tests de moralité mais récidivent à la première occasion. Quelque soit ton protocole expérimentale je suis quasiment persuadé que des humains échoueraient à ce test (a-t-on fait l'expérience avec le test de Turing, un autiste par exemple peut-il réussir ce test ? ) et pourtant tous les hommes ont une conscience. (même si elle peut être altéré au point que ça ressemble plus à rien)

[yquemener]

Mais le problème est bien là, la conscience c'est avant tout subjectif.

C'est l'argument de toutes les croyances. Les choses non testables et subjectives n'ont pas d'existence objective. Elles n'ont donc aucune différence avec les croyances.

Que fais tu de l'identité ?
Ne pourrais tu pas théoriquement créer une machine qui réussisse à se faire passer pour toi quelque soit le protocole de vérification utilisée ?
Qu'est ce que ça prouve ?
Que l'identité est une croyance ?

Plus précisément, l'unicité de l'identité est une croyance. Une machine qui répond exactement comme moi à toutes les questions, qui agit comme moi dans toutes les circonstances, ce serait une copie de moi même et "serait" moi. Ce qui ne manquerait pas de poser des questions juridiques intéressantes.

Si tu m'accordes que les émotions affectent le jugement, la boucle est bouclée.

C'est un système à boucle fermée. On en fait depuis plus longtemps qu'on ne fait des ordinateurs. C'est vieux comme la cybernétique.

On a pas de protocole infaillible pour évaluer si un homme est responsable de ses actes ou non, on a des débats d'experts psychiatres dans les tribunaux

Normal : c'est une caractéristique arbitraire.

Quelque soit ton protocole expérimentale je suis quasiment persuadé que des humains échoueraient à ce test

Le but n'est pas de détecter des humains mais d'identifier des machines. Catégoriser de façon erronée un humain en tant que machine montre que l'échantillon humain n'est pas adapté à cette épreuve (et oui, ça arrive fréquemment, et pas que avec des autistes). Le test de Turing absolu, c'est être incapable de trouver un humain pour lequel la machine n'arrive pas à se faire passer. Si cette machine y parvient de façon répétée, on pourra dire qu'elle a au moins une intelligence humaine.

[Etienne Beauman]

Les choses non testables et subjectives n'ont pas d'existence objective.

Faux.
C'est un sophisme.
Les choses existent ou pas.
Notre capacité de les évaluer est une conséquence directe de leur existence, mais pas l'inverse.
Le boson de Higgs existe ou pas.
La vie quelque part ailleurs dans la galaxie existe ou pas.
Leur existence ne dépend pas de notre capacité à le prouver.
L'absence de preuve n'est pas la preuve de l'absence.

Une machine qui répond exactement comme moi à toutes les questions, qui agit comme moi dans toutes les circonstances, ce serait une copie de moi même et "serait" moi.

Ça me rappelle une précédente discussion, c'est une vision très personnelle que tu as là. Une copie parfaite de la Joconde ne vaut rien ou presque.
Personne ne ferait la différence entre les deux, mais une Joconde peinte par De Vinci il y en a qu'une. Ne plus savoir laquelle est la vraie serait terrible, mais on sera toujours sûr qu'une des deux n'est qu'une vulgaire copie d'un chef-d’œuvre humain.

Normal : c'est une caractéristique arbitraire.

Tout comme les valeurs morales, qui sont composantes fondamentales de la conscience humaine.
D'où l'impossibilité de mettre en place ton protocole, si tu acceptes l'argument pour la responsabilité je voie pas comment tu peux le rejeter pour la morale, pour la conscience, pour les émotions qui en découlent directement (regret, remord, culpabilité, fierté, etc.).

Si cette machine y parvient de façon répétée, on pourra dire qu'elle a au moins une intelligence humaine.

C'est une conclusion abusive, ça prouve juste qu'un humain ne sait pas faire la différence, une copie reste une copie et de toute façon c'est hors sujet, on parle de conscience pas d'intelligence.

[yquemener]

Les choses non testables et subjectives n'ont pas d'existence objective.

Faux.
C'est un sophisme.
Les choses existent ou pas.
Notre capacité de les évaluer est une conséquence directe de leur existence, mais pas l'inverse.
Le boson de Higgs existe ou pas.

Le boson de Higgs a des conséquences sur notre univers, on peut le tester. La licorne rose invisible existe ou pas, mais elle n'a aucune conséquence sur notre univers, aussi dire qu'elle n'existe pas est raisonnable à toutes fins utiles. Tout ce qui existe, on peut proposer une expérience, fut-ce une expérience par la pensée pas réalisable en pratique, qui démontre son existence. Le genre de raisonnement selon lequel il existe des choses qui ne seront jamais testables et sur lesquelles on ne peut pas proposer de protocole, c'est ce qu'utilisent parapsychologues et astrologues, pour justifier qu'ils sont bien une science qui étudie quelque chose qui échappe à l'expérimentation.

Normal : c'est une caractéristique arbitraire.

Tout comme les valeurs morales, qui sont composantes fondamentales de la conscience humaine.
D'où l'impossibilité de mettre en place ton protocole, si tu acceptes l'argument pour la responsabilité je voie pas comment tu peux le rejeter pour la morale, pour la conscience, pour les émotions qui en découlent directement (regret, remord, culpabilité, fierté, etc.).

Mais alors, on n'est pas d'accord ? Oui, tout ceci sont des valeurs purement arbitraires déterminées par la société et donc oui, si on convainc la société que l'on est responsable, que l'on peut avoir une morale, que l'on éprouve des émotions, c'est bon. Il n'existe aucun test plus poussé, on ne peut pas tester cette imaginaire caractéristique d'authenticité de façon objective. L'authenticité d'une émotion est la même abstraction sociale que la responsabilité pénale d'un individu. Un robot qui convaincrait un tribunal humain de sa responsabilité pénale n'aurait pas de meilleur test à sa disposition. De même, il n'y a pas de différence en pratique entre une simulation parfaite d'une émotion et l'émotion authentique.

Enfin, en tous cas on semble d'accord sur le point initial de la conversation : il n'y a rien dans l'expression d'une émotion qui ne soit pas simulable, calculable.

Si cette machine y parvient de façon répétée, on pourra dire qu'elle a au moins une intelligence humaine.

C'est une conclusion abusive, ça prouve juste qu'un humain ne sait pas faire la différence, une copie reste une copie et de toute façon c'est hors sujet, on parle de conscience pas d'intelligence.

Une copie reste une copie, mais si aucun humain ne parvient à faire la différence, c'est une copie interchangeable avec l'original sans aucune différence pratique.

[shisha]

D'un point de vue extérieure la machine aura peut-être les mêmes caractéristiques que l’homme, mais juste d'un point de vue extérieure ..

Quand serait-t-il de "l'univers intérieure" de la machine comparé à celui de l’homme ?

[Etienne Beauman]

Salut Yquemener,

Tout ce qui existe, on peut proposer une expérience, fut-ce une expérience par la pensée pas réalisable en pratique, qui démontre son existence.

C'est parfaitement faux, et c'est pas faute d'avoir essayer.

Le genre de raisonnement selon lequel il existe des choses qui ne seront jamais testables et sur lesquelles on ne peut pas proposer de protocole, c'est ce qu'utilisent parapsychologues et astrologues, pour justifier qu'ils sont bien une science qui étudie quelque chose qui échappe à l'expérimentation.

Et ça c'est un autre sophisme, c'est pas parce que des charlatans utilisent à mauvais escient un raisonnement valide pour leur causes en oubliant que la charge de la preuve leur incombe et qu'une possibilité logique ne suffit pas, que tu peux rejeter le raisonnement si je ne commets pas la même erreur.
Je suis pas en train d'essayer de te prouver que la conscience existe, tu le sais déjà. C'est toi qui t'appuie sur un raisonnement invalide pour dire "si ça existe, alors on doit pouvoir mettre en place un protocole* (que réussira ma machine.)"
Et bah non, pas forcément.

Mais alors, on n'est pas d'accord ?

Sur quoi ? Sur le fait qu'une machine programmée pour passer un test le réussira bah oui, et depuis le début. C'est le test que je remets en cause, il ne prouve rien.

si on convainc la société que l'on est responsable, que l'on peut avoir une morale, que l'on éprouve des émotions, c'est bon. I

Mais le but c'est pas de convaincre qu'on éprouve une émotion, qu'on est responsable de ses actes, qu'on a une conscience, c'est d'éprouver une émotion, être responsable, avoir une conscience.
Il y a une différence fondamentale entre un innocent et un criminel déclaré non-coupable.

Enfin, en tous cas on semble d'accord sur le point initial de la conversation : il n'y a rien dans l'expression d'une émotion qui ne soit pas simulable, calculable.

Non, à partir du moment où les émotions humaines dépendent du vécu de l'individu tu ne peux réduire une émotion à quelques paramètres sans perdre sa spécificité, tu reproduiras un comportement qui ressemble au comportement qu'a un humain qui éprouve cette émotion, t'auras pas pour autant reproduit l'émotion pour la machine.
Je pense qu'on s'en sortira pas, selon moi pour éprouver une émotion il faut un cerveau, ça n'a pas de sens en dehors de ce contexte. Comme je le disais il y a quelques jours si une conscience émerge chez les machines elle nous sera profondément étrangère.

*et d'ailleurs en plus tu glisses, plus haut tu dis un protocole pour prouver son existence, mais c'est pas de ça qu'il s'agit ici, ton protocole n'a pour but de prouver l'existence de la conscience. Cet argument ne tient pas du tout la route.
Dire que la conscience est trop complexe pour mettre au point un test fiable permettant de savoir qui est conscient et qui ne l'est pas , n'a rien d'une croyance.

[kestaencordi]

si unhumain est un assemblage d'element. comme je le crois. la conscience (c quoi ca) est une des consequence d cet assemblage.

[yquemener]

Tout ce qui existe, on peut proposer une expérience, fut-ce une expérience par la pensée pas réalisable en pratique, qui démontre son existence.

C'est parfaitement faux, et c'est pas faute d'avoir essayer.

Qu'est ce que les problèmes du millénaire ont à faire dans cette conversation ? Trouve moi une seule chose dont les scientifique s'accordent sur l'existence sans être capables de donner une expérience (fut-ce une expérience par la pensée) qui prouve ou infirme l'existence de cette chose. Pour reprendre un problème du millénaire, le problème N=NP qui me touche un peu en tant qu'informaticien, peut être déterminé soit par la production d'un algorithme capable de résoudre les problèmes NP en un temps court soit par la production d'une preuve formelle que P=NP est faux.

L'authenticité des émotions, non-testable, est donc sans réalité pratique. Si tu décides que la définition du terme est "une émotion générée par un cerveau organique humain", ok, en effet, on ne peut pas imiter, par définition, cette caractéristique arbitraire. C'est un peu comme manger des fruits cueillis par une jeune vierge une nuit de pleine lune : ils n'ont aucune propriété testable différente d'un autre fruit, mais la façon dont ils ont été cueillie, quoique sans aucune influence sur leurs propriétés testable, leur est propre. Comprends quand même que je classe ce genre de définitions dans le domaine de la superstition sans conséquence réelle.

[Etienne Beauman]

Salut Yquemener,

Trouve moi une seule chose dont les scientifique s'accordent sur l'existence sans être capables de donner une expérience (fut-ce une expérience par la pensée) qui prouve ou infirme l'existence de cette chose

Nouveau glissement :
Ton "tout" est devenu "quelque chose* dont les scientifiques s'accordent sur l'existence", mais passons je te rappelle que la conscience n'est mis en doute par personne, que son existence est constatée : il suffit, je pense, de faire un électro-encéphalogramme pour faire la différence entre un homme endormi, dans le coma, en train de méditer, conscient ou mort et donc que ton protocole ne sert pas à établir si la conscience existe ou non.
Donc quand bien même tu aurais raison, tu ne pourrais te servir de cet argument pour valider ton protocole qui ne prouve pas une existence puis que ce n'est pas cela qu'il teste, il teste un comportement.

*La propriété d'alignement des zéros non triviaux conjecturés par Riemann, semble bien existé

on affirme ainsi généralement que le milliard et demi de zéros calculés par lui vérifient tous l'hypothèse de Riemann

mais voilà ça fait 150 ans qu'on cherche en vain à prouver que c'est bien le cas.

Si tu décides que la définition du terme est "une émotion générée par un cerveau organique humain", ok, en effet, on ne peut pas imiter, par définition, cette caractéristique arbitraire

Arbitraire ?!
Cite moi une chose sans cerveau (le humain, c'est toi qui l'a mis) dont les scientifique s'accordent sur l'existence éprouvant des émotions ?

Je crois que je vais en rester là.

[yquemener]

Nouveau glissement :
Ton "tout" est devenu "quelque chose* dont les scientifiques s'accordent sur l'existence",

Toutes les choses ayant une existence reconnue sont testable, il en découle que si tu peux me trouver un seul contre-exemple, cette affirmation est fausse. C'est les bases de la logique, appeler ça un glissement ne donne vraiment pas envie d'aller plus avant.

Je ne commente pas sur la conscience, je ne sais pas pourquoi tu as envie de parler de ça. C'est très intéressant comme sujet et je pense qu'on est également en désaccord dessus, mais là on parle des émotions. Je ne vois pas ce que vient faire ici ton observation sur l'observabilité de la conscience. Je ne comprends pas plus ta sortie sur les zéros de Riemann. On a une propriété qui est sans doute vraie mais dont on n'a pas la preuve formelle (d'où le nom de "conjecture"), on suppose souvent qu'elle est vraie, mais on sait tout à fait dans quelles conditions on acceptera ou refusera sa véracité : il faudra une preuve mathématique formelle ou un contre-exemple. Aucun rapport donc avec ta définition de l'authenticité des émotions, pour laquelle tu ne fournis aucun critère objectif.

Si tu décides que la définition du terme est "une émotion générée par un cerveau organique humain", ok, en effet, on ne peut pas imiter, par définition, cette caractéristique arbitraire

Arbitraire ?!
Cite moi une chose sans cerveau (le humain, c'est toi qui l'a mis) dont les scientifique s'accordent sur l'existence éprouvant des émotions ?

Une simulation parfaite d'un cerveau humain, selon à mon avis la majorité du monde scientifique, éprouverait des émotions. Aujourd'hui, aucune chose sans cerveau organique n'éprouve à ma connaissance, ce que nous appelons et interprétons comme des émotions. Le coté arbitraire, c'est d'exiger une origine organique aux émotions pour les considérer authentiques. C'est un peu comme si je disais que quelqu'un qui n'est pas né en France (ok, ou au Québec) ne parlera jamais vraiment Français mais se contentera d'imiter l'usage de cette langue. Il y a un critère (le lieu de naissance) mais il est complètement arbitraire car aucune observation en aveugle n'est capable de le déterminer.


Je crois en effet que je vais aussi laisser tomber. Je dois revenir au sujet principal à chaque message, je suis accusé de glisser quand j'utilise de la logique, et aucun de mes arguments n'est adressé dans les réponses. Je commence à comprendre pourquoi le redico n'est pas ta méthode préférée.

[Etienne Beauman]

Toutes les choses ayant une existence reconnue sont testables

Évidemment, si elles sont reconnues c'est qu'elles ont déjà été testées.
L'affirmation que je conteste je l'ai cité :

Tout ce qui existe, on peut proposer une expérience, fut-ce une expérience par la pensée pas réalisable en pratique, qui démontre son existence

C'est tout ce qui existe pas toutes les choses ayant une existence reconnue, si tu changes tes propos au fur et à mesure il faut en faire acte. Ne pas le faire ce ne sont pas les bases de la logique ce sont celles de la mauvaise foi.
A aucun moment je n'ai prétendu qu'on ne pouvait pas testé l'existence de la morale, de la responsabilité, de la conscience ou des émotions, ni même qu'on ne puisse évaluer leur intensité.
Donc ton argument où il en est rendu maintenant est un épouvantail.

On peut mesurer l'intensité d'une émotion par IRM je présume, mais bon ton robot à l'IRM il va rien donner...
Le protocole que tu veux mettre en place mesure autre chose :
il mesure la différence entre un comportement humain induit par une émotion et le comportement d'une machine induit par un programme "réactionnel"*.
Et tu prétends que si la différence est nulle alors le programme est une émotion.
Si A-B=0 alors A=B.
Mathématiquement cela se tient, mais ce sont les comportement qui sont égaux, pas nécessairement ce qui les a induit.
Je reviens au Q si un homme a la même réaction érectile devant devant un homme nu que devant une femme nu, tu va pas en déduire que la femme c'est un homme.
La question porte donc aussi sur le protocole, je reprends ton exemple de copie parfaite de toi. s'il n'y a aucune différence entre toi et ta copie la conclusion n'est pas que tu es ta copie mais bien que le test n'est pas suffisamment précis car tu n'es pas ta copie. Tout comme il n'y a qu'une Joconde, celle peinte par De Vinci.
Dans le monde réel deux objets de série produits à l'identique à 10 secondes d'intervalle, sont pourtant deux objets uniques différents.
Je remets donc en question, outre les chemins de traverse, deux choses dans ton propos :
Un, la possibilité de mettre au point un tel protocole car les interactions entre les émotions, la conscience, le libre arbitre sont trop complexe selon moi pour être modélisées. (ce qui je le répète n'a rien à voir avec un test sur l'existence des émotions, de la conscience ou du libre arbitre)
Deux, la pertinence du résultat. Une émotion c'est avant tout un ressenti et on pourra jamais ressentir ce que ressens le robot pour savoir si c'est de la même nature que ce qu'on ressent nous, la similitude des réactions comportementales induites a beau être parfaite cela ne prouve rien sur l'essence du ressenti.

*on sera surement d'accord pour dire qu'une émotion est un programme réactionnel, mais ça veut pas dire que tout programme réactionnel est une émotion.

[yquemener]

Tiens ? on avancerait ? On presque enfin une ébauche de protocole (note que je ne proposais le mien que comme une base, t'invitant à proposer un autre protocole qui justifierait ta position)

On peut mesurer l'intensité d'une émotion par IRM je présume, mais bon ton robot à l'IRM il va rien donner...

D'accord, je dois donc réaliser un robot qui à l'IRM donne la même réponse émotive qu'une être humain ? Ça me parait faisable. Les mêmes schémas d'activité, aux mêmes endroits, avec les mêmes intensités, ça permettrait de faire la différence entre une machine qui simule et une machine qui ressent une émotion selon toi ?

Mathématiquement cela se tient, mais ce sont les comportement qui sont égaux, pas nécessairement ce qui les a induit.

Argument tout à fait recevable, mais à l'encontre duquel une critique me vient tout de suite à l'esprit : Si les comportements résultants viennent de causes différentes, on peut le prouver. Ce serait très facile dans le cas d'un programme informatique, d'analyser les causes d'un comportement puisqu'on a accès à tous ses rouages, dans le cas d'un humain, on commence à avoir la technologie qui le permet. Si un programme réagit aux mêmes choses qu'un humain, pour les mêmes raisons, de la même façon, où se situe le caractère authentique de l'émotion humaine ?

L'exemple le plus simple à considérer est celui d'une simulation de cerveau humain : ce seront bien les mêmes causes qui par les mêmes mécanismes (certes simulés mais obéissant aux mêmes règles) causeront des réactions internes et externes identiques.

[Etienne Beauman]

D'accord, je dois donc réaliser un robot qui à l'IRM donne la même réponse émotive qu'une être humain ? Ça me parait faisable

Carrément !?
Donc en gros si je comprends bien, t'es entrain de me dire que quelque soit l'émotion que j'éprouve, tu pense pouvoir créer une machine qui éprouve la même ?
Je suis pas spécialiste du cerveau mais il me semble bien quand même que les connections neuronales d'un individu sont uniques, autrement dit plus on affine la précision de l'IRM (ou d'autres méthode il me semble qu'avec l' IRM on a que la surface et pas le détail des couches ou je mélange peut être avec le TPE) et plus on finira par arriver à une émotion particulière, moi me remémorant aujourd'hui ma première sortie à vélo sans les roulettes, = une image unique.
Et que moi demain me remémorant la même scène on aura une image différente car si j'ai bien compris un article lu récemment se remémorer un souvenir le modifie toujours un petit peu.
Tu crois vraiment que ta machine reproduisant mon activité cérébrale à la perfection serait entrain de ressentir la même émotion ?
Comment cela pourrait il avoir un sens ?
Tu va me dire que je zoome trop loin et que tu parles d'émotion générique, mais on peut dézoomer si tu veux... à partir de quel moment une de mes émotions ne se trouve plus liée à mon vécu ? Jamais.
Voilà ça fait je pense un bon argument physique, la construction du cerveau se fait au jour le jour et chaque modification est susceptible de correspondre à un événement marquant pour l'individu qui modifie ses réactions émotives. Mais ta machine tu va la créer en une fois pour quelle est les mêmes schémas d'activité, aux mêmes endroits, avec les mêmes intensités que mon cerveau mais tu seras bien incapable de lui traduire ce que cela signifie en terme de vécu. T'auras une machine amnésique qui aura peu de chance de réagir de la même façon que le modèle original.

Les mêmes schémas d'activité, aux mêmes endroits, avec les mêmes intensités, ça permettrait de faire la différence entre une machine qui simule et une machine qui ressent une émotion selon toi ?

Je t'accorderai que la machine peut simuler si et seulement si elle le fait d'elle même, sans programme lui disant quoi faire lorsqu'elle simule, il faudrait donc qu'elle apprenne à reconnaitre toute seule une partie des caractéristiques liées à une émotion et qu'elle tente de les reproduire sans passer évidement par le circuit qui gère les émotions pour cela le mieux encore serait qu'elle soit capable de reconnaitre une émotion chez les autres (chez les humains tant qu'à faire) et de faire le lien avec une situation donné et qu'elle se mette en tête de le reproduire.
Une machine qui ferait ça me semblerait pas mal consciente d'elle même, mais pour le coup là c'est un bon exemple de ce que j'entends par conscience qui nous serait totalement étrangère, bien que le mimétisme fait partie de nos comportements sociaux la façon dont elle traduirait nos comportement pour les rejouer à sa sauce seraient bien plus authentique(ment robot) qu'un programme copiant nos comportements à la perfection.

Ce serait très facile dans le cas d'un programme informatique, d'analyser les causes d'un comportement puisqu'on a accès à tous ses rouages, dans le cas d'un humain, on commence à avoir la technologie qui le permet. Si un programme réagit aux mêmes choses qu'un humain, pour les mêmes raisons, de la même façon, où se situe le caractère authentique de l'émotion humaine ?

Je pense que j'ai déjà répondu plus haut, l'émotion humaine ne peut pas être séparé d'une existence humaine.

[yquemener]

Écoute, c'est toi qui a commencé à me parler d'IRM pour reconnaître "l'authenticité" des émotions. Je suppose donc que tu penses possible de reconnaître via IRM une émotion authentique d'une émotion simulée. Personnellement je n'y crois pas (car je pense que c'est tout à fait simulable), mais ne mélange pas les arguments : c'est ta thèse, pas la mienne. Soudain tu déclares qu'il s'agit d'imiter à la perfection tes souvenirs de vélo : j'en ai assez qu'à chaque post, tu travestisses complètement tes arguments et les miens. Je te propose une de ces trois alternatives pour la suite de la discussion :

1) Tu me proposes un protocole objectif (même pas réalisable en pratique) pour juger de l'authenticité d'une émotion.

ou

2) Tu admet qu'un tel protocole ne peut exister (je considère que tu l'as déjà fait mais je peux me tromper). À ce moment là tu affirmes que l'authenticité, cette caractéristique non testable, a une importance même si elle n'est pas observable objectivement et personnellement je suis en désaccord et on en reste là. On s'accorde sur notre désaccord.

ou

3) On continue en redico. Ca évitera mes "glissements" et tes sauts d'un sujet à l'autre.


Je n'ai plus envie de continuer en forme libre comme ça.

[Etienne Beauman]

salut Yquemener,

Écoute, c'est toi qui a commencé à me parler d'IRM pour reconnaître "l'authenticité" des émotions

Non ! C'est lourd à la fin.

On peut mesurer l'intensité d'une émotion par IRM je présume

À ce moment là tu affirmes que l'authenticité, cette caractéristique non testable, a une importance même si elle n'est pas observable objectivement et personnellement je suis en désaccord et on en reste là.

Ce que je souligne n'a pas été démontrée, une femme qui simule un orgasme ne simulera pas la rétractation du clitoris, si ?
T'as des sources allant dans ce sens ?

T'es sur une position du type j'ai raison jusqu'à preuve que j'ai tort.
La vérité de tes affirmation ne dépend pas de mes capacité à mettre ou non au point un protocole ruinant tes espérances. T'as tenté de m'envoyer bouler en assimilant mes doutes à des croyances, mais la charge de la preuve t'incombe à toi, c'est toi qui prétend qu'on peut réduire une émotion à quelques paramètres programmables, c'est donc à toi de répondre point par point aux objections.

Alors oui on en reste là mais on est même pas d'accord sur notre désaccord.

[yquemener]

T'as tenté de m'envoyer bouler en assimilant mes doutes à des croyances, mais la charge de la preuve t'incombe à toi, c'est toi qui prétend qu'on peut réduire une émotion à quelques paramètres programmables, c'est donc à toi de répondre point par point aux objections.

Je veux bien le faire sous forme de redico, ça évitera qu'on se remette à parler de clitoris quand on commençait à arriver quelque part avec les IRMs.

[Etienne Beauman]

Depuis que j'ai annoncé que la conversation touchait probablement à sa fin, c'est la troisième fois que tu me relances sur le redico que j'avais préalablement décliné.
Chercherais tu la victoire par forfait ?
E1 :
Une femme qui simule un orgasme simule la rétractation de son clitoris.
Étienne 0% | Yquemener ? | Quivoudra ?

Redico ou pas ça change rien, soit tu réponds de bonne foi aux questions soit tu le fais pas.

E2 :
Tout ce qui existe, on peut proposer une expérience, fut-ce une expérience par la pensée pas réalisable en pratique, qui démontre son existence.
Étienne 0% | Yquemener ? | Quivoudra ?

E3 :
Le fait est que la première espèce sapiente issue de l'évolution est nécessairement la moins évoluée qu'il soit possible.
Étienne 0% | Yquemener ? | Quivoudra ?

E4 :
"Ne fais pas souffrir les autres" résume 90% des règles morales
Étienne 0% | Yquemener ? | Quivoudra ?

Redico ou pas ça change rien, soit tu acceptes de reconnaitre tes erreurs soit tu le fais pas.

Pas la peine de salver en retour, je sais déjà que ça coince j'éprouve pas le besoin de savoir précisément où.
Si tu le fais quand même t'auras ta victoire pas forfait.