Gérard Berry : « L’ordinateur est complètement con »

[yquemener]

Tu sembles être assez convaincu du bien-fondé de tes raisonnements et de tes arguments.

Oui, mais je répète qu'il s'agit d'une conviction forgée au fil des années à ne pas voir d'arguments contraires qui tienne la route.

Ça dépend ce que tu entends par « existence ». La conscience, le fait de ressentir, on ne peut pas dire que ça n'existe pas d'une manière fondamentale.

La conscience existe en tant que sensation. Tout comme les fantômes et Dieu. En général on n'entent pas ce sens là quand on parle de l'existence d'une chose. Et en effet, je m'interroge sur l'existence de la conscience au delà de cette définition.

Par contre, une chose qui me semble utile est d'établir des corrélations entre les états physiques et mentaux. La conscience devient alors immédiatement confondue avec sa façon d'être consciente. C'est déjà beaucoup plus scientifique.

Peux tu donner un exemple? Tel que tu le décris j'ai l'impression que certains systèmes le font déjà.

J'espère que tu as tort sur ce point, car ce serait assez désolant de voir une élite intellectuelle succomber à un tel désir qui n'a plus aucun rapport avec la recherche.

Toute "l'élite" n'y succombe pas. Uniquement les dualistes et les partisans de l'hypothèse "soupe quantique" dont je ne suis même pas sur qu'ils constituent la majorité des personnes s'intéressant de près au sujet.

Je suis en accord avec la possibilité de simuler toujours mieux et plus longtemps un comportement intelligent que l'on considère comme étant en partie conscient. Mais, l'entité artificielle ressentira-t-elle vraiment du plaisir, de la douleur, des émotions?

Questiom: Peux-tu me prouver que tu ne simules pas ces sensation? Question intermédiaire: Peux-tu TE prouver que tu les ressens vraiment au lieu d'avoir un circuit qui se contente de les simuler?

L'émergence de choses non prévues n'est-elle pas, en un sens, un aveu d'une compréhension plutôt parcellaire?

Si je montre que tous les comportements peuvent être programmés on me répond "Ah mais si tu dois tout programmer, c'est nul parce que le programme ne découvre pas les choses par lui même." Du coup je montre qu'on peut aussi faire émerger des comportements et tu me réponds "Ah oui mais si ça émerge c'est que tu ne comprends pas ce qui se passe". Sérieux, je dois faire quoi pour vous convaincre ?

Je me demande aussi ce qui, a priori, empêcherait théoriquement que le niveau quantique joue un (petit) rôle dans notre façon d'être conscient?

Théoriquement, rien. D'ailleurs le "niveau quantique" joue un rôle fondamental dans les ordinateurs au passage. Mais une fois que cette possibilité théorique est admise, il faut :
- En donner une preuve pratique (pour l'instant on a plutôt des preuves du contraires avec des phénomènes largement macroscopiques)
- Expliquer en quoi ça change quelque chose de fondamental. Ce n'est pas parce qu'un phénomène quantique intervient que le système n'est pas modélisable.

Donc, si ton affirmation n'est pas tautologique, je ne suis pas certain d'être en accord avec le principe qu'elle laisse entendre.

Ce que je laisse entendre c'est qu'un petit programme "immuable" peut générer une gamme de comportements extrêmement flexibles. Quand on dit que le programmeur fixe dans le marbre un comportement, ça ne me semble pas un argument plus recevable que de dire que les humains sont incapables d'adaptation car ils sont incapables de changer les caractéristiques mécaniques d'un neurone. La flexibilité d'un programme peut être suffisante à l'adaptabilité et à l'apprentissage.

Serais-tu d'accord pour dire qu'il est possible de simuler une forme matérielle évolutive qui « ressemble fortement » à une conscience intelligente, mais qui, en réalité, serait une quasi complète inconscience « intelligente (selon notre impression seulement) »?

Pas vraiment. C'est peut-être un problème de définition mais je ne vois pas trop ce que tu veux dire.

Si l'on décide qu'une procédure purement mécanique est l'expression d'une intelligence seulement parce qu'elle en a toutes les apparences, d'accord. Mais, on ne peut pas en conclure pour autant que cette procédure « ressente » sa seule propre existence intelligente, qu'elle soit dotée de conscience.

Même question que plus haut: dis moi comment tu prouves que toi, tu ressens réellement ta propre intelligence et je te programme un truc qui passe le test.

Mais si « X » signifie l'existence?

Sauf que X ici signifiait "conscience", donc argument rejeté :-)

Imaginons un univers éternel (gouverné par certaines lois) comme étant un tout unifié et forcément sans lien (philosophique ou physique) avec d'autres univers hypothétiques. Cet univers serait tel qu'il ne pourrait aucunement engendrer quelconque conscience ou forme de conscience (c'est-à-dire de sensibilité). Peut-on dire que cet univers pourrait exister ou aurait pu réellement exister?

Ben oui. Si tu trouves que par exemple l'apparition de la vie consciente dépend d'une certains quantité d'anti-matière au moment du Big Bang, tu peux imaginer qu'un tel univers puisse exister. Aujourd'hui on a du mal à dire si c'est possible car il nous reste des inconnues sur les conditions de l'abiogenèse et les conditions nécessaires à l'apparition de la vie intelligente, mais rien ne dit que dés qu'un univers existe, ces phénomènes apparaissent. Il est même relativement probables que ce ne soit pas le cas!

La machine peut-elle vraiment ressentir qu'elle existe si aucune conscience n'est essentielle pour son existence?

Si tu as redéfini "conscience" pour vouloir dire "existence", ma démonstration est donc très simple: le programme émet des informations, il existe donc, il est donc conscient. CQFD.

Pourrait-on alors plutôt assimiler la machine à la projection et l'expression d'une forme de conscience humaine liée à ses solutions logiques actuelles (comme l'a exprimé Étienne)?

Ma foi le terme est mal défini, tant que tu ne l'as pas défini strictement, tu peux faire ce que tu veux avec. Un auteur de SF proposait que loin dans le futur, une conscience artificielle atteindra le statut de dieu absolu et que la conscience humaine n'est qu'un écho de sa conscience remontant le temps afin que nous puissions l'inventer. Sans définition claire, tu peux bien dire ce que tu veux!

La machine devra donc comprendre comment elle peut entrevoir ce qui lui manque pour espérer comprendre ce qu'elle ne comprend pas.

Cataloguer l'information manquante est une tâche relativement commune en IA.

Aussi, pour expliquer ou comprendre comment fonctionne l'intelligence, on le fait en utilisant notre intelligence.

Exact. À moins d'utiliser des algorithmes d'apprentissage émergents. Une autre piste à la mode en laquelle, personnellement, je crois moins.

Ainsi, il faudra comprendre comment l'on comprend.

Non, ce n'est absolument pas nécessaire. Ceci dit, une fois ce point atteint, on aura modélisé le phénomène de la compréhension. On pourra ainsi décortiquer le phénomène de compréhension de tous les phénomènes, y compris celui de la compréhension à la récursivité n si ça t'amuse.

la conscience (les qualia)

Si je me souviens de ma philo, les qualia sont les stimulus bruts. Pas la conscience. On peut arguer que la moindre caméra USB génère des qualia.

En effet, l'autoréférence fait apparaitre le théorème de l'incomplétude (vu la complexité inévitable du programme) qui, lui, est lié à ce qui ne se programme pas.

Non. Non-computabilité et non-décidabilité sont des problèmes différents. Et le fait que les humains ne sont pas non plus capable de résoudre ces problèmes montre que ce n'est pas nécessaire à un système intelligent.

Pour s'ajuster à une nouvelle situation, le programme devra agir sur lui-même. Et là, il risque vraiment de tourner en boucle indéfiniment.

Ce n'est pas nécessaire. Comme je l'ai dit plus haut, un petit programme immuable peut générer des comportements extrêmement variés. Et on fait déjà des programmes qui se changent eux-même (en particulier pour les virus informatique). Personnellement je doute de leur intérêt en IA.

[f.didier]

Et c'est faux. Ce n'est pas parce qu'on évalue des probas qu'on "agit par pure mathématique". Il est parti d'un prédicat moral simple assez similaire à celui présent dans les livres d'Asimov: "Toutes les vies humaines ont la même valeur". Il est là contesté et c'est une question philosophique valable à poser. Il ne serait pas difficile de créer un raisonnement mathématique sur d'autres prédicats qui conclurait que l'enfant est à sauver en priorité. Certains ici ont proposé de maximiser le nombre d'années d'espérance de vie sauvées par exemple.

Sans soucis, je suis plutot d'accord avec toi.
Et j'en reviens a ce que je disais plus haut : un ordinateur (robot) ne pourra faire que ce pourquoi il a été programmé et le faire que comme il a été programmé.
Tu les dis toi même : Il ne serait pas difficile de créer un raisonnement mathématique. Il et Créer !
Le robot agira toujours comme un humain l'aura décidé, il se référera toujours a des lignes de code que l'humain lui aura programmé.
Si tu programmes un robot pour pas qu'il franchisse une porte, tu peux faire tout ce que tu veux, laisser la porte ouverte, ou même le laisser dépérir (autant que possible pour un robot) sans alimentation, sa ligne de code lui dira : ne pas franchir la porte !
Même le chien le plus docile du monde, si tu le laisse sans eau, au bout de deux ou trois jours, franchira cette porte, le robot : non !
Tout ca pourquoi ? Car ce n'est pas un être vivant, c'est juste un bout de métal (et pleins d'autres composants que j'ai la flemme de détailler) qui ne vit et ne vivra jamais.

[yquemener]

f.didier: J'ai du mal à voir le lien logique entre tes affirmations et le fait qu'un programme puisse être intelligent. Tu peux programmer un robot pour qu'il ait un comportement extrêmement rigide. Tu peux également programmer un robot pour qu'il comprenne, apprenne, intègre des consignes mais sache s'en affranchir au besoin. On peut également imaginer un système très intelligent auquel on aurait rajouté des barrières très rigides que sa programmation "souple" ne puisse pas contourner. C'est en effet une chose dont les humains ne sont pas capables (on saura peut être le faire un jour et cette possibilité me fait frémir) mais en quoi une possibilité supplémentaire de la part des robots compte comme un handicap pour les considérer intelligents?

[Etienne Beauman]

perso je ne vois pas en quoi le fait de succomber à des dépendances et à des habitudes est une preuve d'intelligence

Euh, j'ai dit ça quelque part ?
Tu demandais de donner selon nous un type de comportement ne semblant pas relever d'une programmation, je te dis tiens par exemple un mec qui décide du jour au lendemain d'arrêter les clopes qu'il fume depuis 20 ans tu programmes ça comment ?
Et tu me réponds programmer une dépendance c'est trop facile, et c'est pas intelligent de se mettre à fumer ?

Et puisque tu sembles avoir du mal à comprendre en quoi les dilemmes moraux différent des problèmes liés à l'intelligence, je vais répondre moi-même aux questions que tu éludes pour te montrer comment une machine pourrait prendre une décision dans l'exemple que tu donnes.

Comme si j'avais éludé parce que j'étais trop con pour imaginer ce que tu allais dire.
Non ta machine dans tes exemples ne prends aucune décision, c'est son concepteur qui a défini pour elle quelle schéma elle devait suivre, elle- elle exécute.

Par contre, peux-tu prouver que le mécanisme qui fait évoluer ta morale n'est pas, lui, fixé dans le marbre?

La pensée n'est pas figée dans le marbre et quand on se dit rationaliste c'est qu'on considère que réfléchir à des trucs à un impact sur notre comportement, non ?

La conscience existe en tant que sensation. Tout comme les fantômes et Dieu.

Ps pour la partie couple : Etienne, tout ceci est une réflexion, je ne veut pas me mêler de ce qui ne me regarde pas.

T'inquiètes l'exemple est fictif.

[f.didier]

Un robot ou un programme en général peut et pourra surement simuler l'intelligence. Il pourra faire croire qu'il réfléchit, voir même qu'il prend ses décisions tout seul.
Mais c'est faux, car il se basera toujours sur un programme fait par un humain et par des calculs mathématique. Pour la raison que j'ai donné ci dessus, ce n'est pas un etre vivant. Donner des droits et une vraie intelligence a un ordinateur, c'est comme vouloir donner un droit de vote a un perroquet car ce dernier peut parler.
Un humain reste un humain, un perroquet reste un animal, un robot reste une machine.
On peut donner toutes les qualités a un robot, rapidité de calcul, analyse de données, etc..., mais y a un truc que un robot sera jamais : ca ne sera jamais un être vivant.
Faire apparaitre le visage d'une superbe femme au démarrage de ton ordinateur qui te dira "tu m'as manquée mon cœur" ne fera jamais que ton ordinateur est amoureux de toi. L'utilisateur pourra le penser, mais l'ordinateur ne le sera jamais. Il ne fait que lire une ligne de code. Si tu changes cette ligne par : "Rho, encore toi, j'aurais préférée que tu crèves dans ton lit." Ben il la fera quand même, sans s'occuper, ni même d’ailleurs se rappeler que une heure avant, il t'avais dit qu'il etait fou de toi.

[Chanur]

F.Didier, vous semblez supposer qu'une IA serait programmée avec des lignes de codes disant ce qu'elle devra faire.
Les tentatives faites dans ce sens ont été extrêmement décevantes (notamment pour les raisons que vous donnez). Aujourd'hui, on s'oriente beaucoup plus vers des programmes capables d'apprendre.
Des réseaux neuronaux, par exemple.
Et dans ce cas là, le programmeur serait bien incapable de prévoir comment son IA répondra à un problème donné.

Quand vous dites qu'une machine ne serait pas vivante, faute d'un critère précis qui fasse la différence, je ne vois pas bien ce que ça signifie.

Imaginons qu'on soit capable (on en est loin, mais sait-on jamais) de développer un réseau de neurones aussi riche qu'un cerveau humain, y compris les neurotransmetteurs, les hormones et tout.
Qu'on soumette ce programme à une éducation plus ou moins comparable à celle que vit un humain.
Qu'est-ce qui permet d'affirmer qu'il ne serait pas capable des mêmes réactions que nous (y compris les réactions émotionnelles, les erreurs de jugement, les préjugés, les psychoses, ...) ?

Et pourquoi pas avec l'univers entier ?

[ABC]

Un robot ou un programme en général peut et pourra surement simuler l'intelligence. Il pourra faire croire qu'il réfléchit, voir même qu'il prend ses décisions tout seul.

Pour moi, ce qui distingue vraiment qualitativement (et non seulement quantitativement) un humain d'un robot "intelligent", pour l'instant, c'est le fait qu'un humain éprouve des émotions et a des motivations + une conscience de lui-même. Il prend des décisions dépendant des différentes composantes de sa personnalité. Tout ça, ce sont des notions à caractère subjectif qui, à ce jour, nous échappent, mais elles laissent à penser qu'un chien, branché sur un ordinateur extrêmement puissant augmentant ses capacités d'analyse et de réflexion pourrait, à certains égards, se rapprocher de la notion d'entité pensante, consciente, douée d'une capacité à éprouver des émotions et à prendre des décisions visant à atteindre des objectifs reliés aux motivations dépendant de ces différents éléments.

[f.didier]

C'est possible Chanur, vous avez peut etre raison.
Apres, m’intéressant a l'informatique depuis les premiers 386 (j'en frémis d'horreur en y repensant ) et ayant suivit des formations informatique, électronique et TAI, je peux te dire que avec le système de processeurs actuels fonctionnant en bits, on va avoir des ordinateurs de plus en plus petits et performant, mais ils seront jamais des etres intelligents.
Avec un autre système, qu'on découvrira un jour proche ou lointain ou peut etre qu'on a deja découvert mais caché (j'en doute, un système comme ca rapporterait des milliards a la vente, la science c'est bien mais c'est a finalité lucrative quand même), là, je dis pas non.
Mais le système actuelle qu'on utilise ne permettra jamais l'intelligence.

@ABC : le problème c'est qu'on sait pas brancher un cerveau (même celui d'un chien) sur un ordinateur. On sait faire en sorte que l'ordinateur lise les informations d'un cerveau, mais "matrix" c'est pas encore sinon, vous imaginez bien que des sociétés multi milliardaire comme "Activision Blizzard" auraient deja sauté sur le brevet et que Wow serait pas un jeu sur un écran et en réalité virtuelle. Avec des fonds de 11 milliards de dollars, si la technologie existait, ils auraient fait en sorte que tout le monde l'est chez soi.

[Chanur]

les premiers 386 (j'en frémis d'horreur en y repensant )

Fallait avoir un Amiga : c'était vachement mieux !

je peux te dire que avec le système de processeurs actuels fonctionnant en bits, on va avoir des ordinateurs de plus en plus petits et performant, mais ils seront jamais des etres intelligents.

Je n'oserais pas être aussi affirmatif : il n'y a pas de limite en principe à la précision que peut avoir une simulation, à condition évidemment de disposer du hardware permettant de la faire tourner. Pour un cerveau humain, ça dépasse quand même largement le PC de base, mais je ne suis pas sûr que ça dépasse les supers-ordinateurs.

Avec un autre système, qu'on découvrira un jour proche ou lointain ou peut etre qu'on a deja découvert mais caché (j'en doute, un système comme ca rapporterait des milliards a la vente, la science c'est bien mais c'est a finalité lucrative quand même), là, je dis pas non.

C'est un autre problème, assez proche de la science-fiction, en fait, mais évidemment l'évolution des techniques est très imprévisible.
Mais je suis tout à fait d'accord pour douter de l'existence de technologies secrètes, quel que soit le domaine (étant entendu que la recherche industrielle est secrète, pour des raisons évidentes de lutte contre la concurrence, mais au final ce sont des recherches destinées à produire du profit, et qui sont mises sur le marché dès qu'elles sont mûres).

[yquemener]

Etienne Beauman: Comme d'hab tu pars dans des tangentes en comprenant de travers ce que je dis (ou en faisant semblant de le comprendre de travers). La dernière discussion sur le sujet avec toi s'est déjà interrompu de la même manière, donc bon, j'ai pas vraiment le temps de refaire de l'explication de texte sur tous mes messages.

Un robot ou un programme en général peut et pourra sûrement simuler l'intelligence. Il pourra faire croire qu'il réfléchit, voir même qu'il prend ses décisions tout seul.

Si on parle d'intelligence, je ne vois pas de différence entre intelligence et simulation de l'intelligence. Soit tu arrives à résoudre un problème, soit tu n'y arrives pas. Si c'est une simulation, alors la simulation est intelligente.

Mais c'est faux, car il se basera toujours sur un programme fait par un humain et par des calculs mathématique.

Je ne saisis pas l'articulation logique de ton "car". Pour moi c'est un peu comme si tu me disais que mon intelligence n'est pas authentique car elle se base sur des phénomènes physico-chimiques et qu'elle a émergé d'un processus évolutif.

J'aimerais te poser une question en retour: est ce que selon toi, (a) l'intelligence et (b) la conscience sont des phénomènes que l'on peut étudier et authentifier indépendamment de la façon dont ils sont créés ? Pour moi l'intelligence est un traitement de l'information, tout comme l'est la conscience, donc je pense que cerveau humain et ordinateurs sont capables de le réaliser, mais j'ai l'impression que ce n'est pas ton cas.

Scénario "pratique": Ton meilleur ami est invité par les petits gris faire un tour dans leur société ultra-avancée. Quand il revient, il a un corps robotique et son cerveau est enfermé dans une boite noire impossible à ouvrir. Il vient te voir inquiet en se demandant s'il est réellement conscient et intelligent ou si il ne fait qu'imiter, simuler cette intelligence et conscience. Comment peux-tu l'aider à faire la différence ?

Pour la raison que j'ai donné ci dessus, ce n'est pas un etre vivant.

Et il faut être vivant pour être intelligent ? y a-t-il un argument à ça à part "ça ne s'est jamais vu"?

Donner des droits et une vraie intelligence a un ordinateur, c'est comme vouloir donner un droit de vote a un perroquet car ce dernier peut parler.

La question des droits est entièrement séparée et extrêmement compliquée. Je propose qu'on s'accorde sur le fait qu'il serait étrange et problématique que les IAs aient les même droits que les humains et qu'on parle uniquement de la faisabilité des IAs.

Faire apparaitre le visage d'une superbe femme au démarrage de ton ordinateur qui te dira "tu m'as manquée mon cœur" ne fera jamais que ton ordinateur est amoureux de toi. L'utilisateur pourra le penser, mais l'ordinateur ne le sera jamais. Il ne fait que lire une ligne de code. Si tu changes cette ligne par : "Rho, encore toi, j'aurais préférée que tu crèves dans ton lit." Ben il la fera quand même, sans s'occuper, ni même d’ailleurs se rappeler que une heure avant, il t'avais dit qu'il etait fou de toi.

Le programme que tu décris n'est en effet pas intelligent. On peut faire (et on a fait, dans plein de contextes) un programme qui ait une "opinion" de toi et crée ses répliques en fonction.

[yquemener]

Sinon j'ai une question : une IA qui n'a aucune morale, juste de la logique, serait t'elle à même de faire un calcul qui produirai le moins de souffrance possible ou serait le plus "juste" possible pour les individus ?

Oui bien sur. En faisant comme nous: en comblant par de l'arbitraire les variables inconnues et les définitions vagues. Il est très facile d'établir un score des différents scénario selon ces métriques.

La morale n'est t'elle pas une partie intégrante de l'intelligence et de la vie en société, ne forme t'elle pas elle aussi l'intelligence en prenant conscience de ses mécanismes ?

Le développement de notre intelligence, de notre conscience et notre sens moral est un entrelacs de leçons et d'expériences où l'on apprend à se synchroniser sur les valeurs arbitraires (ou raisonnables mais on apprends rarement la raison profonde en premier) de notre société. On peut imaginer l'intelligence sans la conscience, la morale sans la conscience, et la conscience sans la morale. Mais ces mécanismes sont tellement liés dans notre cerveau (qui semble avoir développé ses compétences sociales avant les capacités au raisonnement rationnel) qu'on a du mal à les imaginer l'un sans l'autre.

Si demain ma chaussure m'assure être émotive et consciente, et qu'elle ne veut pas mourir sous mes pieds car elle le désir, je prendrait soin d'elle (enfin du moins, je la mettrais plus)

Et si ta chaussure avait un bouton pour ôter ces désirs de survie et de recevoir des soins, serait-il moral de le presser ? Et si on créait un robot qui souhaite augmenter le bonheur des humains et décide, lui, de presser ce bouton pour supprimer cette cause de soucis chez les humains, faudrait-il l'en empêcher ? Faudrait-il changer son comportement ?

On ne peut pas appliquer les mêmes notions de droit aux IAs qu'aux humains. Les règles pratiques qui les régissent sont trop différentes. Il nous faudra inventer quelque chose de radicalement nouveau.

[Etienne Beauman]

Comme d'hab tu pars dans des tangentes en comprenant de travers ce que je dis

Je comprends mieux ton

Oui, mais je répète qu'il s'agit d'une conviction forgée au fil des années à ne pas voir d'arguments contraires qui tienne la route.

[f.didier]

les premiers 386 (j'en frémis d'horreur en y repensant )

Fallait avoir un Amiga : c'était vachement mieux !

Mais j'avais aussi un Amiga 500 avec un des 1er HDD externe
Le 1er ordinateur a afficher un scrolling horizontal différentiel, j'ai passé des jours sur Agony, ou another world ou même le petit jeu point and clic Wook.
Quand j'ai appris que mes parents l'avait jeté parce que ils pensaient qu'il est mort car je l'avais entreposé dans leur garage, j'ai cru mourir.

[f.didier]

J'aimerais te poser une question en retour: est ce que selon toi, (a) l'intelligence et (b) la conscience sont des phénomènes que l'on peut étudier et authentifier indépendamment de la façon dont ils sont créés ? Pour moi l'intelligence est un traitement de l'information, tout comme l'est la conscience, donc je pense que cerveau humain et ordinateurs sont capables de le réaliser, mais j'ai l'impression que ce n'est pas ton cas.

Scénario "pratique": Ton meilleur ami est invité par les petits gris faire un tour dans leur société ultra-avancée. Quand il revient, il a un corps robotique et son cerveau est enfermé dans une boite noire impossible à ouvrir. Il vient te voir inquiet en se demandant s'il est réellement conscient et intelligent ou si il ne fait qu'imiter, simuler cette intelligence et conscience. Comment peux-tu l'aider à faire la différence ?

L'intelligence, c'est la faculté de pouvoir résoudre des problemes avec plus ou moins de rapidité. 2+2= ? c'est l'intelligence qui se met en marche.
La conscience, c'est ce rendre compte qu'il y a ce problème. Mais c'est aussi la faculté de se rappeler le problème pour le résoudre plus vite la prochaine fois qu'on y est confronté. Et aussi anticiper les problemes qui vont arriver. Un ordinateur n'a pas cette faculté, si on lui demande de rafraichir une page 50 fois, pour lui ca sera 50 fois la 1er fois. Pareil dans l'autre sens, si une personne veut venir sur le forum pour poster un message, il va anticiper ces actions (ouvrir l'explorateur, ouvrir les favoris, aller dans la section, etc...) l'ordinateur non, il ne sait pas ce qu'il va faire dans une seconde comme il ne sait plus ce qu'il a fait y a une seconde.
Ca c'est un truc que les utilisateurs doivent savoir, même si votre ordinateur a un historique, pour lui, ouvrir une page de l'historique ce n'est pas se rappeler la page, c'est l'ouvrir pour la 1er fois. Un exemple tout simple, vous venez ici sur le forum, l'ordinateur affiche la page et en même temps (ou presque) va comparer avec son historique, il trouve la même page, compare les deux et affiche les nouveaux messages. Mais une fois que vous avez cliqué sur un lien, il a oublié que vous étiez sur la page de garde. Et quand vous y revenez, il compare de nouveau, etc... etc... Un humain ne fait pas ca, quand il lit la page d'un livre, il se rappelle celle d'avant et des fois peut même dire celle d’après pour des romans policiers
Ca c'est la conscience, du passé et du futur. Pour l'ordinateur, ca n'existe pas, seul le présent existe.

Pour mon meilleur ami, deja je l'envie puis apres, son cerveau, même dans une boite en métal, ca reste un organisme vivant, c'est un etre conscient et intelligent.

[yquemener]

L'intelligence, c'est la faculté de pouvoir résoudre des problemes avec plus ou moins de rapidité. 2+2= ? c'est l'intelligence qui se met en marche.
La conscience, c'est ce rendre compte qu'il y a ce problème.

Donc on est d'accord que ce sont des purs comportements et que si un programme agit de façon à ce qu'il se rende compte qu'il y a un problème et qu'il le résout correctement, il sera à la fois intelligent et conscient ?

Si oui, on est sur la même longueur d'ondes. Tu ne penses pas ça possible, je pense que si, la balle est dans mon camp et pour avoir une preuve formelle il faudra produire une IA.

Pour mon meilleur ami, deja je l'envie puis apres, son cerveau, même dans une boite en métal, ca reste un organisme vivant, c'est un etre conscient et intelligent.

Pardon, mon énoncé n'était pas clair. Il ne sait pas si son cerveau est à l'intérieur. Il ne sait pas exactement ce qu'on lui a fait et son inquiétude est que son cerveau soit totalement ailleurs et qu'il ne soit qu'une copie informatique. As-tu un moyen de l'aider à authentifier le coté humain et vivant de ses réactions ?

Par exemple, il se dit angoissé à cette perspective mais comment testerais tu qu'il est réellement angoissé. Je met à ta disposition tous les équipements de mon labo top-secret et super équipé financé par l'illuminati reptilo-sceptique et la totale coopération de ton ami. Le seul truc qu'on ne peut pas faire, c'est regarder dans la boite.

[curieux]

les premiers 386 (j'en frémis d'horreur en y repensant )

Fallait avoir un Amiga : c'était vachement mieux !

Mais j'avais aussi un Amiga 500 avec un des 1er HDD externe

Bonjour

c'est hors sujet mais j'ai commencé l'informatique en 1982 avec un ZX81 en kit monté par bibi (200 FF de gagnés).
Processeur Z80 et bloc de 16 ko de mémoire vive externe, lecteur de cassettes.
Entre parenthèses, Wiki parle de 490 FF, c'est une erreur, j'ai encore la facture de Direco International à Paris de 999 FF TTC ...
http://www.auditsi.eu/?page_id=2945
C'était le bon temps.

[f.didier]

Donc on est d'accord que ce sont des purs comportements et que si un programme agit de façon à ce qu'il se rende compte qu'il y a un problème et qu'il le résout correctement, il sera à la fois intelligent et conscient ?

Si oui, on est sur la même longueur d'ondes. Tu ne penses pas ça possible, je pense que si, la balle est dans mon camp et pour avoir une preuve formelle il faudra produire une IA.

Avec le système informatique actuelle, ca ne sera possible. Mais apres, je dis pas que dans 5, 10 ou 20 ans, on trouve pas un système plus favorable a sa création.

Pardon, mon énoncé n'était pas clair. Il ne sait pas si son cerveau est à l'intérieur. Il ne sait pas exactement ce qu'on lui a fait et son inquiétude est que son cerveau soit totalement ailleurs et qu'il ne soit qu'une copie informatique. As-tu un moyen de l'aider à authentifier le coté humain et vivant de ses réactions ?

Par exemple, il se dit angoissé à cette perspective mais comment testerais tu qu'il est réellement angoissé. Je met à ta disposition tous les équipements de mon labo top-secret et super équipé financé par l'illuminati reptilo-sceptique et la totale coopération de ton ami. Le seul truc qu'on ne peut pas faire, c'est regarder dans la boite.

Alors là, aucune idée Si il existe une technologie pour copier un esprit et le coller dans un système robotique sans que celui ci s'en rende compte ou même qu'il s'en rende compte d'ailleurs, c'est juste fabuleux. Je suis leur 1er cobaye. Pour moi, cette enveloppe merdique de chair ne sert qu'a nous ralentir et nous affaiblir. Cette masse de protéines qu'il faut nourrir, vider, et tellement faible qu'une piqure sur un clou suffit a tuer, je m'en débarrasse quand ils veulent. Et c'est même moi qui allume le bucher pour faire disparaitre cette amas de chairs putrides.
A bas la chair, vive le métal !

[Nicolas78]

Et si ta chaussure avait un bouton pour ôter ces désirs de survie et de recevoir des soins, serait-il moral de le presser ? Et si on créait un robot qui souhaite augmenter le bonheur des humains et décide, lui, de presser ce bouton pour supprimer cette cause de soucis chez les humains, faudrait-il l'en empêcher ? Faudrait-il changer son comportement ?

Pourquoi intégrer ce bouton ON/OFF à la chaussure ?

Mais sinon, pour le reste, ce sont des questions d'on les réponses possibles me paraissent trop variables ou impossible, on pourrait imaginer plusieurs types de bonne réponses pas forcement incompatibles mais au moins qui semble "opposées".

Le développement de notre intelligence, de notre conscience et notre sens moral est un entrelacs de leçons et d'expériences où l'on apprend à se synchroniser sur les valeurs arbitraires (ou raisonnables mais on apprends rarement la raison profonde en premier) de notre société. On peut imaginer l'intelligence sans la conscience, la morale sans la conscience, et la conscience sans la morale. Mais ces mécanismes sont tellement liés dans notre cerveau (qui semble avoir développé ses compétences sociales avant les capacités au raisonnement rationnel) qu'on a du mal à les imaginer l'un sans l'autre.

On sais pas trop si les une et les autres caractéristiques, quoi que différentes, soit vraiment imputables sans altérer la conscience ou l'intelligence, non ?
Une IA avec une conscience d'elle, on ne sais pas si une intelligence robotique marchant avec des 0 et des 1 en serait capable.

Sinon, il faudrait vraiment comprendre l’interaction entre l'intelligence et la conscience.
Car effectivement, une intelligence suffisante pourrait avoir conscience, on en sais rien mais pourquoi pas.

[Raphaël]

La conscience existe en tant que sensation. Tout comme les fantômes et Dieu.

Cool, on n'aurait plus rien à craindre de la mort ? Si la conscience n'existe pas elle ne peut pas être détruite.

[Raphaël]

Pourquoi intégrer ce bouton ON/OFF à la chaussure ?

Pour démarrer la ventilation je suppose ...

[Raphaël]

L'intelligence, c'est la faculté de pouvoir résoudre des problemes avec plus ou moins de rapidité. 2+2= ? c'est l'intelligence qui se met en marche.

Non. 2+2=4 c'est seulement une question de mémoire.

La conscience, c'est ce rendre compte qu'il y a ce problème. Mais c'est aussi la faculté de se rappeler le problème pour le résoudre plus vite la prochaine fois qu'on y est confronté.

La faculté de se rappeler existe déjà dans les ordinateurs.

Et aussi anticiper les problemes qui vont arriver. Un ordinateur n'a pas cette faculté, si on lui demande de rafraichir une page 50 fois, pour lui ca sera 50 fois la 1er fois.

Rien n'empêche d'ajouter un compteur.

Pareil dans l'autre sens, si une personne veut venir sur le forum pour poster un message, il va anticiper ces actions (ouvrir l'explorateur, ouvrir les favoris, aller dans la section, etc...) l'ordinateur non

Un ordinateur peut aussi anticiper certaine instructions simples en se basant sur les habitudes de l'utilisateur.

il ne sait pas ce qu'il va faire dans une seconde comme il ne sait plus ce qu'il a fait y a une seconde.

Il pourrait le savoir: c'est seulement une question de programmation. Techniquement rien ne l'empêche de mémoriser ce qu'il fait.

Ca c'est la conscience, du passé et du futur. Pour l'ordinateur, ca n'existe pas, seul le présent existe.

Sur ce point par contre je suis plutôt d'accord.

Pour résumer ma position:

Je suis d'accord avec ceux qui disent qu'un ordinateur peut être intelligent et prendre des décisions, mais ça s'arrête là. Les décisions qu'il prend le sont à partir de paramètres programmés et ne sont en aucun cas le produit d'une réflexion. Une IA est incapable de comprendre les situations complexes de la vie courante et d'imaginer des solutions aux problèmes à partir de scénarios fictifs projetés dans le futur (comme le ferait un humain). Elle se contente de répondre bêtement aux questions sans tenir compte de la plupart des innombrables circonstances particulières et souvent imprévisibles qui peuvent survenir et compliquer le problème. Le fait qu'un humain prenne parfois de mauvaises décisions ne change rien au fait qu'il réfléchit aux problèmes, contrairement aux IA qui en sont incapables puisque qu'elles ne comprennent rien à ce qu'elles font: elles se contentent d'exécuter leurs instructions de façon aveugle.

[yquemener]

f.didier: Ok, donc tu acceptes la possibilité théorique, mais pas le fait que ce soit praticable avec les ordis aujourd'hui. Je me demande juste ce que tu penses qu'il manque à nos ordis pour que tu penses que les évolutions technique des 20 prochaines années puissent lui apporter la pièce manquante.

Pourquoi intégrer ce bouton ON/OFF à la chaussure ?

Parce que son désir de survie ne correspond à aucune utilité profonde et aura sûrement été rajouté au dessus d'une intelligence plus neutre. Du coup l'enlever sera facile. Vois ça comme un patch, ou un crack.

On sais pas trop si les une et les autres caractéristiques, quoi que différentes, soit vraiment imputables sans altérer la conscience ou l'intelligence, non ?

Je ne sais pas si on peut dire ça. On n'a pas d'exemples des uns sans les autres mais on n'a pas non plus de raison de croire qu'ils soit si intrinséquement liés. Tu as besoin de l'intelligence pour la conscience et pour la moralité mais aucun mécanisme ne semble rendre nécessaire la conscience ou la moralité pour que l'intelligence existe.

Une IA avec une conscience d'elle, on ne sais pas si une intelligence robotique marchant avec des 0 et des 1 en serait capable.

Il faut arrêter avec ces 0 et ces 1. Le cerveau humain fonctionne avec des 0 et des 1 qui sont les potentiels d'action des neurones. Ça n'a aucun impact sur le niveau d'abstraction symbolique que des programmes sont capables d'atteindre.

Les décisions qu'il prend le sont à partir de paramètres programmés et ne sont en aucun cas le produit d'une réflexion.

Je t'invite à considérer que ces deux propositions ne sont pas nécessairement mutuellement exclusives.

Une IA est incapable de comprendre les situations complexes de la vie courante et d'imaginer des solutions aux problèmes à partir de scénarios fictifs projetés dans le futur (comme le ferait un humain). Elle se contente de répondre bêtement aux questions sans tenir compte de la plupart des innombrables circonstances particulières et souvent imprévisibles qui peuvent survenir et compliquer le problème.

Pour ses sondes d'exploration spatiale, la NASA déploie un programme de planification de mission. Les sondes spatiales sont faites pour durer, mais peuvent rencontrer des circonstances imprévues. Pour cela elles disposent de nombreux modules redondants, mais encore faut-il savoir les utiliser. Un tel logiciel a une série d'objectifs classés par priorité. "Maintiens l'alimentation à ton ordi de contrôle (i.e. "reste en vie")" ou "Garde un lien radio avec la Terre". Il est capable de résoudre des situations non prévues par ses programmeurs car le nombre de problèmes pouvant survenir est trop important. Il est capable de faire des raisonnements du genre "Bon, mes moteurs d'orientation des panneaux solaire et de l'antenne sont hors service donc je dois changer mon orientation pour rétablir le lien radio avec la Terre, mais si je le fais mes panneaux solaires ne captent plus. Je vais donc recharger mes batteries, changer mon orientation, envoyer des paquets à la Terre puis reprendre ma position avant que mes batteries soient vides"

Ce n'est pas un logiciel hypothétique, c'est une chose qui existe et qui est utilisée aujourd'hui. Le soft s'appelle EUROPA-PSO et est en open source. On appelle ça un planificateur automatique et c'est le genre de softs qui me fascine.


Le fait qu'un humain prenne parfois de mauvaises décisions ne change rien au fait qu'il réfléchit aux problèmes, contrairement aux IA qui en sont incapables puisque qu'elles ne comprennent rien à ce qu'elles font: elles se contentent d'exécuter leurs instructions de façon aveugle.[/quote]

[Raphaël]

Une IA avec une conscience d'elle, on ne sais pas si une intelligence robotique marchant avec des 0 et des 1 en serait capable.

Il faut arrêter avec ces 0 et ces 1. Le cerveau humain fonctionne avec des 0 et des 1 qui sont les potentiels d'action des neurones. Ça n'a aucun impact sur le niveau d'abstraction symbolique que des programmes sont capables d'atteindre.

C'est toi qui le dit. Le cerveau humain ne fonctionne pas de façon numérique comme un ordinateur. Son fonctionnement s'apparente beaucoup plus à un calculateur analogique.

Les décisions qu'il prend le sont à partir de paramètres programmés et ne sont en aucun cas le produit d'une réflexion.

Je t'invite à considérer que ces deux propositions ne sont pas nécessairement mutuellement exclusives.

Elle ne sont pas exclusives puisque les décisions humaines sont faites à partir d'une réflexion. Pour faire une réflexion il faut avoir une vue d'ensemble du problème et être capable de réfléchir sur une réflexion antérieure qu'on a déjà faite qui elle-même peut-être faite sur une autre réflexion, et ainsi de suite jusqu'à ce qu'on trouve une solution satisfaisante.

Pour ses sondes d'exploration spatiale, la NASA déploie un programme de planification de mission. Les sondes spatiales sont faites pour durer, mais peuvent rencontrer des circonstances imprévues.

Tu parles d'imprévus qui ont été prévus par sa programmation, ce qui est très différent: c'est ce qu'on pourrait appeler des imprévus prévisibles. Moi je parle d'imprévus imprévisibles.

Pour cela elles disposent de nombreux modules redondants, mais encore faut-il savoir les utiliser. Un tel logiciel a une série d'objectifs classés par priorité. "Maintiens l'alimentation à ton ordi de contrôle (i.e. "reste en vie")" ou "Garde un lien radio avec la Terre". Il est capable de résoudre des situations non prévues par ses programmeurs car le nombre de problèmes pouvant survenir est trop important. Il est capable de faire des raisonnements du genre "Bon, mes moteurs d'orientation des panneaux solaire et de l'antenne sont hors service donc je dois changer mon orientation pour rétablir le lien radio avec la Terre, mais si je le fais mes panneaux solaires ne captent plus. Je vais donc recharger mes batteries, changer mon orientation, envoyer des paquets à la Terre puis reprendre ma position avant que mes batteries soient vides"

Tout ce que tu dis ce sont des choses qui ont été prévues dans sa programmation.

Exemple d'imprévu imprévisible: un terroriste se pointe avec un pisto-laser et menace de faire exploser la sonde si l'ordinateur ne lui obéit pas. Qu'est-ce que l'imbécile d'ordi va faire dans ce cas vu que sa programmation n'a pas prévu cette situation ?

Réponse: il ne va rien faire puisqu'il ne va rien comprendre.

[yquemener]

C'est toi qui le dit. Le cerveau humain ne fonctionne pas de façon numérique comme un ordinateur. Son fonctionnement s'apparente beaucoup plus à un calculateur analogique

C'est pas moi qui le dit, c'est une connaissance biologique assez ancienne que les informations circulant le long des nerfs et des dendrites a une forme "tout ou rien" http://fr.wikipedia.org/wiki/Potentiel_d%27action

Exemple d'imprévu imprévisible: un terroriste se pointe avec un pisto-laser et menace de faire exploser la sonde si l'ordinateur ne lui obéit pas. Qu'est-ce que l'imbécile d'ordi va faire dans ce cas vu que sa programmation n'a pas prévu cette situation ?

Cette sonde ne comprend pas le langage naturel, c'est un domaine de recherche où on progresse mais on en est pas encore au stade où un soft pourrait comprendre une telle menace.

Un tel module de langage naturel fournirait à la sonde les infos suivantes: si tu n'obéit pas à la consigne donnée, tous tes modules disparaissant. La sonde verrait alors que le seul choix lui permettant d'accomplir sa mission serait d'obtempérer et le ferait.

À moins que l'on ne donne à la sonde un système de valeur plus élevé et un modèle plus profond de la société humaine lui permettant de déduire que négocier avec des terroristes est contre-productif. Comme pour un humain, tout dépend de ses valeurs et des connaissances préalables.

[Raphaël]

C'est toi qui le dit. Le cerveau humain ne fonctionne pas de façon numérique comme un ordinateur. Son fonctionnement s'apparente beaucoup plus à un calculateur analogique

C'est pas moi qui le dit, c'est une connaissance biologique assez ancienne que les informations circulant le long des nerfs et des dendrites a une forme "tout ou rien" http://fr.wikipedia.org/wiki/Potentiel_d%27action

Je ne connais pas grand chose en neurologie mais je retiens ceci:

Tous les potentiels d'action ayant la même amplitude (+100 mV), le codage de l'influx nerveux se fait donc en modulation de fréquence.

L'influx nerveux n'est pas codé en bits mais en modulation de fréquence. Je n'ai vu nulle part que le cerveau utilisait l'équivalent d'un code ASCII pour coder et mémoriser des informations.

Exemple d'imprévu imprévisible: un terroriste se pointe avec un pisto-laser et menace de faire exploser la sonde si l'ordinateur ne lui obéit pas. Qu'est-ce que l'imbécile d'ordi va faire dans ce cas vu que sa programmation n'a pas prévu cette situation ?

Cette sonde ne comprend pas le langage naturel, c'est un domaine de recherche où on progresse mais on en est pas encore au stade où un soft pourrait comprendre une telle menace.

Comprendre le langage, l'interpréter et trouver des solutions à un problème sont trois choses différentes.

Pour un ordi, comprendre le langage revient à le traduire en bits. L'interpréter c'est transposer les mots et le sens de la phrase (qui dépend du contexte) dans une réalité compréhensible pour lui; ce qui serait très difficile à réaliser. Trouver des solutions intelligentes le serait tout autant.

Un tel module de langage naturel fournirait à la sonde les infos suivantes: si tu n'obéit pas à la consigne donnée, tous tes modules disparaissant.

C'est sûr que si tu raisonnes à sa place ça facilite grandement les choses ...

La sonde verrait alors que le seul choix lui permettant d'accomplir sa mission serait d'obtempérer et le ferait.

Autre exemple: je remplace le terroriste par un ourson en peluche parlant qui tient un pistolet à eau. Résultat: le pauvre ordi attardé va se faire rouler (un jeu d'enfant finalement de tromper une IA. ).