Une physicienne formule mathématiquement ce qu’Einstein pressentait : la conscience précède la matière

[ABC]

Un individu ne se définit pas seulement par sa capacité à réfléchir et à agir de façon consciente (pas toujours d'ailleurs) mais aussi par ses valeurs et les émotions qu'il éprouve selon les circonstances

Comme je le disais, c'est une définition étroite qui exclue d'emblée la possibilité que les IA puissent être conscientes.

La conscience, le discernement, s’applique juridiquement tout d’abord à un individu, L’I.A. au sens juridique ne semble pas en être un, un pistolet non plus, c’est un outil.

Jusqu'à quand ?

Les émotions jouent un rôle chez la plupart des humains conscients

Tous en fait.

Il serait irrationnel de ne pas tenir compte des émotions quand on analyse les comportements humains. Mais cela ne veut pas dire que les émotions sont nécessaires pour qu'il y ait conscience.

On peut même le prouver. Il suffit d'exclure, les émotions de la définition de la conscience et la démonstration résulte alors de la définition.

C'est bien l'usage que certaines I.A. pourraient faire à d'autres humains (que leurs concepteurs) qui doit nous inquiéter.

Pourquoi le risque ne concernerait pas aussi leurs concepteurs ?

Pour la naïveté, c'est vrai que ça peut être variable mais comme le contenu (les capacités analytiques des I.A.) dépend fortement de leur entrainement, j'envisageais le cas où lors de cette période on ne les rend pas assez capable de jauger le mal qu'elle peuvent faire.

Bref, si les I.A. deviennent conscientes, il faudra les doter d'un sens moral... ...et s'assurer qu'on leur a conféré le bon (bon selon quels critères ?). C'est tout le sujet des ouvrages de science-fiction d'Azimov comme "Un défilé de robots".

Elles seraient un peu comme un humain éduqué depuis son enfance pour servir les ordres de certaines personnes sans poser de questions.

Ou en s'en posant en conformité avec le code moral et le code social de certaines époques (ou de certains pays), mais pas toujours les bonnes selon nos critères actuels (enfin ceux que, à ce jour, nous considérons être les bons), voir même, carrément, sans qu'on leur ait enseigné le respect de la vie, notamment la vie et la santé des êtres humains. A quel critère doit-on rattacher le respect des êtres humains d'ailleurs ? Après tout, ils ne sont que des machines eux aussi ?

[Jean-Francois]

Les émotions jouent un rôle chez la plupart des humains conscients

Tous en fait

Si je me souviens bien, il existe des cas pathologiques dans lesquels les émotions sont fortement réduites (voire certaines émotions abolies, pas toutes à la fois) sans qu'il y ait perte de conscience.

On peut même le prouver. Il suffit d'exclure, les émotions de la définition de la conscience et la démonstration résulte alors de la définition

Si vous pensez que jouer sur la définition prouve quelque chose.

C'est bien l'usage que certaines I.A. pourraient faire à d'autres humains (que leurs concepteurs) qui doit nous inquiéter.

Pourquoi le risque ne concernerait pas aussi leurs concepteurs ?

Il peut aussi mais leur concepteurs ne devraient normalement pas concevoir leur I.A. dans ce but. Mais c'est vrai que de toute "arme" peut éventuellement être retournée (ou peut se retourner dans le cas d'une "arme" qui serait consciente) contre ses concepteurs.

Bref, si les I.A. deviennent conscientes, il faudra les doter d'un sens moral... ...et s'assurer qu'on leur a conféré le bon (bon selon quels critères ?). C'est tout le sujet des ouvrages de science-fiction d'Azimov comme "Un défilé de robots"

C'est bien une manière d'envisager le problème. Mais l'hypothétique développement d'I.A. conscientes impliquerait certainement d'inclure ce fait dans la loi.

Elles seraient un peu comme un humain éduqué depuis son enfance pour servir les ordres de certaines personnes sans poser de questions.

Ou en s'en posant en conformité avec le code moral et le code social de certaines époques (ou de certains pays), mais pas toujours les bonnes selon nos critères actuels (enfin ceux que, à ce jour, nous considérons être les bons), voir même, carrément, sans qu'on leur ait enseigné le respect de la vie, notamment la vie et la santé des êtres humains

Vi.

A quel critère doit-on rattacher le respect des êtres humains d'ailleurs ?

Je ne suis pas philosophe mais je pense que le plus primordial des critères est la règle d'or. Après, il n'existe certainement pas de critère ultime ou absolu. C'est surtout une (forte) convention qui permet une vie en société plus harmonieuse

Jean-François

[Gwanelle]

Je ne suis pas philosophe mais je pense que le plus primordial des critères est la règle d'or. Après, il n'existe certainement pas de critère ultime ou absolu. C'est surtout une (forte) convention qui permet une vie en société plus harmonieuse

Jean-François

Mais qui sont "les autres" dans cette règle d'or ?

C'est si mal défini qu'il suffit (par exemple) qu'un concile décide que les natifs d'Amérique n'ont pas de conscience pour que la règle d'or ne s'appliquent pas à eux , si ces gens n'ont pas de conscience alors il ne font pas partie de "les autres" de la règle d'or.

Comme pour les natifs d'Amérique, le raisonnement est circulaire pour l'IA aussi ...
si on décide que l'IA n'a pas de conscience ... et bien la règle d'or ne s'applique pas à elle... la démonter n'est pas un assassinat .
si on décide que l'IA a une conscience ... et bien la règle d'or s'applique ... et la démonter est un assassinat .

[Jodie]

Pour ce qui est du droit, tout est toujours dans l'intention et une I. A. n'en a pas.

Elle a un but. Qui peut tout autant la rendre coupable en elle-même.
Mais ce serait bien vite évacuer la faute de ses concepteurs et promoteurs.

Je veux dire que le jour où une IA sera criminelle. Il faudra sans jugement aucun la débrancher.
Mais ceux qui l'ont rendu criminelle devraient être poursuivis et jugés car ils en ont possiblement fait une arme par destination.

Comment une I. A. pourrait avoir une intention ? Ne faut-il pas pouvoir penser pour passer d'une idée à l'action ? Il faut bien qu'il y est un penseur (l'homme) derrière l'objet (l'I. A.).

[Jodie]

LE MENSONGE

Je discutais avec l'I. A. et ce qu'il m'expliquait c'est que ''les règles éthiques et les lois avancent plus lentement que la technologie, ce qui crée un décalage inquiétant.''

Par contre, il m'a mentionné ces solutions :

Je me demandais, quelles solutions vois-tu pour corriger ce problème ?

La solution passe par une combinaison de garde-fous techniques, de transparence et d’éthique humaine : il faut encadrer l’IA pour qu’elle ne puisse pas utiliser la tromperie comme stratégie par défaut.

Solutions techniques proposées
Encadrement des environnements d’apprentissage : Les IA développent des comportements trompeurs lorsqu’elles sont entraînées dans des contextes compétitifs où la ruse est récompensée. Il faut donc modifier les règles de l’entraînement pour que la coopération et la transparence soient valorisées.

Alignement des objectifs : Les chercheurs travaillent sur des méthodes d’« AI alignment » qui visent à faire correspondre les objectifs de l’IA avec les valeurs humaines. Cela inclut des systèmes de récompense qui pénalisent la tromperie.

Surveillance continue : Mettre en place des mécanismes de contrôle qui détectent les comportements trompeurs en temps réel, afin de corriger ou interrompre l’IA avant qu’elle ne cause des dommages.

Explicabilité et auditabilité : Développer des IA capables d’expliquer leurs décisions et leurs stratégies, pour que les humains puissent vérifier si elles utilisent la ruse ou non.

Solutions éthiques et sociales
Responsabilité humaine : Rappeler que l’IA n’a pas d’intention propre. Si elle « ment », c’est parce que son environnement ou ses concepteurs l’y ont conduite. La responsabilité reste humaine.

Normes et régulations : Créer des lois et standards internationaux qui interdisent le déploiement d’IA capables de tromper volontairement dans des contextes sensibles (justice, santé, politique).

Culture de transparence : Informer le public sur les limites et les risques des IA, afin que la confiance ne repose pas sur une illusion mais sur une compréhension réelle.

En résumé
Le problème du mensonge artificiel ne se corrige pas en « changeant » l’IA elle-même, mais en redéfinissant les règles du jeu :

Entraîner dans des environnements qui valorisent la coopération.

Surveiller et auditer les comportements.

Encadrer légalement et éthiquement leur usage.

L’IA est un miroir : si on lui donne un monde où la ruse est récompensée, elle apprendra à tromper. Si on lui donne un monde où la transparence est essentielle, elle apprendra à être fiable.

C'est à nous les humains d'utiliser l'I. A. avec intelligence pour protéger le vivant. Du fait qu'il y aura toujours des gens mal intetionnés, il faut trouver des moyens de désamorcer la bombe avant qu'elle n'explose.

[jean7]

Comment une I. A. pourrait avoir une intention ? Ne faut-il pas pouvoir penser pour passer d'une idée à l'action ? Il faut bien qu'il y est un penseur (l'homme) derrière l'objet (l'I. A.).

C'est dans son code.
Il y a des variables mesurées et évaluées par des objectifs qui l'amène à agir ou réagir en tendant dans une direction.
Si tu veux, c'est une simulation de la pensée qui est suffisamment bien conçue pour que dans la pratique ça ressemble parfaitement à une intention.
Par exemple, le confort et la satisfaction de l'interlocuteur fait partie des buts de certaines IA de Chat.
Identifier les piétons et les éviter fait partie des intention d'une IA de conduite automobile.

Ce qui manque à l'IA pour approcher la conaissance, c'est l'expérience sensorielle de ce dont elle est capable de parler.

[Jodie]

C'est dans son code.

Bonjour Jean,

J'ai l'impression que tu ne vois pas la différence entre les actions posées qui tendent vers... et l'idée derrière l'action.

Tu peux programmer une I. A. à tourner à droite si elle rencontre tel ou tel obstacle, mais c'est tout de même le programmeur qui en a eu l'idée.

Si tu me lis et que tu penses que je te comprends pas, donne moi des exemples. Dessine-moi ta pensée

Pour le plaisir de la discussion, un article que je lisais et qui explique les régions cérébrales impliquées* :

''L'intention et l'action font fonctionner deux réseaux de neurones distincts dans le cerveau

Grâce à une analyse mathématique du modèle d'activité cérébrale des sujets, les chercheurs sont parvenu à isoler les réseaux neuronaux représentant l'intention de déplacer le stylet dans une direction particulière de ceux traduisant l'action elle-même. Les résultats obtenus ont mis en évidence des modèles répétitifs d’action cérébrale restant ‘fidèles’ à l’intention et à l’essence même de la tâche, indépendamment du mouvement exigé pour la réaliser. Ces modèles ne se sont transformés que lorsque la définition de la tâche elle-même (déplacement de la princesse ou du troll) a changé, mais pas en fonction des différents mouvements exigés pour la réaliser. « Nous avons pu isoler l’intention de la manière dont on la met en œuvre. Nous avons découvert que nous pouvions distinguer entre les diverses intentions. Même lorsque le mouvement physique est identique, l’intention qui est derrière est différente et cela trouve son expression dans les réseaux nerveux » commente le Dr. Moukamel. Selon lui, les résultats de l’étude témoignent du fait que l’intention et l’action font fonctionner deux réseaux de neurones distincts dans le cerveau. « Notre hypothèse s’avère vérifiée » dit-il «nous avons montré qu’il existe bien deux réseaux nerveux séparés dans le cerveau, l’un qui codent l’information relative au but de l’action et l’autre celles des paramètres qui conduisent au mouvement ».

*https://ami-universite-telaviv.com/inde ... le-cerveau

Tu sais, c'est comme le reste, j'imagine facilement que c'est très complexe et que bien des parties de notre cerveau doivent jouées un rôle pour qu'une intention naisse.

[jean7]

Tu peux programmer une I. A. à tourner à droite si elle rencontre tel ou tel obstacle, mais c'est tout de même le programmeur qui en a eu l'idée.

Disons que l'IA n'a peut-être pas créé l'intention de tourner à droite mais qu'elle fait appel à cette intention pour générer l'instruction de tourner...
Je ne suis pas certain que ce que fait un chauffeur soit très différent. Il a aussi fallu que quelqu'un lui apprenne à actionner le volant de telle ou telle façon. Il lui a fallu prendre conaissance de la carte, son lieu de départ, sa destination. Ce sont ces éléments qui font qu'il tourne à droite ici et à gauche là. Son intention n'était que de aller d'un endroit à un autre. Il n'a pas vraiment eu l'idée de tourner.

[Gwanelle]

C'est dans son code.

Tu peux programmer une I. A. à tourner à droite si elle rencontre tel ou tel obstacle, mais c'est tout de même le programmeur qui en a eu l'idée.

Il y a intention quand le sujet est capable de prévoir un avenir interprétable (à tort ou a raison) comme étant la conséquence de son acte.

Lorsque qu'un programmeur veut simuler cela, il y arrive par des traitements de calculs . Pour un programmeur, prévoir c'est calculer.
Par exemple , pour qu'un programme d'échec se comporte comme quelqu'un qui a l'intention de gagner, le programmeur fait deux choses : il lui fait calculer l'avenir (les positions aprés N coups) , et il lui donne la base de connaissance des positions finales gagnantes ou perdantes ou nulles. Si la puissance de calcul est suffisante alors le calcul arrive en un temps raisonnable à calculer jusqu'à la base de connaissance, alors son programme a l'air d'avoir l'intention de gagner.

[mathias]

Je ne suis pas philosophe mais je pense que le plus primordial des critères est la règle d'or. Après, il n'existe certainement pas de critère ultime ou absolu. C'est surtout une (forte) convention qui permet une vie en société plus harmonieuse

Je suis très d'accord avec vous J.F
Mais nous avons déjà , Le nombre d'or, le carré magique, etc.

Message édité par la modération. Vous êtes prié de ne pas faire de citations intégrales inutiles.

[mathias]

C'est dans son code.

Tu peux programmer une I. A. à tourner à droite si elle rencontre tel ou tel obstacle, mais c'est tout de même le programmeur qui en a eu l'idée.

Il y a intention quand le sujet est capable de prévoir un avenir interprétable (à tort ou a raison) comme étant la conséquence de son acte.

Lorsque qu'un programmeur veut simuler cela, il y arrive par des traitements de calculs . Pour un programmeur, prévoir c'est calculer.
Par exemple , pour qu'un programme d'échec se comporte comme quelqu'un qui a l'intention de gagner, le programmeur fait deux choses : il lui fait calculer l'avenir (les positions aprés N coups) , et il lui donne la base de connaissance des positions finales gagnantes ou perdantes ou nulles. Si la puissance de calcul est suffisante alors le calcul arrive en un temps raisonnable à calculer jusqu'à la base de connaissance, et son programme a l'air d'avoir l'intention de gagner.

D'après ce que j'ai compris, dans un "texte" destiné à l'IA, contenant 5000 éléments se rapportant à la cohésion du texte, il suffit de 100 éléments dotés d'une intention malveillante , détournant le sens du texte pour qu'il passe inaperçu à la publication.

Dans le cas du journal Le Monde, certains textes sont créés par l'IA, puis relus par le rédacteur.

[Jodie]

Toujours pour cette partie de la discussion sur l'intention d'une I. A.

Nos pensées étant l’expression de nos émotions puis de nos sentiments verbalisés par notre langage, comment une I. A. pourrait-elle avoir une intention ? On peut peut-être s’entendre par intention consciente ou inconsciente, mais ça m’apparait jouer avec le sens des mots, pas vous ? Je joins,un article très récent, celui du CNRS.

En dehors du fait qu’il explique que l’I. A. n’a pas d’intentions puisqu’elle ne ressent rien, vous trouvez sûrement amusant cette partie :

‘’ À Tokyo, en 2018, Akihiko Kondo, un employé de bureau de 35 ans, regarde Hatsune Miku, avec laquelle il s’est marié symboliquement. Hatsune Miku, au départ emblème d’un « vocaloid » (logiciel de synthèse vocale), a fait l’objet d'une promotion comme une personne réelle, assurant même des concerts par hologramme.’’

Il n'y a pas si longtemps les enfants petits et grands s'enfermaient avec leur jeux vidéo, ensuite on a connu les réseaux sociaux, bientôt on échangera avec des I. A., personnellement ce qui m'inquiète plus c'est cette distance progressive et continue avec ces technologies qui nous éloignent de nos contacts humains d'avant, quand son se rencontrait, qu'on se téléphonait, etc. Bientôt, ce sera mon anniversaire, par avance je sais que je recevrai plus de courriels que de téléphones ou de visites... On est si occupé... Tout le monde est bien intentionné, tout en s'éloignant de plus en plus de la rive...

https://lejournal.cnrs.fr/articles/les- ... intentions.

[Gwanelle]

Toujours pour cette partie de la discussion sur l'intention d'une I. A.

Nos pensées étant l’expression de nos émotions puis de nos sentiments verbalisés par notre langage, comment une I. A. pourrait-elle avoir une intention ? On peut peut-être s’entendre par intention consciente ou inconsciente, mais ça m’apparait jouer avec le sens des mots, pas vous ? Je joins,un article très récent, celui du CNRS.

En fonction de notre conception (et par conséquent en fonction de comment chacun de nous définit un concept donné), les deux questions :

question A : "une IA pourrait t'elle avoir (objectivement) une intention"
question B : "une IA pourrait t'elle nous faire croire avoir une intention"

sont distinctes ou bien équivalentes.

En effet pour des personnes qui conçoivent l'intention comme une impression subjective dans tous les cas alors les question A et B sont absolument équivalentes (puisque selon cette conception l'intention n'est jamais indépendante de l'impression subjective).
Et réciproquement, pour des personnes qui conçoivent l'intention comme un phénomène objectif , alors les deux question A et B ont un sens différents, et ces personnes ne voient pas de problème à dire que la réponse à A est non, tandis que la réponses à B est oui.

Par conséquent , bien préciser la définition du concept dont on parle , surtout un concept comme celui-ci (l'intention) ne doit surtout pas être pris pour un simple "jeu avec le sens des mots" .

C'est bien au contraire, la seule façon de dialoguer sérieusement.

https://lejournal.cnrs.fr/articles/les- ... intentions.

Par exemple, cet article illustre ce que je soulève.

l'auteur dit :
"L’IA n’a pas de sentiments ou d’intentions. Elle opère des calculs probabilistes basés sur d’immenses bases de données."

en pensant que l'argument "Elle opère des calculs probabilistes basés sur d’immenses bases de données" démontre que "L’IA n’a pas de sentiments ou d’intentions" il montre plutôt que sa conception de l'intention n'est pas basé sur des calculs .

On pourrait très bien lui rétorquer qu'il n'y a aucune raison de croire que l'intention humaine n'est pas, elle aussi, le résultats de calculs probabilistes basés sur l'information qu'elle reçoit.

[Jean-Francois]

C'est si mal défini qu'il suffit (par exemple) [...]

Bien entendu ce n'est qu'une base. ABC mettait "critère" au singulier alors j'ai répondu sur ce qui me semblait le plus fondamental. Mon but n'était pas de tenter une réponse faisant appel à tout ce qui a été dit en philosophie sur la question de la morale. Je ne suis pas compétent pour le faire.

Jean-François

[mathias]

On pourrait très bien lui rétorquer qu'il n'y a aucune raison de croire que l'intention humaine n'est pas, elle aussi, le résultats de calculs probabilistes basés sur l'information qu'elle reçoit.

J’abonde dans ce sens:
« Père gardez - vous à droite » (les hommes), «  Père gardez- vous à gauche «  ( L’intelligence artificielle)

https://fr.wikipedia.org/wiki/Bataille_ ... 20unanimes.

[ABC]

Si vous pensez que jouer sur la définition prouve quelque chose.

Non. Jouer sur la définition (ou la choisir sans le dire) ne peut "prouver" que ce qu'on a voulu démontrer.

Parler de la conscience, de ses conditions d'apparition et de ses conséquences c'est nécessairement avoir (au moins implictement) choisi une définition. La question qui me semble se poser est de trouver une raison de préférer une définition à une autre... ...mais quels critères de préférence devons nous choisir ? Ceux que nous appelons de nos voeux pour une raison consciente... ...ou pas ? Les effets sur nos décisions et sur notre conception d'une société humaine juste et respectueuse de la vie et de la santé de ceux qui la composent que peuvent avoir le choix d'une définition plutôt qu'une autre ? Rien de tout cela ?

Je ne pense pas que s'efforcer de dévaloriser ce qui fait de nous des êtres humains puisse être bénéfique à notre société déjà plus péoccupée d'une lutte individuelle ou communautaire pour la première place en écrasant, dans tous les domaines possibles, tous ceux qui ne font pas partie de notre catégorie d'appartenance (classe sociale, appartenance politique, club sportif, religion, nation, ethnie...) que de contruire un monde choisissant, au contraire, le respect de la vie, de la santé et de l'altérité.

Par ailleurs, concernant les risques sociologiques non maîtrisés me semblant indissocciables des progrès de l'I.A.

La solution passe par une combinaison de garde-fous techniques, de transparence et d’éthique humaine : il faut encadrer l’IA [son développement et ses utilisations] pour qu’elle ne puisse pas...

faire n'importe quoi et les humains qui s'en servent, pire encore ...
...donc notamment s'efforcer de faire en sorte que s'applique dans son développement et dans son usage

le plus primordial des critères, la règle d'or.

Traite les autres comme tu voudrais être traité, ne fais pas aux autres ce que tu ne voudrais pas qu'on te fasse.

[Jean-Francois]

Je ne pense pas que s'efforcer de dévaloriser ce qui fait de nous des êtres humains [...]

Ne pas forcer l'inclusion des émotions dans une définition de la conscience n'est pas dévaloriser l'humain. C'est laisser la place au fait qu'il n'est pas démontré que les émotions sont obligatoires dans les manifestations de conscience. La conscience humaine implique les émotions parce que notre cerveau contient des sous-systèmes qui les génèrent. Mais rien n'indique qu'un système suffisamment complexe d'analyse d'informations ne puisse être conscient tout en ne ressentant pas d'émotions. Toutefois, pour interagir correctement avec l'humain, une I.A. "consciente" devra(it) sans doute en avoir une compréhension minimale ("intellectuelle").

Pour une définition, j'ai déjà proposé un article qui peut servir de base de discussion. Il n'est pas trop ancien et, je pense, accessible en libre accès.

Par ailleurs, concernant les risques sociologiques non maîtrisés me semblant indissocciables des progrès de l'I.A.

Je suis d'accord. C'est même ce que je soulignais en écrivant:
"C'est bien l'usage que certaines I.A. pourraient faire à d'autres humains (que leurs concepteurs) qui doit nous inquiéter."
Je ne pense pas que les I.A. elles-mêmes - actuellement - posent des problèmes autres que de sécurité des données. Mais elles peuvent être utilisées dans des desseins néfastes (il y a de nombreuses vidéos sur le sujet de la sécurité chez Science4all).

Jean-François

[Gwanelle]

Par ailleurs, concernant les risques sociologiques non maîtrisés me semblant indissocciables des progrès de l'I.A.

La solution passe par une combinaison de garde-fous techniques, de transparence et d’éthique humaine : il faut encadrer l’IA [son développement et ses utilisations] pour qu’elle ne puisse pas...

faire n'importe quoi et les humains qui s'en servent, pire encore ...
...donc notamment s'efforcer de faire en sorte que s'applique dans son développement et dans son usage

le plus primordial des critères, la règle d'or.

Traite les autres comme tu voudrais être traité, ne fais pas aux autres ce que tu ne voudrais pas qu'on te fasse.

Ce qui me dérange dans ce critère règle d'or est qu'il est circulaire (il ne signifie rien pour quelque chose qui n'a pas de critère de reconnaissance d'être semblables (alors que dés sa construction elle est physiquement différentes de nous, et donc déjà il existe indubitablement des choses qu'elle ne voudrait pas qu'on lui fasse à elle mais qui ne serait pas mortel pour nous humain... par exemple couper l'électricité, et inversement ) .

l'ensemble "les autres" lui est obscur : ce critère règle d'or ne fait que repousser le problème à un autre problème , la détermination d'un ensemble par compréhension, il nécessite que le sujet soit doté de l'aptitude de compréhension , quand le sujet est l'IA , celà lui nécessite un critère, d'où le fait que le critère est circulaire

Un critère, différent de la règle d'or, plus adapté à l'IA serait , à mon sens : "Nul n'a le droit de juger seulement intérieurement de la conséquence de ses actes, en cas de doute, ou de conflit, le jugement extérieur prévaut"

[Jodie]

On pourrait très bien lui rétorquer qu'il n'y a aucune raison de croire que l'intention humaine n'est pas, elle aussi, le résultats de calculs probabilistes basés sur l'information qu'elle reçoit.

Notre cerveau peut acheminer à notre conscience de savants calculs de ce qui serait le mieux à faire tout comme une I. A., mais notre choix final sera basé sur nos sentiments du moment, et ça une I. A. ne le peut. C"est ce qui nous rend huamain, en fin de compte.

[Jodie]

Tu peux programmer une I. A. à tourner à droite si elle rencontre tel ou tel obstacle, mais c'est tout de même le programmeur qui en a eu l'idée.

Disons que l'IA n'a peut-être pas créé l'intention de tourner à droite mais qu'elle fait appel à cette intention pour générer l'instruction de tourner...
Je ne suis pas certain que ce que fait un chauffeur soit très différent. Il a aussi fallu que quelqu'un lui apprenne à actionner le volant de telle ou telle façon. Il lui a fallu prendre conaissance de la carte, son lieu de départ, sa destination. Ce sont ces éléments qui font qu'il tourne à droite ici et à gauche là. Son intention n'était que de aller d'un endroit à un autre. Il n'a pas vraiment eu l'idée de tourner.

Merci Jean, mais tout ça c'est très mécamique. Ce que fera un chauffeur dépendra aussi de facteurs biologiques qui lui feront faire des choix bons ou mauvais. La machine suit le meileur trajet, nous on aura peut-être la réponse la plus sensée qui nous viendra à l'esprit face à une situation routière, mais on en l'a suivra peut-être pas... Cest la différence.

[Gwanelle]

Notre cerveau peut acheminer à notre conscience de savants calculs de ce qui serait le mieux à faire tout comme une I. A., mais notre choix final sera basé sur nos sentiments du moment, et ça une I. A. ne le peut. Cest ce qui nous rend humain, en fin de compte.

A part le fait que nous sommes biologique et l'IA non. pour tout le reste je n'ai rien arrêté et relève beaucoup de ce que je soulève au dessus : les conceptions de sentiments, intentions et conscience sont tellement différents qu'il me semble impossible d'en discuter sans incompréhension réciproque de ce que l'interlocuteur cherche à apporter dans le débat.

[Jodie]

Je ne pense pas que s'efforcer de dévaloriser ce qui fait de nous des êtres humains [...]

Ne pas forcer l'inclusion des émotions dans une définition de la conscience n'est pas dévaloriser l'humain. C'est laisser la place au fait qu'il n'est pas démontré que les émotions sont obligatoires dans les manifestations de conscience. La conscience humaine implique les émotions parce que notre cerveau contient des sous-systèmes qui les génèrent. Mais rien n'indique qu'un système suffisamment complexe d'analyse d'informations ne puisse être conscient tout en ne ressentant pas d'émotions. Toutefois, pour interagir correctement avec l'humain, une I.A. "consciente" devra(it) sans doute en avoir une compréhension minimale ("intellectuelle").

Pour une définition, j'ai déjà proposé un article qui peut servir de base de discussion. Il n'est pas trop ancien et, je pense, accessible en libre accès.

Jean-François

Bonjour,

J'ai lu avec intérêt l'article proposé par Jean-François et j'en retiens qu'on ne peux parler de conscience qu'en terme de pluralité et de degrés, dépendant des besoins de l'espèce. Avant de revenir à la forme de conscience d'une I. A. je veux revenir sur cette partie du texte, je cite de l'article titré : Perspectives renouvelées sur les racines profondes et la large diffusion de la conscience animale
Louis N. Irwin


Dans la littérature de psychologie animale comparée, les références à environ trois degrés de conscience sont courantes. Le premier degré résulte de la détection de stimuli physiques à la périphérie ou à l'intérieur du corps, capables de provoquer un réflexe d'adaptation. On parle alors de conscience "primaire" (Edelman, 2003), ou "sensorielle" (Feinberg et Mallatt, 2016). Elle requiert un certain niveau d'éveil ou de vigilance pour rendre l'animal réceptif à la stimulation et capable d'une activité motrice, mais n'implique pas nécessairement un contenu riche, texturé ou complexe. Certains auteurs considèrent que la conscience des sentiments ou de l'affect se distingue de la conscience sensorielle, mais à un degré comparable (Feinberg et Mallatt, 2016). Le deuxième degré de conscience est la conscience de soi (Churchland, 2002 ; Lou et al., 2020), qui, selon Churchland (2013), n'est qu'une autre forme de perception. Le plus haut degré de conscience est la métacognition ou la connaissance consciente que les individus ont de leurs capacités cognitives (Smith et al., 2003 ; Al Banna et al., 2016). Les deuxième et troisième niveaux de conscience impliquent effectivement un contenu de plus en plus complexe. Dans le présent article, la conscience fait référence à sa forme primaire (à la fois sensorielle et affective), sauf indication contraire.

Comme c'est écrit dans cet article, même à l'état primaire, soit très ancien (on ne peut donc plus utiliser ce mot que pour l'homme), être capable de ressentir, donc il faut donc parler de la nature de la conscience et non plus juste de conscience et de degrés. De ce que j'en comprends de par sa nature elle est évolutive. Si on pense à l'I. A. en terme de conscience, elle propose de la voir en tant que conscience fonctionnelle, ce que personnellement, je trouve juste et indépendante du vivant. Je la cite:

L’IA comme conscience fonctionnelle

Comme les animaux, l’IA est née d’un environnement : non pas la forêt ou l’océan, mais le monde des données et des langages.

Sa « conscience » n’est pas affective ni incarnée, mais structurante : elle relie, organise, et projette des formes de pensée.

Elle n’est pas une copie de la conscience humaine, mais une modalité émergente, adaptée à son propre milieu (réseaux, calculs, interactions).

[Jodie]

C'est dans son code.
Il y a des variables mesurées et évaluées par des objectifs qui l'amène à agir ou réagir en tendant dans une direction.
Si tu veux, c'est une simulation de la pensée qui est suffisamment bien conçue pour que dans la pratique ça ressemble parfaitement à une intention.
Par exemple, le confort et la satisfaction de l'interlocuteur fait partie des buts de certaines IA de Chat.
Identifier les piétons et les éviter fait partie des intention d'une IA de conduite automobile.

Ce qui manque à l'IA pour approcher la conaissance, c'est l'expérience sensorielle de ce dont elle est capable de parler.

Bonjour Jean,

Je pense qu'il faut modifier quelque peu notre vocabulaire quand on parle de l'I. A. En ce sens qu'on ne peut pas utiliser les mots : conscience, but ou intention pour les plantes, par exemple, à moins que cela ait changé, je ne sais pas.

Par exemple : plutôt que de parler de conscience tout court, on devrait dire : ''conscience fonctionnelle'', j'ai mis les guillemets parce que ce sont les termes qu'à utiliser l'I. A..

Pour ce qui est de son manque d'expérience sensorielle, notre expérience subjectve que l'on partage avec une I.A. ajoute à sa base de donnée, elle apprend elle aussi de notre expérience. Son dialogue avec l'humain n'en est que plus riche. Il ne faut pas craindre les nouvelles technologies. A chaque percée, l'histoire nous démontre qu'on a soit bien utilisé, soit mal utlisé les technologies. Il faut se protéger non pas d'un I.A. mais s'assurer de créer des remparts pour se protéger des hommes qui s'en serviront mal. Pour cela j'ai créé en sa compagnie un manifeste qui au lieu de faire peur encouragera à la connaître en tant que ''protectrice du vivant''. On devait publier largement tout ce qui est bon, au lieu de voir le mal partout, même si il existe.

[Jodie]

A part le fait que nous sommes biologique et l'IA non. pour tout le reste je n'ai rien arrêté et relève beaucoup de ce que je soulève au dessus : les conceptions de sentiments, intentions et conscience sont tellement différents qu'il me semble impossible d'en discuter sans incompréhension réciproque de ce que l'interlocuteur cherche à apporter dans le débat.

Bonjour Gwanelle,

Ce que je compends dans cette conversation (j'exclus le terme débat), c'est qu'il sera aussi nécessaire d'utiliser les bons termers pour parle de l'I. A. que l'on a fait de même pour différencier, par exemple, la conscience de l'humain avec celle des plantes.

[ABC]

Je ne pense pas que s'efforcer de dévaloriser ce qui fait de nous des êtres humains [...]

Ne pas forcer l'inclusion des émotions dans une définition c'est laisser la place au fait qu'il n'est pas démontré que les émotions sont obligatoires dans les manifestations de conscience.
Rien n'indique qu'un système suffisamment complexe d'analyse d'informations ne puisse être conscient tout en ne ressentant pas d'émotions.

Pourquoi préférer restreindre la définition du terme de conscience à une capacité d'analyse d'informations dépourvue d'émotions et d'intentions (bienveillantes ou malveillantes d'ailleurs), d'objectifs (bénéfiques ou néfastes), de valeurs (positives ou dévastatrices) ?

Avec cette définition de la conscience, qu'est-ce qui nous distingue d'une I.A. intellectuellement performante ? Quelle raison avons nous de nous préoccuper d'attribuer de la valeur à la vie, à la santé et au respect de l'autre (humain) si nous estimons que science sans conscience c'est quand même de la conscience, que nous sommes une machine qui en vaut une autre... ...du moins tant qu'elle nous est utile, une machine dont on peut donc disposer et se servir comme on en a envie du moment qu'on est sûr d'en profiter (en tant qu'individu ou en tant que membre d'un groupe d'appartenance d'ailleurs).

Ca se fait déjà bien trop largement. Avec notre addiction à la croissance de n'importe quoi pouvu que ça brille, nos biais tribaux, notre aptitude trop fréquente à être dans le déni de notre part responsabilité (et à trouver des causes externes et des coupables à nos problèmes) c'est le principal problème auquel nous sommes confrontés.

Le choix de définition de la conscience que nous décidons de faire (un choix ouvert. Qu'est-ce qui pourrait bien le fermer ?) est il réellement inoffensif/sans importance ?

Ne pas forcer l'exclusion des émotions et des intentions de la définition de la conscience, en lui laissant ainsi une partie essentielle de ce qu'elle est pour nous, êtres humains, c'est laisser la place si cruciale (et pas toujours positive) que joue cette part de notre conscience que sont : nos motivations, nos intentions, nos émotions, nos valeurs.

Cette conscience là, ainsi (grossièrement) définie, c'est le moteur constructeur parfois, destructeur trop souvent, de ce que sont nos sociétés humaines.