Microsoft AI Tay: révision de l'expérience.

[lefauve]

Salut à tous,

Je propose un petit retour sur Tay, l'AI de microsoft qui est devenu en 24h un "monstre" sur twitter.

Comme plusieurs d'entre-nous le dérapage spectaculaire m'a beaucoup fait rire. Maintenant que le temps à passé, j'ai fait une petite réflexions sur le sujet.

1. Sur le plan technique c'est un succès, l'AI est capable de mené des discutions et d'évoluer en fonction de celle-ci.

2. L'envoyer sur twitter sans l'avoir formé à avoir un esprit critique était une connerie c'était comme envoyer la plus naïve des adolescentes de 13 ans dans le plus sordide bars de motard criminalisé.

3. Des son arriver sur twitter, c'était prévisible que des trolls seraient attirer par elle et ferais tout pour la corrompre dans le seul but de s'amuser.

4. Une réflexion que j'ai fait l'ans dernier sur le sujets s'est confirmé. Les intelligence artificiel serait aussi superticieuse que les humains. En grande partis due à l'usage d'un système déductif.

[Inso]

Bonjour,

2. L'envoyer sur twitter sans l'avoir formé à avoir un esprit critique était une connerie c'était comme envoyer la plus naïve des adolescentes de 13 ans dans le plus sordide bars de motard criminalisé.
3. Des son arriver sur twitter, c'était prévisible que des trolls seraient attirer par elle et ferais tout pour la corrompre dans le seul but de s'amuser.

Je ne suis pas certain que ses concepteurs aient pu imaginer ce qui c'est passé. Ceci dit, laisser l'AI se débrouiller sur twitter est une bonne idée, il se passera toujours des choses non prévues (mais pas sûr que microsoft aie apprécié...)

4. Une réflexion que j'ai fait l'ans dernier sur le sujets s'est confirmé. Les intelligence artificiel serait aussi superticieuse que les humains. En grande partis due à l'usage d'un système déductif.

Tu peux développer s'il te plais ? je ne comprend pas bien le sujet.

Inso

[lefauve]

4. Une réflexion que j'ai fait l'ans dernier sur le sujets s'est confirmé. Les intelligence artificiel serait aussi superticieuse que les humains. En grande partis due à l'usage d'un système déductif.

Tu peux développer s'il te plais ? je ne comprend pas bien le sujet.

Inso

Tout d'abord, tout les systèmes d'apprentissage des êtres vivant se font par déduction. On observe, on cherche un profils, on conclut une règle. Plus l'observation et le profil est grand plus la règle va être important. Mais il y a des bogues au système, la première est l'observation qui peut comporter des erreurs ou des mauvaise interprétation de l'observation, la seconde es que le profil trouver n'est pas bon et donc la règle ne sera pas bonne. La somme de ses erreurs vont devenir des superstitions.

Hors en reproduisant ce système déjà existant chez les humains, on va aussi reproduire ces bogue que sont les superstitions.

[Inso]

Merci, c'est plus clair. je ne voyais pas les choses sous cet angle.

Inso

[lefauve]

Si vous, vous êtes demander comment j'ai envisager cette possibilité, c'est que j'envisage le vivant comme une machine chimique et physique. Cette vision des choses est pour le moins très contreversé et je m'attend à une grande résistance, particulièrement agressive dans les cercles créationistes. Même dans les cercles sceptiques, je m'attend à quelques grincement de dent.

[Lulu Cypher]

Tout d'abord, tout les systèmes d'apprentissage des êtres vivant se font par déduction. On observe, on cherche un profils, on conclut une règle.

Excuse moi mais ne confondrais-tu pas avec l'induction (créer une loi, un modèle, une théorie à partir de l'observation) ?

PS : l'apprentissage majoritairement utilisé dans le monde vivant relève du mimétisme (l'imitation, assez pauvre cognitivement parlant, ne relève pas vraiment à mon avis de la déduction ou de l'induction. Seule son analyse a postériori, relève, elle, de la déduction)

[Dash]

Sujet intéressant!

Oui, il doit confondre. L'induction étant un cas particulier observé maintes fois (empirisme) généralisé à un ensemble de cas similaires.

Sinon j'pense qu'il est difficile de déterminer la part du mimétisme, de l'induction et de la déduction qui sont utilisés chez l'homme. Il me parait cependant évident que le mimétisme est le premier à être exploité, car c'est celui qui nécessite le moins la réflexion (donc chez les animaux). Du coup plus l'on est jeune ou moins nous sommes doués intellectuellement, plus il est exploité (d'où l'importance d'avoir des modèles pour les enfants et ceux qui « n'ont pas été doués par la nature »). Sinon, ensuite, les plus pragmatiques usent probablement un peu plus de l'induction et les plus intellos/cérébraux un peu plus de la déduction. Mais bon, dans tous les cas, tout humain « normal » utilise les 3 à divers degrés.

[lefauve]

Tout d'abord, tout les systèmes d'apprentissage des êtres vivant se font par déduction. On observe, on cherche un profils, on conclut une règle.

Excuse moi mais ne confondrais-tu pas avec l'induction (créer une loi, un modèle, une théorie à partir de l'observation) ?

Tu pointilles sur les définitions, mais je vais tout de même d'accorder ce point.

PS : l'apprentissage majoritairement utilisé dans le monde vivant relève du mimétisme (l'imitation, assez pauvre cognitivement parlant, ne relève pas vraiment à mon avis de la déduction ou de l'induction. Seule son analyse a postériori, relève, elle, de la déduction)

Pas tout le vivant, les reptiles, les insectes (qui à mon avis ne sont pas doué de méchanisme d'apprentissage) et la plus part des oiseau n'apprennent que le chants et la communication par mimétismes.

Le mimétisme est une application de ce principe. Le "jeune" observe l'action du parent, analyse le résultat de l'action et conclus que l'action du parent est la bonne méthode pour obtenir le résultat désiré. Ensuite, il expériment par lui-même par le jeux ou essai réel pour crée de nouvelles règles qui vont composé au final l'apprentissage.

Pour ce qui est de la "pauvreté" cognitive, je ne suis pas d'accord, le mimétisme n'est pas seulement de voir l'action, mais de comprendre l'action. Sur le plan capacité mental c'est très demandant, le cerveau intensivement en continue pour analysé les images, comprendre l'action et mémoriser la séquence des actions. Ton impression de pauvreté est dû au fait que tout ce déroule très loin sous la conscience.

[lefauve]

Sujet intéressant!

Oui, il doit confondre. L'induction étant un cas particulier observé maintes fois (empirisme) généralisé à un ensemble de cas similaires.

Sinon j'pense qu'il est difficile de déterminer la part du mimétisme, de l'induction et de la déduction qui sont utilisés chez l'homme. Il me parait cependant évident que le mimétisme est le premier à être exploité, car c'est celui qui nécessite le moins la réflexion (donc chez les animaux). Du coup plus l'on est jeune ou moins nous sommes doués intellectuellement, plus il est exploité (d'où l'importance d'avoir des modèles pour les enfants et ceux qui « n'ont pas été doués par la nature »). Sinon, ensuite, les plus pragmatiques usent probablement un peu plus de l'induction et les plus intellos/cérébraux un peu plus de la déduction. Mais bon, dans tous les cas, tout humain « normal » utilise les 3 à divers degrés.

Si tu analyse en fonction d'effectuer la comparaison de deux individues je suis d'accord. Mais l'a c'est par rapport à reproduire un système dans le but de crée une intelligence artificiel. À l'heure actuel, on peine à crée des modules qui ne reproduisent qu'une partie de ce c'est l'intelligence. On n'est pas encore capable de faire une intelligence qui remplissent les mêmes fonction qu'un cerveau animal simultanément. Pour l'instant toute les AI fait par l'homme sont au mieux lourdement infirme.

Avant d'arriver à une AI entièrement fonctionel comparable à un cerveau animal, il y a encore énormément de travaille.

[Lulu Cypher]

Tu pointilles sur les définitions, mais je vais tout de même d'accorder ce point.

Ca m'arrive en effet parfois .... mais en l'occurrence on ne peut intervertir la définition de deux concepts parfaitement opposés ... ce n'est plus être pointilleux

PS : l'apprentissage majoritairement utilisé dans le monde vivant relève du mimétisme (l'imitation, assez pauvre cognitivement parlant, ne relève pas vraiment à mon avis de la déduction ou de l'induction. Seule son analyse a postériori, relève, elle, de la déduction)

Pas tout le vivant, les reptiles, les insectes (qui à mon avis ne sont pas doué de méchanisme d'apprentissage) et la plus part des oiseau n'apprennent que le chants et la communication par mimétismes.

Aurais-tu des sources qui permettraient de soutenir tes affirmations ?

Le sujet des mécanismes d'apprentissages (indépendamment ou pas de la présence d'un enseignant formel) me semble pas mal plus complexe que ce que tu as l'air d'imaginer qu'ils sont ... si le sujet te passionne je te conseille cet ouvrage (qui traite bien sur de mécanismes d'apprentissage "humains") ... mais pour une base dans le domaine l'article cet article de Wikipedia est un bon début

De manière générale on peut identifier chez l'animal (que l'apprentissage soit purement moteur ou comportemental) la mixité de plusieurs mécanismes :

• L'imitation ou le mimétisme (majoritaire que ce soit par imitation d'un parent ou d'un congénère)
• La répétition (favorisant notamment l'ancrage)
• L'essai/erreur (qui correspond plus à ce que tu décris)
• Le renforcement positif ou négatif (favorisant la discrimination des comportements ainsi que l'ancrage)
• L'induction (qui nécessite un niveau de conscience assez élevé ... le lombric à beaucoup de mal à induire une règle mais n'est pas exempt d'une certaine capacité d'apprentissage pour autant)
• L'immersion (il est temps de quitter le nid ... démerde toi).

Masi en plus cette partie "acquise" il existe des apprentissages innés tels l'instinct de survie ou certains comportements collectifs d'une espèce (cf. les émotions selon Antonio Damasio).

Bref, une très grosse job en perspective avec un grand pan qui reste inconnu du fait de notre actuelle impossibilité à modéliser des comportement neuronaux (vraiment) complexes (à part pour la drosophile )

Ce que je conçois par contre beaucoup plus facilement, c'est le parallèle entre neurophysiologie et modélisation informatique. Les deux disciplines "s'aident" mutuellement (mais de manière totalement différentes la première aidant à la modélisation de la seconde et la seconde aidant à la compréhension de la première) ... mais il n'y a pas de bijection entres elles.

@Dash

Si on excepte de cet apprentissage animal l'acquisition de connaissances (qui ne me semble pas être une priorité animale vs la capacité de survivre à leur environnement) alors la déduction me parait un peu superflue. Je pense que le présent contexte parle plus d'apprentissage (moyens) que de connaissance[1] (but), même si l'intersection des deux ensembles n'est pas vide.

----------------------------------------
[1] au sens très large du terme, sens qui permet d'assimiler la capacité de faire du vélo à une connaissance)