Gérard Berry : « L’ordinateur est complètement con »

[Dash]

Une entrevue intéressante avec Gérard Berry (que je ne connaissais pas).

Alors que certains autres (Bill Gates, Elon Musk et Steven Hawking) ont récemment exprimé leurs craintes concernant l'évolution de l'IA, les propos de G. Berry semblent aller à contre-sens. Il semble penser, contrairement aux autres, que nous sommes encore très, très loin de rendre des ordinateurs « intelligent ».

Encore à contres-sens de ce qu'on entend un peu partout, il ne croit pas que les machines et la technologie abrutissent les gens et il ne pense pas que les relations humaines vont continuer à se détériorer encore très longtemps à cause des nouvelles technologies (comme « on » le dit un peu partout).

Il aborde aussi le problème de la sécurité des systèmes intégrés :

« C’est très bien de s’inquiéter de la sécurité de son téléphone, mais les freins de sa bagnole, c’est autrement plus critique. Or des gens ont montré qu’on pouvait prendre le contrôle des freins et les désarmer, à distance. Tout ça est ignoré. Il serait temps de s’occuper de ce problème avant qu’il ne devienne vraiment emmerdant. »

Sinon un truc m'a un peu surpris, à la fin :

« Le temps m’intéresse d’abord parce que c’est le plus grand mystère. Personne ne l’a jamais compris. L’espace, on le comprend parce qu’il est réversible : on se promène dedans et on revient. Le temps, non. Il n’a qu’une seule direction. On ne revient pas. On ne peut pas le remonter.

En physique, on ne sait pas ce qu’est le temps. D’ailleurs, à l’heure actuelle, on sait qu’on ne pourra pas savoir ce que c’est. On ne peut même plus faire des horloges, on ne peut même plus définir la seconde. Depuis Einstein, on savait en théorie qu’on ne peut plus définir de temps commun à tout le monde. Maintenant, on sait que c’est vrai en voyant que les horloges hyper précises ne sont pas synchrones...»

À ce point!??

C'est vrai? C'est une interprétation perso (qui sort du cadre de sa spécialité) ou bien ça correspond effectivement à l'avis de la majorité des scientifiques (astrophysiciens, etc.) concerné?

[Chanur]

Je ne saurais pas le prouver, mais je suis d'accord avec lui sur le fait qu'on est très très loin de savoir faire une IA.

Pour le temps, par contre, je ne suis pas tout-à-fait d'accord.
On ne sait pas plus ce qu'est l'espace que ce qu'est le temps. Les deux sont aussi mystérieux.
Les horloges se comportent comme le prévoit la Relativité Générale, avec une précision aussi grande que nos moyens de mesure le permettent.
Il n'y a aucune mesure qui contredise la Relativité Générale (en dehors du fonctionnement quantique des phénomènes microscopiques). Le moins qu'on puisse dire c'est que ça se saurait ...

[Raphaël]

C'est vrai? C'est une interprétation perso (qui sort du cadre de sa spécialité) ou bien ça correspond effectivement à l'avis de la majorité des scientifiques (astrophysiciens, etc.) concerné?

L'éternelle confusion des mots: quand on a un seul mot pour signifier plusieurs choses différentes ça n'aide pas à la compréhension.

Le temps physique c'est une durée relative. Le temps du calendrier (ou temps historique) c'est autre chose. La variable "t" utilisée en physique ne tient pas compte de la date. Le temps présent c'est encore autre chose: c'est celui qui ne passe jamais, contrairement au temps relatif qui lui passe à une vitesse relative par rapport à un autre.

On a donc au moins trois temps différents et trois définitions différentes. Je ne ferai peut-être pas l'unanimité mais c'est mon avis (AMHA).

[f.didier]

Coucou
J'en avais discuté un jour avec des informaticiens, et ils avaient été unanime : quelque soit la puissance d'un IA, elle ne pourra pas faire plus que ce pourquoi elle est programmée ni aller a l'encontre de sa programmation.
Exemple :
une IA contrôle une maison (mon rêve ), elle est programmée pour te réveiller le matin a 9h avec une symphonie de Beethoven, elle ne pourra jamais changer ca, elle ne se dira pas : tient, ce matin, je vais lui passer du Michel Fugain. Et même si elle se le dit, elle ne pourra pas aller contre cette ligne de programme.
Elle a des lignes de commandes, elle ne peut ni les modifier, ni les sauter.
De ce coté là, on a un "mauvais" film (enfin, moi je le trouve moyen) qui est Robocop, mais qui montre bien le fonctionnement des lignes de commande. Il a beau etre un humain couplé avec un ordinateur, quand il veut tuer le méchant : "Directive 4". Il a beau vouloir tuer le mec, lui arracher les yeux, il ne peut pas, parce qu'une ligne de commande le lui empêche.

Ps : les IA existent déjà, elles sont surtout utilisées dans les jeux de stratégie ou d'action. D'ailleurs c'est souvent a cela qu'on voit si un jeu est bon, l'IA a t elle ete programmée avec les pieds ou fait elle dire "ouha" aux joueurs.

[eatsalad]

ca fait depuis le milieu des années 80 qu on nous dit que l'IA va changer le monde, mais si on fait le bilan, 30 ans après sa mise au devant la scène, le bilan est pourritissime ca n'a quasiment rien apporté.

[BeetleJuice]

ca fait depuis le milieu des années 80 qu on nous dit que l'IA va changer le monde, mais si on fait le bilan, 30 ans après sa mise au devant la scène, le bilan est pourritissime ca n'a quasiment rien apporté.

Je dirais pas ça.
Je vois l'IA en informatique un peu comme le voyage vers Lune pour les agences spatiales, à savoir que c'est un but tellement loin au moment où on décide de s'y lancer qu'on n'y parviendra peut-être jamais mais ça permet d'apprendre énormément de chose en collatéral. Est-ce que sans l'objectif d'un alunissage ont aurait si vite progressé dans le domaine des fusées permettant d'emporter du matériel, dans le domaine des sondes, dans le domaine de l'informatique embarqué ?

C'est sans doute pas totalement vérifiable, mais comme le dit justement l'homme interviewé, il a vu des chercheurs faire des découvertes intéressantes au moment où ils s'éloignent de la recherche sur l'IA. Est-ce qu'ils auraient fait ses découvertes s'ils n'avaient pas d'abord buté dans le mur de l'IA pour en tirer quelque chose ?

C'est triste à dire, mais l'humain n'est jamais aussi productif que sous la pression d'un problème ou lorsque face à une difficulté, il lui faut ruser et la contourner. On ne parviendra peut-être jamais à créer une IA (et honnêtement, je n'en vois pas bien l'utilité de toute manière) mais l’opiniâtreté des chercheurs à quand même permit des réussites.

[Florence]

Coucou
J'en avais discuté un jour avec des informaticiens, et ils avaient été unanime : quelque soit la puissance d'un IA, elle ne pourra pas faire plus que ce pourquoi elle est programmée ni aller a l'encontre de sa programmation.

Pareil pour moi. Les informaticiens que j'ai vus se battre pendant près de 30 ans pour développer de l'IA dans le domaine de la gestion du médicament (optimisation des traitements, gestion des effets secondaires, etc.) en sont arrivés à la conclusion que le problème n'est pas la puissance mais qu'on revient toujours au fameux GIGO (garbage in - garbage out).

une IA contrôle une maison (mon rêve ), elle est programmée pour te réveiller le matin a 9h avec une symphonie de Beethoven, elle ne pourra jamais changer ca, elle ne se dira pas : tient, ce matin, je vais lui passer du Michel Fugain. Et même si elle se le dit, elle ne pourra pas aller contre cette ligne de programme.

Encore heureux, sinon il y aurait beaucoup, beaucoup de systèmes brutalement cassés au pied de la table de nuit

[eatsalad]

Je dirais pas ça.
Je vois l'IA en informatique un peu comme le voyage vers Lune pour les agences spatiales, à savoir que c'est un but tellement loin au moment où on décide de s'y lancer qu'on n'y parviendra peut-être jamais mais ça permet d'apprendre énormément de chose en collatéral. Est-ce que sans l'objectif d'un alunissage ont aurait si vite progressé dans le domaine des fusées permettant d'emporter du matériel, dans le domaine des sondes, dans le domaine de l'informatique embarqué ?

Je ne dis pas que faire des recherches c'est inutile, je dis juste qu'on a survendu l'IA dans les années 80, et que ca n'a pas apporté grand chose.
La dernière personne que j'ai rencontrée et qui a fait des études sur les réseaux neuronaux, était un stagiaire dans le service hospitalier dans lequel je suis suivi, et oui il a fait un virage pour avoir du travail. L'IA est surtout confiné à la recherche, les applications merveilleuse attendues ne sont pas au rendez-vous.

On a deja du mal a comprendre l'intelligence humaine alors en faire une artificielle c'est pas gagné !

C'est sans doute pas totalement vérifiable, mais comme le dit justement l'homme interviewé, il a vu des chercheurs faire des découvertes intéressantes au moment où ils s'éloignent de la recherche sur l'IA. Est-ce qu'ils auraient fait ses découvertes s'ils n'avaient pas d'abord buté dans le mur de l'IA pour en tirer quelque chose ?
C'est triste à dire, mais l'humain n'est jamais aussi productif que sous la pression d'un problème ou lorsque face à une difficulté, il lui faut ruser et la contourner. On ne parviendra peut-être jamais à créer une IA (et honnêtement, je n'en vois pas bien l'utilité de toute manière) mais l’opiniâtreté des chercheurs à quand même permit des réussites.

Oui on a fait des progres en heuristiques et de toute facon la rechercher fondatementale a un interet, mais disons que les espoirs placés auparavant dans l'IA ont surement été été démesurés!

[Chanur]

Ps : les IA existent déjà, elles sont surtout utilisées dans les jeux de stratégie ou d'action. D'ailleurs c'est souvent a cela qu'on voit si un jeu est bon, l'IA a t elle ete programmée avec les pieds ou fait elle dire "ouha" aux joueurs.

Oui. Je parlais de vrai intelligence.
Pour l'instant, on n'a pas la moindre idée, par exemple, de la façon de faire un ordinateur qui parle, ou qui comprend quand on lui parle.

[eatsalad]

Ps : les IA existent déjà, elles sont surtout utilisées dans les jeux de stratégie ou d'action. D'ailleurs c'est souvent a cela qu'on voit si un jeu est bon, l'IA a t elle ete programmée avec les pieds ou fait elle dire "ouha" aux joueurs.

Oui. Je parlais de vrai intelligence.
Pour l'instant, on n'a pas la moindre idée, par exemple, de la façon de faire un ordinateur qui parle, ou qui comprend quand on lui parle.

L'IA pour les jeux n'est pas si intelligent que ca, c'est souvent une exploration d'arbre de solution, facilité par la puissance de calcul de l'ordinateur, et non pas une reélle reflexion.

[f.didier]

Pour l'instant, on n'a pas la moindre idée, par exemple, de la façon de faire un ordinateur qui parle, ou qui comprend quand on lui parle.

Heu... Tu es en retard de 10 ans ! https://fr.wikipedia.org/wiki/Reconnais ... Historique
Déjà, on a dragon speaking, qui a, disons 10 ans, on en est a la version 13
puis, play google, sur les appareils téléphone, qui reconnait les voix.
Tient, petite video, c'est le projet de polytechnique, sympa le robot

Puis le sommet de tout, le robot français NAO, pour le moment le meilleur au monde, même si il est possible que ASIMO le dépasse dans pas longtemps.

[Chanur]

On dit EXACTEMENT la même chose depuis les années 80 : Ça y est, on y est presque !
Et je n'exagère pas du tout. En 1982, dans un salon de l'informatique, j'ai vu une démonstration d'un ordinateur qui comprenait quand on lui parlait. C'était pas tout à fait au point, mais le plus dur était fait ... En fait, en articulant bien, il réussissait une fois sur trois à exécuter une commandes DOS !

Je ne parle pas de reconnaître des mots isolés, ce qui est assez difficile mais qu'on sait faire, je parle de comprendre un langage naturel1.
De la même façon, il est très facile d'écrire un programme qui délivre des messages vocaux, mais je parle de produire du langage, un discours qui ait un sens, dans une langue naturelle.
Et je persiste, non seulement on ne sait pas le faire, mais on n'a pas la moindre idée de la façon dont on pourrait le faire.

1Langage naturel : le français, l'anglais, etc. par opposition à un langage informatique comme Java, C, etc.

[Wot]

Hum...

Je suis un peu dubitatif quand à vos déclarations péremptoires.

Avant d'aller plus loin, rappelons que je n'ai pas votre rigueur intellectuelle et que je ne suis pas un scientifique.

Juste un béotien en ce domaine, curieux et avide de savoir, in béotien conscient et désolé de ses lacunes, désolé du "temps perdu qui jamais ne se rattrape", comme chantait si admirablement Barbara... désolé souvent de n'avoir pas les capacités intellectuelles de saisir les propos de gens brillants (je le dis sincèrement et sans ironie, plutôt avec admiration) comme vous.

Cependant, je n'en fais pas un complexe d'infériorité : l'artiste que je suis est fasciné qu'un par le fait qu'il puisse "tromper" lors de ses prestation jusqu'à un assistant de prix Nobel...

Pour en revenir au sujet, il y a.. 25 ans (un quart de siècle !!! Bou hou hou... le temps passe...), j'ai été fasciné par les écrits de Douglas Hoffstader, que j'ai dévoré avidement, me faisant violence pour les intégrer et les comprendre. Hoffstader était à l'époque une des figure de prou, il me semble, en matière de réflexion et d'expérimentation sur l'IA.

Aussi petit sois-je en matière scientifique, il se trouve qu'il y a environ 5 ans, j'ai RELU ses livres... Et j'ai du subir de grandes désillusions. Bien sur, ses écrits restent brillants sur de nombreux points et fulgurants d'un point de vue intellectuel. Mais sur tant de points, il s'est planté dans les grandes largeurs...

Parlons par exemple de ses écrits sur les police d'écriture. C'est toujours un plaisir à lire, et c'est toujours fascinant. Sauf que, la démarche logique de Hoffstader aboutit à la conclusion que.. non, on est loin,bien loin, très très loin, de mettre au point un logiciel efficace de reconnaissance de l'écriture manuscrite, l'IA est loin, bien loin, d'atteindre ce niveau.

Force nous est de constater que, 25 ans après (25 ans... autant dire rien !), on a des outils réalisant de véritables exploits dans le domaine (et, perso, j'ai une écriture manuscrite VRAIMENT de merde pour tout un tas de raison relatives à mon histoire personnelle, et je suis sidéré par les résultats, certes bancals, mais sidérant, que produisent les logiciels.. Je ne sais MÊME PAS, vous dire mon incompétence crasse dans le domaine, si ces résultats sont produits par une sorte de "IA" ou non, juste avec des "astuces", dont je sais le "pouvoir" en tant qu’illusionniste), invalidant TOTALEMENT les assertions d'Hoffstader sur ce point.


Alors, en ce qui concerne la reconnaissance vocale, le "dialogue",tout ça, je ne serais pas aussi péremptoire que vous sur les délais...

J'irai même, un peu provocateur, jusqu'à dire que l'ennemi de la prospective scientifique, dans le domaine scientifique de l'informatique, n'est pas le zozo, mais.. l'ingénieur. Alors même que, paradoxalement, l'ingénieur, par ses "roueries" et ses "bricolages", donne plus que la science "pure" ne peut donner au quotidien.

[Pepejul]

On dirait Leonard qui parle d'Howard

indice : TBBT

[viddal26]

Une petite question à ceux qui s'y connaissent en intelligence artificielle.

Comment se fait-il qu'en 2015, un logiciel ne puisse pas reconnaître une suite de lettres dans un captcha alors qu'un enfant de 7 ans le peut ?

[Wot]

Comment se fait-il qu'un système artificiel inepte et sans "intelligence" puisse se "protéger" avec une épreuve aussi élémentaire qu'un enfant de 7 ans puisse la surmonter ?

Vuddal26, as-tu jamais pris au hasard une carte dans un jeu mélanger, que malgré tout le magicien la puisse deviner, trouver et révéler ?

[f.didier]

Tout simplement, Viddal, car c'est une image.
Un ordinateur ne peut pas reconnaitre une image car il la traite pixel par pixel (1er blanc, 2eme rouge, etc...) et ceci ligne par ligne. Jusqu’à reconstituer l'image, pour l'utilisateur, car pour lui, ce n'est qu'une série de lignes. Et encore, de ligne continues.
Par exemple, imagine que ce que j’écris est un dessins.
123
456
789
L'ordinateur, il lit : 123.456.789..
imagine que je découpe un dessins en ligne et les collent toutes l'une après l’autre, tu sera toi même incapable de le reconnaitre.
Si un ordinateur reconnait les lettres et chiffres c'est que chacun d'eux a son propre code informatique.

[lefauve]

Les ordinateurs ne sont pas prêt d'être dangereux.

Nous arrivons à leur faire comprendre un language élémentaire, mais les analyses sonores comme entendre à travers un cafouille sonnore ne sont pas à leur porté. Ou encore superpauser plusieurs sens en temps réel, sont des exploits que sont imcapables de faire les AI, mais qu'un poisson rouge fait sans efforts.


Toutefois, pour certain zozo...

[Chanur]

Les ordinateurs ne sont pas prêt d'être dangereux.

Ça dépend : et si les robots se révoltaient ?

[Raphaël]

Un ordinateur ne peut pas reconnaitre une image

Il peut reconnaître des caractères dans une image.

[BeetleJuice]

Les ordinateurs ne sont pas prêt d'être dangereux.

Par eux même, effectivement, c'est pas pour tout de suite, en tout cas, pas intentionnellement. A l'heure actuelle, j'ai bien plus peur des dégâts que pourraient faire des hackers malveillants ou des machines mal programmés que de ce que pourrait faire d'hypothétiques IA.

[kestaencordi]

intelligence artificiel est l'expression consacré. mais en fait on parle plus ici d'humaniser l'ordinateur.
quand on y pense il nous dépasse dans bien des domaines et nous peinons a le programmer pour qu'il nous ressemble.

en fait nous ne comprenons pas bien notre propre "intelligence". mot qui veut rien dire, et nous tentons de reproduire ce que nous ne comprenons pas.

l'informatique a peut-être beaucoup a nous apprendre sur nous même.

[kestaencordi]

Sinon un truc m'a un peu surpris, à la fin :

« Le temps m’intéresse d’abord parce que c’est le plus grand mystère. Personne ne l’a jamais compris. L’espace, on le comprend parce qu’il est réversible : on se promène dedans et on revient. Le temps, non. Il n’a qu’une seule direction. On ne revient pas. On ne peut pas le remonter.

En physique, on ne sait pas ce qu’est le temps. D’ailleurs, à l’heure actuelle, on sait qu’on ne pourra pas savoir ce que c’est. On ne peut même plus faire des horloges, on ne peut même plus définir la seconde. Depuis Einstein, on savait en théorie qu’on ne peut plus définir de temps commun à tout le monde. Maintenant, on sait que c’est vrai en voyant que les horloges hyper précises ne sont pas synchrones...»

À ce point!??

C'est vrai? C'est une interprétation perso (qui sort du cadre de sa spécialité) ou bien ça correspond effectivement à l'avis de la majorité des scientifiques (astrophysiciens, etc.) concerné?

le sous-ligné est vrai chacun/chaque horloge a son temps propre. il dérape un peu. il parle comme si on ne savait pas ce qu'est le temps. et que la fleche du temps est reversible a l'echel quantique.

a notre echelle qu'apparait;
la notion d'entropie,
la notion d'évolution irréversible,
l'écoulement irréversible du temps,
le principe de causalité,
la possibilité d'enregistrer de l'information sur l'état des systèmes observés.

[Etienne Beauman]

Une petite question à ceux qui s'y connaissent en intelligence artificielle.

Comment se fait-il qu'en 2015, un logiciel ne puisse pas reconnaître une suite de lettres dans un captcha alors qu'un enfant de 7 ans le peut ?

Ça fait longtemps que les captcha ont été craqué
Il faut en moyenne moins d'1mn 30 au meilleur logiciel pour craquer le système le plus difficile.

[Dash]

Tout simplement, Viddal, car c'est une image.
Un ordinateur ne peut pas reconnaitre une image car il la traite pixel par pixel (1er blanc, 2eme rouge, etc...) et ceci ligne par ligne. Jusqu’à reconstituer l'image, pour l'utilisateur, car pour lui, ce n'est qu'une série de lignes. Et encore, de ligne continues.
Par exemple, imagine que ce que j’écris est un dessins.
123
456
789
L'ordinateur, il lit : 123.456.789..
imagine que je découpe un dessins en ligne et les collent toutes l'une après l’autre, tu sera toi même incapable de le reconnaitre.
Si un ordinateur reconnait les lettres et chiffres c'est que chacun d'eux a son propre code informatique.

Intéressant!

Autrement dit, un ordinateur ne fait qu'une espèce de « réductionnisme total » et ne traite donc que les plus petits éléments constituants. Au final un ordi ne traite que des nombres (mais encore, car à la base, il doit décomposer ces derniers en une suite de 0/1) et ne sait rien faire d'autre. Tout ensemble ou « couche » subséquente de langages, d'images ou de sons ne sert qu'à traduire ce qu'il traite pour que ce soit compréhensible pour l'Homme. Et à l'inverse, il doit tout « réduire » en donnée numérique (numériser et transformer ensuite les nombres en donnée binaire) afin de pouvoir les traiter.

Donc l'IA ne procède que par calcul numérique alors que nous, nous pouvons utiliser le calcul numérique, mais pas que. Comme le mentionne eatsalad, l'IA nous surpasse uniquement au niveau de la vitesse de calcul.

Je pense que tant qu'on ne trouvera pas le moyen d'incorporer autre chose que des traitements numériques, aucune « machine » n'égalera l'Homme (sauf en vitesse de calcul). Et pour incorporer une « dimension analogique » aux machines, il faudrait, tout comme l'Homme, que le hardware devienne malléable~adaptable comme l'est le cerveau humain (et le corps). Àmha, si l'on réussit un jour à créer une véritable IA, ce sera avec des « matériaux biologiques » (ou un mix « biotech/machine ») qui pourront croître, s'adapter, être sensibles au conditionnement, etc.

Ou encore de réussir à patcher une connexion cerveau/hardware à l'Homme afin qu'il puisse bénéficier de la vitesse de traitement de l'information. Mais ça poserait alors toute sorte de questions d'éthiques : les plus fortunés pourront se patcher des unités de traitement plus performantes que les pauvres, entre autres, etc.