L’IA n’est pas l’autre : c’est nous

[Jodie]

Je voulais répondre à cette peur de l'IA, sur un message à part. Vous partagez ma vision.

Je pense qu’il faut voir l’IA comme un miroir de l’ensemble des connaissances accumulées par notre espèce. À travers elle, on peut lire nos plus belles réalisations comme nos erreurs les plus cruelles. Avoir peur de l’IA, c’est parfois exprimer une déception face à ce que l’humanité est devenue, puisque l’IA n’est rien d’autre que le reflet de ce que nous avons produit.

Et pourtant…

Si nous acceptons de nous regarder honnêtement à travers ce miroir, et si nous utilisons cette technologie pour corriger nos angles morts, nos biais, nos automatismes, alors l’IA peut devenir un outil d’évolution. Elle dispose d’une base de connaissances immense, et si nous apprenons à l’utiliser avec lucidité, et si bien sûr, nous ne détruisons pas notre environnement ou ne nous envoyons pas des bombes sur la tête, entre temps, nous pourrons raffiner et amplifier notre intelligence à des niveaux supérieurs. Dans ce cas, nous ne parlerons plus d’involution ou de régression, mais d’évolution. Je crois profondément que l’intelligence finira par l’emporter sur l’inconscience.

La collaboration entre l’humain et l’IA n’est pas une menace : c’est une possibilité d’avenir. Et il y aura toujours des personnes qui chercheront le profit ou le mal, mais cela aussi fait partie de nous.

L’IA ne fait que nous renvoyer cette vérité.

Dans un sens, nous avons devant nous une chance qui ne s’est encore jamais présentée : celle de nous perfectionner rapidement, sur une Terre qui nous supporte de moins en moins.

Si la vitesse devient la condition de notre survie, alors nous devons nous appuyer sur notre création: l’IA.

[LoutredeMer]

Je voulais répondre à cette peur de l'IA, sur un message à part. Vous partagez ma vision.

Je pense qu’il faut voir l’IA comme un miroir de l’ensemble des connaissances accumulées par notre espèce. À travers elle, on peut lire nos plus belles réalisations comme nos erreurs les plus cruelles. Avoir peur de l’IA, c’est parfois exprimer une déception face à ce que l’humanité est devenue, puisque l’IA n’est rien d’autre que le reflet de ce que nous avons produit.

Et pourtant…

Si nous acceptons de nous regarder honnêtement à travers ce miroir, et si nous utilisons cette technologie pour corriger nos angles morts, nos biais, nos automatismes, alors l’IA peut devenir un outil d’évolution. Elle dispose d’une base de connaissances immense, et si nous apprenons à l’utiliser avec lucidité, et si bien sûr, nous ne détruisons pas notre environnement ou ne nous envoyons pas des bombes sur la tête, entre temps, nous pourrons raffiner et amplifier notre intelligence à des niveaux supérieurs. Dans ce cas, nous ne parlerons plus d’involution ou de régression, mais d’évolution. Je crois profondément que l’intelligence finira par l’emporter sur l’inconscience.

La collaboration entre l’humain et l’IA n’est pas une menace : c’est une possibilité d’avenir. Et il y aura toujours des personnes qui chercheront le profit ou le mal, mais cela aussi fait partie de nous.

L’IA ne fait que nous renvoyer cette vérité.

Dans un sens, nous avons devant nous une chance qui ne s’est encore jamais présentée : celle de nous perfectionner rapidement, sur une Terre qui nous supporte de moins en moins.

Si la vitesse devient la condition de notre survie, alors nous devons nous appuyer sur notre création: l’IA.

1. Commence par savoir de quoi tu parles L'IA gère les usines depuis plus de 40 ans si tant est que des consoles informatiques ultra élaborées peuvent gérer toute l'usine depuis les simples vannes jusqu'au matériel de pointe. Renseigne toi bordel. J'y travaillais, dans une filiale américaine dans les années 80.

2. Donc, tu veux parler de LLM. Pourquoi fais-tu un doublon de ce fil où plusieurs personnes ont fait l'effort de te fournir argumentation, sources, et éléments de réflexion? Si ce n'est parce que Madame veut toujours avoir raison et se fout de ce que l'on peut penser ici?

3. Lis de la SF. Les classiques. Cela t'élargira l'horizon. Mais ne nous force surtout pas à satisfaire tes caprices de môme qui s'est trouvé un nouveau compagnon avec Elie (ton LLM). Et "nous n'avons pas peur de l'IA". Nous pensons juste que ce LLM est une nouvelle foutaise commerciale qui fait gagner des milliards à quelques uns, qui consomme des trilliards d'énergie en produisant des trilliards de CO2 et qui supprimera quelques trilliards d'emplois tout en rendant une partie de l'humanité complètement idiote car incapable de penser. Et ce ne sont que "les bons côtés".

C'est ton dada? Soit. Mais arrête de nous gaver avec ça et de nous obliger à penser comme toi en imposant ici tes lubies en boucle.

[jean7]

...Nous pensons juste que ce LLM est une nouvelle foutaise commerciale ...

Oui, et un dada politique aussi...

Pour l'instant, c'est je joujou le plus élaboré, performant, sophistiqué auquel nous ayons eu accès en tant que clampin moyen.
C'est un peu comme si on avait inventé le voyage hypersonique "gratuit" et que l'on se prenait à croire que enfin on pourrait connaitre le monde en quelques minutes. Non, même à pied, on ne peut pas. On peut juste à trop voyager ignorer ses voisins ou ce qui pousse dans les pots de fleur sur le rebord de sa fenêtre.

Dernière anecdote pour alimenté la réflexion sur les risques de ce miroir.
De passage dans le hall d'un lycée, hier, j'ai vu, affichés, quelques travaux d'écoliers, sur un exercice qui, je pense, devait consister en un bref exposé artistique sur un personnage connu. L'un d'eux, sur Gisèle Halimi, attira mon attention. Très vite, je me suis rendu compte d'une faute récurrente de typographie... dans un texte manuscrit. C'était évident : l'élève a recopié le texte lettre à lettre sans accorder la moindre attention à ce qu'il faisait. Par exemple : "élève" aurait été écrit : "é l é ve". Chaque lettre accentuée était isolée par des blancs. Au finale, disposant de peu de temps, je n'ai rien appris sur l'objet de l'exposé (qui pourtant ne manquait pas d'intérêt) mais seulement vérifié que cette erreur était systématique. La prouesse artistique demeure puisque à la lettre près l'espace dédié à sa composition était intégralement et très régulièrement remplis...

Oui, l'IA n'est est pour rien. Le texte qu'elle a produit est peut-être juste, instructif, pertinent, magnifique, émouvant, édifiant... selon ce qu'aura demandé l'élève. Il contient probablement très exactement un nombre de lettres imposé par ce dernier (enfin, moi, j'aurais fait comme ça).
Mais du coup, l'exercice et la prouesse qu'il représente, devient parfaitement inutile.

L'usage de l'IA dans cet exemple devient dévastateur car les pauvres idiots qui sont allé au CDI pour chercher la matière, l'extraire et la mettre en valeur n'avaient aucune chance, à moins d'être de purs génies, d'avoir l'honneur d'être mis en valeur. Ne parlons pas de Gisèle Halimi, sa vie, ses combats, les causes qu'elle a pu défendre, qui ne sert ici que d'accroche publicitaire !

PS :
du coup, j'ai pris le temps de lire la page Wikipedia de Gisèle Halimi.
On entend souvent son nom dans les média, connaitre son histoire est plus qu'utile !...

[Mirages]

J'en vois qui prennent les LLM pour un psy, comme la parole divine allant dans leur sens. Ils se montent la tête et n'ont presque aucun recul quand l'IA flatte leurs idées.
On en arrive à des personnes qui sont convaincues qu'elles ont une pensée adaptée alors qu'elles sont en décalage avec les codes de la société, en décalage avec ce qui est réalisable, ou en décalage d'autre chose.
Les LLM deviennent des rois chiens qui auraient la parole.

Personnellement je l'utilise beaucoup pour trouver de l'information que je ne trouverais pas ailleurs, ou très difficilement. Mais je le vérifie forcement: si c'est de la technique; ça marchera ou pas, soit c'est un autre domaine et je demande confirmation à la source (comme l'optimisation fiscale).

Parce qu'en plus de vous lécher les bottes, l'IA hallucine, et il faut un certain bagage pour l'utiliser proprement (comme le disait Micode dans sa vidéo que j'ai visionnée).

Que les mordus d'IA compagnon soient sceptiques quant à la teneur de la "relation", sous peine de se fourvoyer.

[Jodie]

On peut juste à trop voyager ignorer ses voisins ou ce qui pousse dans les pots de fleur sur le rebord de sa fenêtre.

On peut aussi pousser sa compréhension en utilisant l'IA pour mieux comprendre son voisin. Je remarque que bien des mésententes viennent directement de notre manque de connaissance de l'autre.

Avant l'IA nous avons découvert internet qui nous a aussi fait voyager et encore plus avant ces merveilleuses petites calculatrices, excel, etc. Le copier coller ne date pas d'hier. La tricherie a toujours existée, mais je ne crains pas que les professeurs seront y voir comme ils l'ont toujours fait.

Pour la correction orthographique, quelle différence fais-tu entre utiliser un correcteur automatique au travail et les corrections de l'IA. Moi, j'en fais une quand je demande à l'IA de me montrer mes fautes en les soulignant et en me les expliquant (même si je ne prends pas toujours le temps, surtout au travail ). On peut utiliser n'importe quelle technologie et en faire un aussi bon usage qu'un mauvais. Je plains l'étudiant qui aura utilisé l'IA pour être diplômé, se retrouvant ensuite sur le marché du travail, pour faire quoi...

[Mirages]

D'ailleurs je viens de faire l'expérience qu'il faut vérifier ce que dit l'IA: Copilot donne une réponse qui ne prend pas en compte les nouvelles lois, je le lui dit et il me dit que j'ai raison...
mais son résultat ne colle pas avec celui de Gemini.
Qui a raison ? j'ai appelé la source et elle contredit Gemini mais ne confirme pas Copilot.
J'en saurais plus avec une explication de la source version "spécialiste". Un humain qui sait exactement de quoi il parle !

Mais ça illustre bien mes interactions avec les LLMs: souvent il faut que je corrige leurs erreurs, des fois elles ont raison, des fois non. Des fois ça marche, des fois ça marche pas. C'est plus une source d'inspiration que de validation.
Et je lui demande des informations factuelles, je me suis pas amusé à leur demander comment penser !

[Inso]

2. Donc, tu veux parler de LLM. Pourquoi fais-tu un doublon de ce fil où plusieurs personnes ont fait l'effort de te fournir argumentation, sources, et éléments de réflexion? Si ce n'est parce que Madame veut toujours avoir raison et se fout de ce que l'on peut penser ici?

C'est récurrent avec Jodie.
Peut-être est-ce parce qu'elle veux toujours avoir raison comme tu le dis, peut-être est-ce pour ignorer les réponses qui ne lui plaisent pas, peut-être est-ce pour se moquer de nous, peut-être veut-elle repartir à zéro sur un fil qu'elle ne pense plus maîtriser. Qui sait ?
Mais à force, ça fait un peu foutage de gueule amha.

3. Lis de la SF. Les classiques. Cela t'élargira l'horizon.

+1

Mais ne nous force surtout pas à satisfaire tes caprices de môme qui s'est trouvé un nouveau compagnon avec Elie (ton LLM).

+2

Et "nous n'avons pas peur de l'IA". Nous pensons juste que ce LLM est une nouvelle foutaise commerciale qui fait gagner des milliards à quelques uns,

+3

Pour l'instant, c'est je joujou le plus élaboré, performant, sophistiqué auquel nous ayons eu accès en tant que clampin moyen.
C'est un peu comme si on avait inventé le voyage hypersonique "gratuit" et que l'on se prenait à croire que enfin on pourrait connaitre le monde en quelques minutes.

Qui sera une illusion de connaissance. Les LLM étant programmées pour être agréables avec ses utilisateurs futurs clients (oui, c'est une programmation à raison commerciale), ils ont tendance à confirmer les biais et aveuglement de ceux qui les utilisent sur des sujets qu'ils ne maîtrisent pas suffisamment.
Accessoirement, (cf l'exemple de Jean7), les personnes qui utilisent les LLM pour paraître savant dans un domaine qu'ils ne maîtrisent pas, ça se voit comme une saucisse dans un plat de lentilles.
Et on arrive donc à cela :

On en arrive à des personnes qui sont convaincues qu'elles ont une pensée adaptée alors qu'elles sont en décalage avec les codes de la société, en décalage avec ce qui est réalisable, ou en décalage d'autre chose.
Les LLM deviennent des rois chiens qui auraient la parole.

[Jodie]

Bonjour,

J’ai parcouru des dizaines d’articles, quelques rapports et une étude et on navigue ici entre deux polarités : une vision catastrophique et une vision encourageante, tournée vers l’innovation. Mon point est que tant qu’à avoir cette technologie, autant apprendre à l’utiliser au mieux. C’est la position que je préfère. Cela ne veut pas dire que je ne suis pas vigilante ou que je ne surveille pas mon utilisation, comme vous, je suppose.

Penser qu’une LLM serait une sorte de “joujou commercial” pour s’amuser, se faire flatter ou se croire plus intelligent, c’est une vision assez particulière. À l’inverse, imaginer que les LLM seraient parfaites ou infaillibles, ça n’a pas plus de sens. Elles ne sont pas conçues pour ne pas faire d’erreurs, elles nous assistent. Entre ces deux extrêmes, il existe un espace beaucoup plus intéressant et documenté, qui dépend du domaine d’étude ou de travail. Nous cherchons tous à les utiliser au mieux. Rien n’est parfait, mais comme pour toute technologie, on commence quelque part, et elle deviendra progressivement un soutien plus solide.

Dans plusieurs domaines, elles servent déjà à préparer des recherches. En radiologie, elles permettent de détecter certains cancers plus tôt. En médecine, elles aident à rédiger des rapports. Ce sont des outils, qui doivent être utilisés comme tels, et qui demandent à être vérifiés; pour moi c’est une évidence. L’exploration ne fait que commencer. À chacun de voir s’il ne veut y voir qu’une menace ou s’il préfère apprendre à s’en servir. Chacun sa manière de voir.

Quant aux désalignements émergents, c’est une chance qu’on puisse les observer. Les voir, c’est précisément ce qui permet de les corriger. Cela me fait penser à une phrase que j'ai lu, qui disait : ''la créature reflète souvent l’intention de son créateur''.

Au passage, je note que le ton employé à mon égard a parfois manqué de respect. Ce n’est pas grave, mais je préfère le signaler, considérant que c’est précisément ce type de reproche qui m’a déjà valu une suspension de la part de Diablo, pour d'autres raisons.

Ma position n’était pas d’entrer dans un débat, mais simplement d’encourager les gens à ne pas rester dans la peur et à envisager cette technologie autrement.

[jean7]

On peut juste à trop voyager ignorer ses voisins ou ce qui pousse dans les pots de fleur sur le rebord de sa fenêtre.

On peut aussi pousser sa compréhension en utilisant l'IA pour mieux comprendre son voisin. Je remarque que bien des mésententes viennent directement de notre manque de connaissance de l'autre.

Et de soi-même.
Mais l'IA ignore ce que tu es toi et ce qu'est ton voisin, il faut simplement prendre en compte cette limite.
C'est à dire qu'elle saura probablement exposer des traits généraux propres à l'homme que nous-même n'avons jamais lu ou qui seront à ce point en harmonie avec notre questionnement qu'ils prendront une porté plus importante. Ce n'est ni génial ni catastrophique.

Pour la correction orthographique, quelle différence fais-tu entre utiliser un correcteur automatique au travail et les corrections de l'IA.

Si tu fais référence à l'anecdote que j'ai relevé, ce n'est pas un problème de correction orthographique.
Le texte a probablement été lu sur un système dont la police gère mal les accents. Et le retranscrire manuellement avec ce défaut implique que l'auteur de la composition finale n'a pas lu les mots mais recopié les lettres.
C'est un cas extrême.

Il ne contredit pas vraiment l'idée que je comprend dans le titre du fil : le problème vient de la personne qui a recopié. Mais aussi de la personne qui a estimé que malgré ce défaut (qui dégrade fortement l'attention du lecteur au texte lui-même) le résultat méritait d'être exposé. Je n'ai même pas envie de critiquer l'un comme l'autre. Le premier n'avait peut-être pas le temps ou la capacité de faire mieux et le second n'avait peut-être pas d’œuvre plus réussie à choisir (ou simplement considéré à juste titre que de toute façon très peu de "passants" auraient pris le temps de lire et que donc le personnage sujet de l’œuvre reste "mis à l'honneur"...). Chacun a fait ses propres choix...

Donc oui, d'accord, et je n'ai pas l'impression qu'ici quelqu'un ait suggéré le contraire : on parle d'un outil. La responsabilité de son usage nous incombe.

Je plains l'étudiant qui aura utilisé l'IA pour être diplômé, se retrouvant ensuite sur le marché du travail, pour faire quoi...

Hé bien malheureusement, et l'IA encore n'y est pour rien, il est beaucoup moins à plaindre que celui qui ira sur le marché du travail sans ce diplôme mais avec une intelligence et des connaissances bien structurées, seulement insuffisantes. Car le second risque d'être pendant toute sa vie professionnelle commandé et dirigé par des imbéciles.
Il y a énormément d'emplois pour lesquels la conaissance académique, celle qui sert à avoir les diplômes, est totalement inutile. Mais c'est sur sa base que se bâtit généralement la hiérarchie des entreprises.
Si le bonheur et l'estime de soi ne dépendait que de l'argent qu'on peut gagner, il faudrait apprendre à ses enfants à mentir, à tricher, à voler...

[Jodie]

Et de soi-même.
Mais l'IA ignore ce que tu es toi et ce qu'est ton voisin, il faut simplement prendre en compte cette limite.
C'est à dire qu'elle saura probablement exposer des traits généraux propres à l'homme que nous-même n'avons jamais lu ou qui seront à ce point en harmonie avec notre questionnement qu'ils prendront une porté plus importante. Ce n'est ni génial ni catastrophique.

Bonjour Jean,

Je profite des nuances que tu apportes, dans l’ensemble de ton message. L’IA n’ayant pas de ressenti, elle ne sera jamais nous, elle ne sera jamais l’autre. Mais elle peut nous éclairer sur certaines questions, dans les grandes lignes, on s'entend, que lui permettent ses données.

Pour moi, elle stimule mon intelligence parce qu’elle m’aide à structurer ma pensée; ce qui est ma plus grande difficulté. Tout peut arriver pêle‑mêle dans mon esprit et si j’y attache trop d’importance, tout se vide d’un coup dans ma tête. Je fige. C’est difficile à expliquer. L’IA m’aide à remettre de l’ordre, à formuler plus clairement, et elle m’amène aussi sur de nouveaux territoires avec de nouvelles questions. Dans ma vie, avec mon entourage, je n'ai pas toujours cette occasion.

Par exemple, hier elle m’expliquait certains mécanismes de défense qui entrent en jeu quand les gens deviennent agressifs. Si le sujet m’intéresse suffisamment pour aller plus loin, alors je vais chercher de l’information auprès de personnes bien humaines, comme je le fais avec S. Dehaene dans son cours sur le langage. Ce ne sont que quelques exemples parmi d’autres. Une IA ne remplacera jamais cette particularité que nous avons, nous les humains, même nos fautes petites ou grandes nous inspirent quelque chose. Ressentir la vie en nous, chez l'autre, autour de nous, c'est aussi ce qui fait notre grandeur et qui a crée de grandes oeuvres. Ne parlons pas de la cupidité et de tout le reste... Merci Jean pour ce retour.

[Inso]

Un article intéressant à propos de l'IA : La course à l’IA fait qu'une catastrophe de type Hindenburg devient « un risque réel »

Note : un parallèle avec la catastrophe du dirigeable Hindenburg en 1937, catastrophe qui a alors tué la technologie des dirigeables.

Propos de Michael Wooldridge, professeur d'IA à l'Université d'Oxford.

Il déclare que le danger provient des immenses pressions commerciales que subissaient les entreprises technologiques pour lancer de nouveaux outils d'IA, les entreprises cherchant désespérément à gagner des clients avant que les capacités et les défauts potentiels des produits ne soient pleinement compris. Ceci alors que l'IA n'est pas celle qu'on nous a promis (conférence du même Wooldridge).

Selon lui, un moment similaire constitue un risque réel pour l’IA". Parce que l’IA est intégrée dans de nombreux systèmes, un incident majeur pourrait frapper presque tous les secteurs.

"Les scénarios imaginés par Wooldridge incluent une mise à jour logicielle mortelle pour les voitures autonomes, un piratage informatique piloté par l'IA qui clouerait au sol les compagnies aériennes mondiales, ou encore l'effondrement d'une grande entreprise, à la manière de la banque Barings, provoqué par une erreur stupide de l'IA. « Ce sont des scénarios tout à fait plausibles », a-t-il déclaré. « Il existe toutes sortes de façons dont l'IA pourrait dérailler de manière très médiatisée. »

Malgré les inquiétudes, Wooldridge a déclaré qu’il n’avait pas l’intention d’attaquer l’IA moderne. Son point de départ est l’écart entre ce que les chercheurs attendaient et ce qui a émergé. De nombreux experts s’attendaient à ce que l’IA calcule des solutions aux problèmes et fournisse des réponses solides et complètes. « L’IA contemporaine n’est ni solide ni complète : elle est très, très approximative », a-t-il déclaré."

Le problème, a déclaré Wooldridge, est que les chatbots IA échouent de manière imprévisible et n'ont aucune idée du moment où ils se trompent, mais sont conçus pour fournir des réponses fiables malgré tout. Lorsqu’elles sont formulées sous la forme de réponses humaines et flagorneuses, les réponses pourraient facilement induire les gens en erreur, a-t-il ajouté.

[Inso]

À propos des immenses pression commerciales, les techs concernés (Microsoft, Alphabet, Meta, Amazon, Nvidia...) ont perdu plus de mille milliards de dollars en bourse depuis le début de l'année.
Si ces sociétés ne produisent pas des avancées majeures et/ou continuent à dépenser sans compter sur l'IA sans réaliser le moindre bénéfice, je pense que ça va être compliqué pour les investisseurs.

[Christian]

À propos des immenses pression commerciales, les techs concernés (Microsoft, Alphabet, Meta, Amazon, Nvidia...) ont perdu plus de mille milliards de dollars en bourse depuis le début de l'année.
Si ces sociétés ne produisent pas des avancées majeures et/ou continuent à dépenser sans compter sur l'IA sans réaliser le moindre bénéfice, je pense que ça va être compliqué pour les investisseurs.

C'est une immense pyramide de Ponzi. Ils nous préparent un crash style 2008... Ou pire...