L'IA conversationnelle (Chatbot), bonnes réponses VS Idéologies, et capacités inquiétantes.

[Mirages]

L'IA conversationnelle s'étend à toujours plus d'utilisateurs.

Ceux-ci demandent des informations diverses et variées, dans tous les domaines et champs de compétences.
Les IA savent synthétiser ce que l'on retrouve sur la toile pour le retranscrire à l'utilisateur. Mais si pour la plupart des réponses des différents plateformes, l'objectivité est pour l'instant de mise (sauf exception), qu'en sera t'il de l'avenir, lorsque l'usage du recours à l'IA sera entré dans les meurs, et que la méfiance fera place à la confiance ?
Comment s'assurer que l'objectif de donner la meilleur réponse, la plus factuelle, soit maintenu ?
Je suis certain que les tentatives d'influences voit être croissantes, J'espère que cet outil ne sera pas corrompu, comme Wikipédia qui a su tenir son impartialité relative et qui est devenu une référence populaire.


Les capacités en vidéo et son, également, sont de plus en plus prodigieuses.
On peut élaborer n'importe quel scenario, par exemple avec des personnes connues, et leur faire dire et faire tout et n'importe quoi.
Si cela ouvre nombre de perspectives, on comprend bien vite le danger lorsque la différence entre le réel et l'artificiel se sera effacé.

[Inso]

Je reste dans la méfiance en attendant des résultats un peu meilleurs
https://bsky.app/profile/geoffgreen.org ... vx7rrtsc2t

[Mirages]

Je reste dans la méfiance en attendant des résultats un peu meilleurs

Oui d'accord, c'est le début de l'évolution de cette technologie, mais l'esprit est bon:

Moi: l'homéopathie est elle efficace ?
Gemini: Selon le consensus de la communauté scientifique et médicale, l'homéopathie n'est pas considérée comme efficace au-delà d'un effet placebo[...].

[LoutredeMer]

Je reste dans la méfiance en attendant des résultats un peu meilleurs

Oui d'accord, c'est le début de l'évolution de cette technologie, mais l'esprit est bon

Va savoir.

[Inso]

Je vois plusieurs risques liés à l'IA :
- L'IA a tendance à "créer" du contenu, dont des contenus faux. Exemple avec des déclarations (fausses) attribuées à John Scalzi (auteur de SF).
Les IA se nourrissant de tout ce qu'ils trouvent, se nourrissent donc aussi de toutes les fausses données qu'elle a générée.
Un système qui se nourrit de sa propre merde générera de plus en plus de merde.

- L'IA appartient à des gens, qui souhaitent orienter leurs créations. Exemple avec la mise à jour de Grock par Musk (qui trouvait son IA bien trop progressiste). Résultat, Grock se prenait pour ‘MechaHitler’ et disait qu'un second holocauste était nécessaire.

- Les investissements dans l'IA sont vertigineux et la rentabilité n'est toujours pas en vue (5 milliards de pertes pour OpenAI). Le risque de bulle financière n'est pas exclu.

Ceci alors que les chatbots semblent de moins en moins fiables et que l'introduction de ChatGPT5 met Sam Altman en mode "damage control".

Donc j'attends de voir. De voir si il y aura de gros échecs. De voir si, en cas de succès, ce sera un succès pour la connaissance et l'humanité ou bien un gros succès pour la maîtrise du monde par quelques uns. (et vu les sommes folles mises en jeux, j'ai tendance à opter pour cette dernière hypothèse).


EDIT : Pour aller plus loin : sur le Global Risks report de 2025, l'IA prend une place de plus en plus importante (page 34 du rapports : risques technologiques) :
"– Rising use of digital platforms and a growing volume of AI-generated content are making divisive
misinformation and disinformation more ubiquitous.
– Algorithmic bias could become more common due to political and societal polarization and associated
misinformation and disinformation.
– Deeper digitalization can make surveillance easier for governments, companies and threat actors, and
this becomes more of a risk as societies polarize further"

[Wooden Ali]

Les IA se nourrissant de tout ce qu'ils trouvent, se nourrissent donc aussi de toutes les fausses données qu'elle a générée.
Un système qui se nourrit de sa propre merde générera de plus en plus de merde.

L'IA ne change rien au problème de la boite noire : garbage in, garbage out. Et quand le garbage out devient le garbage in ...
Si l'IA se nourrit de ce qui nourrit les complotistes, ajouté à que ceux qui la propose gratuitement au grand public ne sont pas des philanthropes dénués d'intérêts et d'idéologie, on peut craindre le pire.
Ce n'est pas consubstantiel du principe de l'IA : des régulations pourraient atténuer le problème. Mais comme "régulation" est devenu un gros mot, qu'il est présenté comme un frein à la liberté et au business, je suis pessimiste sur le sort d'une civilisation qui en ferait son avenir.

[Mirages]

Ca va être comme avec les réseaux sociaux, de toute façon l'IA se déploiera dans nos vies, alors autant se prémunir de ce qui croit dans les RS: Les informations erronées, falsifiées, inventées, notre monde face au DeepFake.

Et on le voit arriver, alors la prise de conscience c'est sur le même mode que l'écologie.

Une initiative qui prouve l'importance de tout de suite avoir les bons outils pour naviguer:

L’intelligence artificielle, tout le monde en parle, mais qui comprend réellement ce que c’est ? Ce qu’elle peut ou ne peut pas faire ? Comment elle affecte déjà nos vies ? Se former, c’est être actif face à cette avancée technologique, comprendre ses atouts, identifier les opportunités qu’elle offre mais aussi les défis qu’elle représente. Cette formation en ligne (Mooc) gratuite permet de comprendre les fondamentaux de l’intelligence artificielle en quelques heures.

Les autorisés posent le cadre législatif et éthique également, ce qui est encore plus efficace pour aujourd'hui et pour demain.
Plus on restreint la liberté, plus on peut accroitre l'objectivité. C'est l'autocratie des idées. Pour un monde plus sûr...

[LoutredeMer]

de toute façon l'IA se déploiera dans nos vies

Comme les JO des robots en Chine

[nikola]

À quand les robots qui simulent une chute pour faire cartonrougiser un adversaire ?

[Mirages]

Comme les JO des robots en Chine

Comme quoi la motricité humaine est complexe...
C'est un peu comme un enfant qui apprend à marcher. L'espèce des Machines c'est pas pour demain. Mais j'espère la voir ! ou au moins un générique !

[LoutredeMer]

C'est un peu comme un enfant qui apprend à marcher. L'espèce des Machines c'est pas pour demain. Mais j'espère la voir ! ou au moins un générique !

Tu devrais poser des questions spécifiques aux sites administratifs par mail ou par téléphone. Tu verras que c’est déjà en place, face aux réponses ineptes et stéréotypées.

[Jean-Francois]

L'IA appartient à des gens, qui souhaitent orienter leurs créations. Exemple avec la mise à jour de Grock par Musk (qui trouvait son IA bien trop progressiste)

Dans la catégorie, les IA vont* servir à des analyses de données pour "profiler" les utilisateurs d'internet(s), ce qui va plus sûrement être employé pour faire tourner l'économie ou maintenir la quiétude des régimes en place que pour améliorer leurs droits et libertés.

Dans le premier cas: le surveillance (= algorithmic) pricing sert à "ajuster" les prix affichés en ligne en fonction d'un portrait donné par les habitudes de l'utilisateur (portrait qui peut évidemment aller de assez réaliste à complètement fumeux). Quand on magasine en ligne, il est plus difficile de savoir combien d'autres clients paient pour le produit que l'on souhaite acheter.

Jean-François

* Si ça n'est pas déjà le cas. Ce qui est sûr c'est qu'aucun conditionnel n'est nécessaire.

[nikola]

Les tarifs dynamiques existent déjà depuis un bail mais là, ça va être pire.

[Christian]

- Les investissements dans l'IA sont vertigineux et la rentabilité n'est toujours pas en vue (5 milliards de pertes pour OpenAI). Le risque de bulle financière n'est pas exclu.

Sans compter la demande effarante en énergie. C'est complétement débile cette course à l'IA.
https://bsky.app/profile/guglielminetti ... gubkftfs2e

[Jean-Francois]

Les tarifs dynamiques existent déjà depuis un bail mais là, ça va être pire

Parce que c'est plus que du dynamique: c'est du personnalisé, et c'est de la surveillance.

Jean-François

[Christian]

- Les investissements dans l'IA sont vertigineux et la rentabilité n'est toujours pas en vue (5 milliards de pertes pour OpenAI). Le risque de bulle financière n'est pas exclu.

Sans compter la demande effarante en énergie. C'est complétement débile cette course à l'IA.
https://bsky.app/profile/guglielminetti ... gubkftfs2e

Un autre article. En anglais cette fois :
Les centres de données connaissent une croissance sans précédent, car l'intelligence artificielle stimule la demande en installations informatiques pouvant consommer autant d'électricité que des villes entières, mais le réseau électrique américain peine à suivre le rythme de cette expansion fulgurante.
https://qz.com/ai-data-center-boom-us-p ... -struggles

[Inso]

Dans la catégorie, les IA vont* servir à des analyses de données pour "profiler" les utilisateurs d'internet(s), ce qui va plus sûrement être employé pour faire tourner l'économie ou maintenir la quiétude des régimes en place que pour améliorer leurs droits et libertés.

Dans le premier cas: le surveillance (= algorithmic) pricing sert à "ajuster" les prix affichés en ligne en fonction d'un portrait donné par les habitudes de l'utilisateur (portrait qui peut évidemment aller de assez réaliste à complètement fumeux).

Et entre "profilage et surveillance" à des fins commerciales et "profilage et surveillance" à des fins politiques, la barrière est très mince et elle n'est pas technique.
Cf le système de "notation sociale" en Chine. (1984 nous voilà).

Sans compter la demande effarante en énergie. C'est complétement débile cette course à l'IA.
https://bsky.app/profile/guglielminetti ... gubkftfs2e
[...]
Les centres de données connaissent une croissance sans précédent, car l'intelligence artificielle stimule la demande en installations informatiques pouvant consommer autant d'électricité que des villes entières, mais le réseau électrique américain peine à suivre le rythme de cette expansion fulgurante.
https://qz.com/ai-data-center-boom-us-p ... -struggles

Face aux contraintes que nous subissons (crise climatique entre autres), c'est hallucinant de voir ce genre de priorisation de l'énergie. Encore un hold-up d'un nouveau genre de "baron voleur".

[Mirages]

Sans compter la demande effarante en énergie. C'est complétement débile cette course à l'IA.

Mais c'est bien pratique: pour la même question que je me pose,
soit je passe la matinée à surfer sur le web pour me faire une idée,
Soit je demande à l'IA qui me donne la bonne réponse en quelques secondes.

Quelques centrales nucléaires de plus ne me semble pas un problème.

[nikola]

Mais c'est bien pratique: pour la même question que je me pose,
soit je passe la matinée à surfer sur le web pour me faire une idée,
Soit je demande à l'IA qui me donne la bonne réponse

Ou pas.

en quelques secondes.

Quelques centrales nucléaires de plus ne me semble pas un problème.

[Mirages]

Face aux contraintes que nous subissons (crise climatique entre autres), c'est hallucinant de voir ce genre de priorisation de l'énergie. Encore un hold-up d'un nouveau genre de "baron voleur".

Pareil, On fait pousser les centrales nucléaires et tout va bien.

Les ressources d’uranium décrites dans le Livre rouge suffisent amplement pour répondre à la demande d’uranium, tant dans la projection haute que basse, jusqu’en 2040 et au-delà.

Mieux:

Nucléaire : la pénurie d’uranium n’est pas pour demain
A travers le monde, les mines peuvent assurer cent trente ans de production nucléaire, a calculé l’Agence internationale de l’énergie atomique. En France, le groupe Orano est capable d’assurer près de trente ans de fourniture de combustible à EDF.

[Mirages]

je me suis fait monter un nouveau PC par les chinois de la rue Montgallet. Il a une alimentation de 1000 watts.
Si certains veulent que je le fasse tourner avec une éolienne à ma fenêtre, le problème vient pas de moi, les bonnes solutions existent.
(Je cherche les ennuis ).

[Jean-Francois]

Il a une alimentation de 1000 watts

Quel usage justifie une telle alimentation? Si tu cherchais un chauffage d'appoint, un PC n'est sans doute pas le meilleur choix.

le problème vient pas de moi

C'est la faute aux chinois montgalletiens si tu as acheté cet ordi!

Je cherche les ennuis

Commentaire lucide

Jean-François

[LoutredeMer]

Je cherche les ennuis

C'est clair...

je me suis fait monter un nouveau PC par les chinois de la rue Montgallet.

Je montais de très bons PC. Et donc sans encourager un régime qui un jour nous mettra à genoux (en mettant d'ores et déjà sa population à genoux).

Mais c'est bien pratique: pour la même question que je me pose,
soit je passe la matinée à surfer sur le web pour me faire une idée,
Soit je demande à l'IA qui me donne la bonne réponse

Tu me feras 4 h de colle.

[Christian]

Sans compter la demande effarante en énergie. C'est complétement débile cette course à l'IA.

Mais c'est bien pratique: pour la même question que je me pose,
soit je passe la matinée à surfer sur le web pour me faire une idée,
Soit je demande à l'IA qui me donne la bonne réponse en quelques secondes.

Quelques centrales nucléaires de plus ne me semble pas un problème.

Les États-Unis ne construiront pas de centrales nucléaires pour les centres de données. Trop long. Ça va être au gaz de schiste ou au charbon.

[Mirages]

Il a une alimentation de 1000 watts

Quel usage justifie une telle alimentation? Si tu cherchais un chauffage d'appoint, un PC n'est sans doute pas le meilleur choix.

Effectivement, un PC haut de gamme orienté jeux, ça chauffe beaucoup. La pièce où il est peut prendre plusieurs degrés, je le sens lorsque je quitte le bureau. En été c'est l'enfer !
Une carte graphique telle que la 5070Ti consomme prés de la moitié des 1000 watts, le CPU pas mal aussi, et les différents périphériques demandent le reste de la puissance énergétique.

Un PC de bureau de cette trempe, c'est genre 10% de composants "utiles" en volume, et 90% de diverses méthodes de refroidissement (autrement dit de dissipation thermique dans l'air ambient).