ChatGPT

Tout sur les sciences, que ce soit la chimie, la biologie, l'astronomie etc.
Avatar de l’utilisateur
Invité
Messages : 4757
Inscription : 16 janv. 2004, 17:47

Re: ChatGPT

#151

Message par Invité » 26 janv. 2023, 19:27

Une nouvelle étude menée par un professeur(*) de la Wharton School de l'université de Pennsylvanie a révélé que le chatbot GPT-3, a réussi l'examen final du programme de maîtrise en administration des affaires (MBA) de l'école.

Il a également déclaré que les explications du robot étaient "excellentes".

(*)(Le professeur Christian Terwiesch, auteur du document de recherche "Would Chat GPT3 Get a Wharton MBA ?
https://www.nbcnews.com/tech/tech-news/ ... -rcna67036

I.
"Whatever intelligence is, it can't be intelligent all the way down. It's just dumb stuff at the bottom." [Andy Clark]

juliens
Messages : 195
Inscription : 08 janv. 2023, 18:51

Re: ChatGPT

#152

Message par juliens » 27 janv. 2023, 20:48

Je me demandais comment les étudiants pourraient écrire un texte suffisamment long comme travaux scolaires puisque ChatGPT n'écrit qu'une centaine de mots en moyenne. J'ai posé une question, les autres questions se référaient au contenu de la précédente. Un travail de 5 pages, un copié-collé sans modification ni correction sauf le retrait des questions posées, le titre fut choisi à la toute fin puisque je n'avais aucune idée du déroulement de la conversation. Ma dernière question fut de me donner le titre de cette conversation:
Le titre de cette conversation pourrait être "Enseigner le scepticisme: méthodes et objectifs" ou "Comment utiliser le scepticisme pour améliorer l'esprit critique des élèves".
C'est bien mais tout de même je voulais une touche personnel: Le scepticisme grec à Descarte, d'aujourd'hui à demain.
Vous ne pouvez pas consulter les pièces jointes insérées à ce message.

Avatar de l’utilisateur
Dash
Messages : 5217
Inscription : 06 mai 2009, 14:40

Re: ChatGPT

#153

Message par Dash » 28 janv. 2023, 02:47

Dominique18 a écrit : 24 janv. 2023, 07:20 [...] L'IA, aussi sophistiquée soit-elle, s'exprime dans une autre dimension. Par la suite, qu'en sera-t-il ? Je n'en sais rien, et, à mon grand dam, il y a longtemps que je serai parti les pieds devant, sans avoir pu connaître les suites de l'aventure [...]
Je ne parierais pas là-dessus! Si notre monde ne s'effondre pas avant, il s'en passe(ra) des choses en seulement 10, 15 ou 20 ans! (il y a 20 ans, FB, YT, Twitter, Instagram, TikTok, les smartphones, Amazon, Netflix, bref, tout ça, tout notre mode de vie actuel était complètement différent!).

Ce qui me fait marrer, c'est que depuis 3 semaines j'observe une réaction des plus prévisible (psychologiquement parlant) de la part d'un peu tout le monde ici et là, à savoir que c'est en fait de l'arnaque ou de la merde, que l'IA ne remplacera jamais bla-bla-bla, etc. C'est commun comme réaction de « défense » où notre cerveau cherche à décrédibiliser ce qui peut (pourrait, pourra) potentiellement, éventuellement entrer en compétitions avec nous.

Ce que tout le monde oublie de considérer, c'est qu'il ne s'agit que de la toute première version accessible au grand public (même s’ils en sont à quelques versions à l'interne), donc des (je dis « des » à cause qu'il y en a aussi d'autre depuis peu : DALL-E, VALL-E, ChatSonic, You.com/ YouWrite, etc.) IA en version « 1.0 » si l'on veut (si l'on fait abstraction du travail requis en amont depuis plusieurs années). Bref, l'on ne vient que de franchir le « tout premier pas » où le « grand public » réalise les possibilités et peut exploiter les IA.

Mais faudrait être stupide ou vraiment jouer à l'autruche pour penser que ça restera comme ça pendant des années! Ça va évoluer (d'autant plus depuis l'attrait que ça vient de créer envers tous partout sur la sphère) à vitesse grand V. Déjà, dans 5 ans, nous serons complétement ailleurs selon moi!

Bref, wait and see, mais, perso (à mon âge : 49 ans), si j'ai la chance de faire partie de la moyenne des statistiques concernant l'espérance de vie, je crois que je vais être témoin de très grandes avancées dans le domaine de l'IA pour les 25~30 ans à venir!
Penser savoir est une chose, savoir penser en est une autre !

Avatar de l’utilisateur
Invité
Messages : 4757
Inscription : 16 janv. 2004, 17:47

Re: ChatGPT

#154

Message par Invité » 28 janv. 2023, 03:27

Dash a écrit : 28 janv. 2023, 02:47 Ce qui me fait marrer, c'est que depuis 3 semaines j'observe une réaction des plus prévisible (psychologiquement parlant) de la part d'un peu tout le monde ici et là, à savoir que c'est en fait de l'arnaque ou de la merde, que l'IA ne remplacera jamais bla-bla-bla, etc.
De grâce, ne me mets pas là-dedans. ;)
Dash a écrit : 28 janv. 2023, 02:47 Bref, wait and see, mais, perso (à mon âge : 49 ans), si j'ai la chance de faire partie de la moyenne des statistiques concernant l'espérance de vie, je crois que je vais être témoin de très grandes avancées dans le domaine de l'IA pour les 25~30 ans à venir!
Ton âge est parfait pour voir venir l'IA, mais un peu moins parfait pour voir venir et subir les changements climatiques. :a4:

I.
"Whatever intelligence is, it can't be intelligent all the way down. It's just dumb stuff at the bottom." [Andy Clark]

Avatar de l’utilisateur
Dash
Messages : 5217
Inscription : 06 mai 2009, 14:40

Re: ChatGPT

#155

Message par Dash » 28 janv. 2023, 05:36

Invité a écrit : 28 janv. 2023, 03:27De grâce, ne me mets pas là-dedans. ;)
Tu n'étais pas du tout visé! ;)

...je parle de la tendance générale depuis la vidéo de M Phi, il y a quelques semaines.

Invité a écrit : 28 janv. 2023, 03:27Ton âge est parfait pour voir venir l'IA, mais un peu moins parfait pour voir venir et subir les changements climatiques. :a4:
C'est aussi mon estimation. Quoique même sans subir directement d'effets majeurs des changements climatiques (au sens « météorologique » du terme), je pense que je vais en subir quand même (début de mesures de rationnement, dégradation des services, instabilité politico-économique, etc. ...parce que tout est imbriqué, lié. Enfin, c'est déjà un peu le cas, mais je veux dire bcp plus que ce que nous subissons déjà présentement).
Penser savoir est une chose, savoir penser en est une autre !

Avatar de l’utilisateur
Dominique18
Messages : 10156
Inscription : 06 oct. 2020, 12:27

Re: ChatGPT

#156

Message par Dominique18 » 28 janv. 2023, 09:13

Je ne parierais pas là-dessus! Si notre monde ne s'effondre pas avant, il s'en passe(ra) des choses en seulement 10, 15 ou 20 ans! (il y a 20 ans, FB, YT, Twitter, Instagram, TikTok, les smartphones, Amazon, Netflix, bref, tout ça, tout notre mode de vie actuel était complètement différent!).
En écrivant, je songeais aussi, parallèlement à l'irruption des réseaux sociaux dans le quotidien, ce que tu spécifies..
Globalement, pour reprendre le contenu de ton post, j'ai bien conscience que nous n'en sommes qu'aux balbutiements et qu'il est possible que technologiquement les avancées soient plus rapides qu'on ne le pense. Je reste sur le plan de l'hypothèse, pas de l'enthousiasme. Je patiente et j'attends.
Ce qui me fait marrer, c'est que depuis 3 semaines j'observe une réaction des plus prévisible (psychologiquement parlant) de la part d'un peu tout le monde ici et là, à savoir que c'est en fait de l'arnaque ou de la merde, que l'IA ne remplacera jamais bla-bla-bla, etc. C'est commun comme réaction de « défense » où notre cerveau cherche à décrédibiliser ce qui peut (pourrait, pourra) potentiellement, éventuellement entrer en compétitions avec nous.
Comme Invité, je ne me sens pas concerné par cette remarque. J'ai uniquement, il me semble, essayé de traiter des paradigmes respectifs du vivant, de l'IA, et de leurs spécificités, sans fermeture d'esprit.
Stanislas Dehaene, spécialiste de haut niveau du cerveau humain a croisé ses travaux et recherches avec ceux de Yann Le Cun, également spécialiste de haut niveau, mais de l'intelligence artificielle.
On en parle ici:

viewtopic.php?p=626724&hilit=yann+le+cun#p626723

Je reste prudent, comme je ne dispose pas de compétences suffisamment étoffées en la matière, j'essaie de maintenir le cap, autant que faire se peut, en évitant de me prononcer sur des éléments que je ne maîtrise pas ou mal, ce qui est loin de couler de source. J'ai aussi fait référence, en ce sens, aux limitations du langage humain pour exprimer des concepts.
C'est compliqué, c'est passionnant, et on peut vite s'égarer.
Ton autre fil a été détourné de son intention initiale, j'y ai participé, mea culpa.
Une excuse : in vino veritas, disaient les anciens. :lol:
On va faire en sorte de lui redonner de la vigueur.
Au fil, pas à la boisson fermentée... ;)

Avatar de l’utilisateur
Invité
Messages : 4757
Inscription : 16 janv. 2004, 17:47

Re: ChatGPT

#157

Message par Invité » 28 janv. 2023, 16:57

Dash a écrit : 28 janv. 2023, 05:36
Invité a écrit : 28 janv. 2023, 03:27De grâce, ne me mets pas là-dedans. ;)
Tu n'étais pas du tout visé! ;)

...je parle de la tendance générale depuis la vidéo de M Phi, il y a quelques semaines.
Il s'est créé sur les réseaux sociaux une « industrie de démolition » de l'IA pour les raisons que tu as identifiées plus haut. Par exemple, toute vidéo sur youtube avec ChatGPT dans le titre ça amène beaucoup de clics et disons que c'est plus facile de trouver à ChatGPT des problèmes(*) que d'essayer de comprendre comment ça marche.

(*)(qui seront probablement réglé dans une version à venir)
Dash a écrit : 28 janv. 2023, 05:36
Invité a écrit : 28 janv. 2023, 03:27Ton âge est parfait pour voir venir l'IA, mais un peu moins parfait pour voir venir et subir les changements climatiques. :a4:
C'est aussi mon estimation. Quoique même sans subir directement d'effets majeurs des changements climatiques (au sens « météorologique » du terme), je pense que je vais en subir quand même (début de mesures de rationnement, dégradation des services, instabilité politico-économique, etc. ...parce que tout est imbriqué, lié.
Si le pergélisol entre dans une boucle de rétroaction du type fonte->GES->augmentation de température->fonte->GES->...., ça va aller très vite. On parle peu de cette boucle parce que c'est difficile d'en faire la simulation mais est là, à mon avis, la véritable catastrophe qui nous pend au bout du nez.

https://1.bp.blogspot.com/-lP0kKWxEcHg/ ... afrost.png

I.
Dernière modification par Invité le 28 janv. 2023, 17:18, modifié 1 fois.
"Whatever intelligence is, it can't be intelligent all the way down. It's just dumb stuff at the bottom." [Andy Clark]

Avatar de l’utilisateur
LoutredeMer
Messages : 9014
Inscription : 30 juil. 2008, 23:34

Re: ChatGPT

#158

Message par LoutredeMer » 28 janv. 2023, 17:14

Invité a écrit : 28 janv. 2023, 16:57 Si le pergélisol entre dans une boucle de rétroaction du type fonte->GES->augmentation de température->fonte->GES->...., ça va aller très vite.
HS rapide : Oui, ça va très vite, bien plus que les prévisions ne le laissent (et laissaient) entendre.

Les prévisions à 5 ans se réalisent en 2 ans, celles à 10 ans en 5 ans etc. Je ne sais pas chez vous,
mais l'été dernier ici avait été prévu en... 2050 (plus de 40° pendant presque deux mois d'été sur toute la France, même en Bretagne plusieurs jours (ce qui était encore inconcevable l'année d'avant)). L'urgence, c'est maintenant ou demain (littéralement).
"Par le saumon qui se meut!.. I want my food!.. Slice me tender"..

thierry
Messages : 448
Inscription : 01 sept. 2017, 12:10

Re: ChatGPT

#159

Message par thierry » 28 janv. 2023, 18:25

Hello Dash, je me permets de rebondir, j'aime bien tes messages généralement mais là bof.
'Dash' a écrit : Ce qui me fait marrer, c'est que depuis 3 semaines j'observe une réaction des plus prévisible (psychologiquement parlant) de la part d'un peu tout le monde ici et là, à savoir que c'est en fait de l'arnaque ou de la merde, que l'IA ne remplacera jamais bla-bla-bla, etc. C'est commun comme réaction de « défense » où notre cerveau cherche à décrédibiliser ce qui peut (pourrait, pourra) potentiellement, éventuellement entrer en compétitions avec nous.
Réaction de défense ?
Je ne peux pas m'empêcher de trouver ça a un peu achevé, comme explication.
Pourquoi pas soulever cette piste, effectivement, cette hypothèse.
Mais la psychologie humaine est plus complexe. Peut-être peux-tu attribuer cette "réaction de défense" à une proportion statistique de la population, mais moyennant le fait que tu définisses exactement les termes.
Car bon, quel désaccord ne proviendrait pas de cette fameuse réaction de défense dis-moi ?

J'ai un problème également avec cette question de compétition.
Je pense que c'est un bon paradigme pour décrire certains rapports sociaux mais il me semble qu'il ne faut pas tout voir à travers ce prisme également. Pour moi on compare ici des choses incomparables, il n'est donc (sémantiquement parlant) pas question de compétition.
Bref, l'on ne vient que de franchir le « tout premier pas » où le « grand public » réalise les possibilités et peut exploiter les IA.
Hmm, je suis plutôt d'accord avec ça, oui.
Mais faudrait être stupide ou vraiment jouer à l'autruche pour penser que ça restera comme ça pendant des années! Ça va évoluer (d'autant plus depuis l'attrait que ça vient de créer envers tous partout sur la sphère) à vitesse grand V. Déjà, dans 5 ans, nous serons complétement ailleurs selon moi!
Eventuellement oui, car rien (ou pas grand-chose) ne cesse d'évoluer ;)
Mais personne n'a peur pour sa survie, ni pour sa cohérence intellectuelle/idéologique, en actant que des calculettes sont beaucoup plus rapides que nous les pitis humains pour réaliser certains types de traitements.

Mais on parle ici de langage. C'est différent.
Bref, wait and see, mais, perso (à mon âge : 49 ans), si j'ai la chance de faire partie de la moyenne des statistiques concernant l'espérance de vie, je crois que je vais être témoin de très grandes avancées dans le domaine de l'IA pour les 25~30 ans à venir!
Je ne sais pas s'il faut te le souhaiter (enfin l'espérance de vie, clairement :)) mais ouais, wait and see..

ps : concernant la petite vidéo de Monsieur Phi, j'ai hésité à la poster perso, j''étais content de voir ça sur le coup ! Tu penses que ça a déclenché chez moi pas mal de réactions approbatrices, mais très idéologiques à la fois ? Beaucoup de réactions caricaturales ? Possible hein, je n'ai pas du tout suivi le sujet, et un peu par narcissisme je ne pense pas ma réaction trop caricaturale :)

Avatar de l’utilisateur
Dash
Messages : 5217
Inscription : 06 mai 2009, 14:40

Re: ChatGPT

#160

Message par Dash » 28 janv. 2023, 21:31

Dominique18 a écrit : 28 janv. 2023, 09:13Comme Invité, je ne me sens pas concerné par cette remarque. J'ai uniquement, il me semble, essayé de traiter des paradigmes respectifs du vivant, de l'IA, et de leurs spécificités, sans fermeture d'esprit.
Personne n'était visé personnellement, comme mentionné, je visais plutôt une tendance générale. Mais sinon ton « plaidoyer » concernant le fait que l'IA n'est pas un humain, comme Invité l'a dit, c'est de l'enfonçage de porte ouverte et pour moi ça relève quand même d'une réaction (inconsciente?) de « défense » afin de « dévaloriser » ce qui pourrait éventuellement compétitionner avec nous (sinon pourquoi avoir besoin de souligner ce qui est un truisme?). Mais bon, à ta décharge, oui, tu es un membre qui nuance et j'apprécie tes interventions (et toutes les sources et infos que tu partages).
Dominique18 a écrit : 28 janv. 2023, 09:13Stanislas Dehaene, spécialiste de haut niveau du cerveau humain a croisé ses travaux et recherches avec ceux de Yann Le Cun, également spécialiste de haut niveau, mais de l'intelligence artificielle.
On en parle ici:

viewtopic.php?p=626724&hilit=yann+le+cun#p626723
Désolé, mais sans résumer chaque idée de l'auteur présenté, en deux ou trois phrases, cela ne génèrera pas la motivation nécessaire pour aller consulter ton lien, dixit LdM. :mrgreen: (désolé, je n'ai pu men empêcher :lol: )
Dominique18 a écrit : 28 janv. 2023, 09:13Je reste prudent [...]
C'est bien correct Dominique. Sinon c'est sûr qu'en comparant les versions actuelles des IA face à la complexité du cerveau humain et toutes les subtilités de la commination humaine, l'on peut dire que ça n'égale aucunement « l'intelligence humaine » (le cerveau en fait), mais n'oublions pas que ce n'est qu'un tout début. Perso, bien que prudent également (mes analyses et remarque de GPT dans ce thread le confirment), je demeure quand même « enthousiaste » et ne vois pas l'intérêt de souligner que, pour l'instant, ça n'a rien à voir avec cerveau humain. :hausse:

Perso, je considère le modèle ChatGPT comme l'une des multiples parties (ou « moteurs » ou « modules ») qui contribuera, avec le temps, à l'élaboration d'une IA. ChatGPT ne concernant que « la forme conversationnelle ». Ensuite, plus tard, couplé avec d'autres « moteurs~modules » (comme un « moteur logico-mathématique », P. Ex., entre autres), ce sera fort probablement bcp plus efficient. Disons que ce que fait ChatGPT ne correspond qu'à une toute petite région du cerveau ne traitant que du sens du langage dans le cerveau (je simplifie). Naturellement, cela devra être couplé et mis en conjonction avec d'autres « régions » spécialisées dans d'autres types de traitement de l'information.
Dominique18 a écrit : 28 janv. 2023, 09:13Ton autre fil a été détourné de son intention initiale, j'y ai participé, mea culpa.
Une excuse : in vino veritas, disaient les anciens. :lol:
On va faire en sorte de lui redonner de la vigueur.
Au fil, pas à la boisson fermentée... ;)
Pas d'problème. Accepted! ;) Ça m'arrive aussi d'faire des HS, mais là c'est juste que c'était un peu tout le monde en même temps, ce que qui était décevant.
Penser savoir est une chose, savoir penser en est une autre !

Avatar de l’utilisateur
Dash
Messages : 5217
Inscription : 06 mai 2009, 14:40

Re: ChatGPT

#161

Message par Dash » 28 janv. 2023, 22:36

Salut thierry,
thierry a écrit : 28 janv. 2023, 18:25 Je ne peux pas m'empêcher de trouver ça a un peu achevé, comme explication.
Pourquoi pas soulever cette piste, effectivement, cette hypothèse.
Mais la psychologie humaine est plus complexe. Peut-être peux-tu attribuer cette "réaction de défense" à une proportion statistique de la population, mais moyennant le fait que tu définisses exactement les termes.
Car bon, quel désaccord ne proviendrait pas de cette fameuse réaction de défense dis-moi ?
C'est surtout en tant que « phénomène » qui semble se propager comme une trainée de poudre (à la façon d'un « mème », au sens de Bloom & Dawkin, les deux premiers ayant parlé de ce concept) que je faisais cette remarque. L'on perçoit (enfin « je ») que l'humanité tout entière (enfin, plusieurs YouTuber's et sur certains autres forums que je fréquente, etc.) cherche à minimiser le potentiel des IA faisant mille et un parallèles avec « l'IH » (l'intelligence humaine~le cerveau). Pour moi, ça relève très fort probablement, entre autres, d'une certaine « crainte » et/ou, pour la toute première fois, d'un sentiment qu'on commence à être « menacer » (i.e. les rédacteurs, les profs, etc., entre autres).
thierry a écrit : 28 janv. 2023, 18:25J'ai un problème également avec cette question de compétition.
Je pense que c'est un bon paradigme pour décrire certains rapports sociaux mais il me semble qu'il ne faut pas tout voir à travers ce prisme également. Pour moi on compare ici des choses incomparables, il n'est donc (sémantiquement parlant) pas question de compétition.
Ce serait à approfondir, développer et sans doute débattre. Peut-être dans un autre thread dédié. Perso, je pense, au contraire, qu'absolument tout est basé sur la comparaison, et donc la « compétition » dans la psychologie profonde de l'être humain. Mais j'aurais plein d'aspects à préciser et nuancer, car paradoxalement, je ne fais pas du tout partie de ceux qui en parlent sous un angle de type « la nature humaine est mauvaise et ne cherche qu'à écraser et dominer son prochain » (afin de justifier tout et rien). Ma conception est bcp plus nuancée. Sauf qu'au final, le cerveau ne procède (avant toute longue réflexion, nécessairement a posteriori), que par comparaison et généralisation de cas particulier. C'est même sa principale fonction de procéder par heuristique afin d'économiser temps et énergie.

thierry a écrit : 28 janv. 2023, 18:25Mais personne n'a peur pour sa survie, ni pour sa cohérence intellectuelle/idéologique, en actant que des calculettes sont beaucoup plus rapides que nous les pitis humains pour réaliser certains types de traitements.
Oui, je comprends ce que tu veux dire, au sens où tu le dis ici. Sauf que là (la récente « conscientisation » de tous, face à ChatGPT, et donc à quoi l'on peut s'attendre, en termes d'impacte, dans les prochaines années) c'est quelque peu différent. Je ne cause pas des sphères d'initiés bossant (et/ou d'érudits s'intéressant profondément au sujet, tout comme ABC s'intéresse à la PQ) dans le milieu depuis des années, je parle du grand public! Avant ChatGPT, le grand public n'entendait parler que de projets prometteurs, de certaines avancées dans des domaines de niche, des supercalculateurs battants les meilleurs joueurs de jeu d'échec, de Go ou vidéo, etc., mais tout ceci demeurait quelque peut « abstrait » ou éloigné d'applications pratiques au quotidien. Mais là, pour la toute première fois, tous ont été confrontés — concrètement — aux possibilités de l'IA en pouvant personnellement l'utiliser et « y faire face ». Déjà, les écoles à travers le monde s'ajustent (interdisent l'accès à ChatGPT) concernant la génération de texte (résumés, dissertations, etc.) etc. Les Techs en sécurité informatique s'inquiètent (génération de code, mails de phishing), etc., etc. L'impacte n'a rien à voir avec l'utilisation d'une calculette àmha. ...ce qui, àma (je peux me tromper), génère aussi du même coup de multiples craintes, plus ou moins inconscientes selon les uns et les autres, qui fait que certains ressentent probablement plus le besoin de s'autorassurer que d'émettre strictement des critiques pertinentes.

thierry a écrit : 28 janv. 2023, 18:25ps : concernant la petite vidéo de Monsieur Phi, j'ai hésité à la poster perso, j''étais content de voir ça sur le coup ! Tu penses que ça a déclenché chez moi pas mal de réactions approbatrices, mais très idéologiques à la fois ?
Aucune idée! Tu n'étais pas du tout visé personnellement. Et tu as très bien fait de la poster. J'ai apprécié cette vidéo en fait! ;) C'est la suite, en tant que phénomène (sur la toile en entier), qui me fait marrer, car j'observe une tendance, un « mème » où certains, sans nuancer comme M Phi et sans considérer que nous n'en sommes qu'à la « v1.0 » discréditent l'IA de façon générale.
Penser savoir est une chose, savoir penser en est une autre !

juliens
Messages : 195
Inscription : 08 janv. 2023, 18:51

Re: ChatGPT

#162

Message par juliens » 28 janv. 2023, 22:54

Il est possible qu'un chatGPT ne puisse franchir un certain mur. Il faut prendre en considération l'augmentation de la vitesse de calcul nécessaire à son évolution et la recherche fondamentale fait par des humains. La version 2 devra s'affranchir de ces limites. Je réaffirme sans aucune honte que son évolution repose principalement sur sa capacité à converser.

Avatar de l’utilisateur
Dash
Messages : 5217
Inscription : 06 mai 2009, 14:40

Re: ChatGPT

#163

Message par Dash » 28 janv. 2023, 23:33

juliens a écrit : 28 janv. 2023, 22:54 Il est possible qu'un chatGPT ne puisse franchir un certain mur. Il faut prendre en considération l'augmentation de la vitesse de calcul nécessaire à son évolution et la recherche fondamentale fait par des humains. La version 2 devra s'affranchir de ces limites. Je réaffirme sans aucune honte que son évolution repose principalement sur sa capacité à converser.
Oui, si l'on ne traite que du modèle GPT comme tel, mais je trouve cette vision limitée en ce sens que les IA de demain ne se limiteront certainement pas qu'à des modèles séparés et hyper spécialisés, tous en « vase clos ». Ça manque cruellement d'imagination comme vision!

Il existe déjà des calculettes et des logiciels spécialisés en calcul (math) complexe, par exemple, donc déjà pour ceux qui ont besoin d'effectuer, trouver, valider des calculs, ce serait déjà un jeu d'enfant de coupler un logiciel existant à une « interface conversationnelle » comme ChatGPT. Idem avec des fonctions de moteur de recherche ayant accès à de l'info en temps réel. Afin, par exemple, de pouvoir converser « naturellement » (dans la forme, avec la même « aisance »), tout comme avec l'actuel ChatGPT, mais dont ce dernier aurait juste, en plus, accès à toute sorte de données (les cours boursiers, les matchs de sport, les news, etc.). Ensuite, en couplant avec le moteur mathématique, facile d'imaginer tout un tas d'applications (générations de stat et proba!!!, entre autres).

Bref, faut voir (se représenter) le modèle GPT que comme étant le moteur conversationnel (maîtrise du langage naturel) qui sera, forcément, adjoint, ajouté à toute autre moteur d'IA spécialisé. Dans ma conception, j'imagine qu'au fil du temps, plusieurs moteurs spécialisés seront combinés pour, éventuellement, former un début d'IA comme on se l'imagine tous caricaturalement.
Penser savoir est une chose, savoir penser en est une autre !

juliens
Messages : 195
Inscription : 08 janv. 2023, 18:51

Re: ChatGPT

#164

Message par juliens » 28 janv. 2023, 23:42

Dash a écrit : 28 janv. 2023, 23:33 Oui, si l'on ne traite que du modèle GPT comme tel, mais je trouve cette vision limitée...
Désolé, je suis embêté! Je croyais que le sujet était chatGPT! :ouch:

Avatar de l’utilisateur
Invité
Messages : 4757
Inscription : 16 janv. 2004, 17:47

Re: ChatGPT

#165

Message par Invité » 29 janv. 2023, 00:00

Dash a écrit : 28 janv. 2023, 23:33 Bref, faut voir (se représenter) le modèle GPT que comme étant le moteur conversationnel (maîtrise du langage naturel) qui sera, forcément, adjoint, ajouté à toute autre moteur d'IA spécialisé. Dans ma conception, j'imagine qu'au fil du temps, plusieurs moteurs spécialisés seront combinés pour, éventuellement, former un début d'IA comme on se l'imagine tous caricaturalement.
Je crois moi aussi que ça va ressembler à ça.

Je vois les modèles à venir (<10 ans) comme étant composés d'un assemblages d'IA spécialisées (scientifique, politique, sports, histoire, ...) combinées à un ou des modules spécialisés (non IA) comme pour le calcul et surtout avec un accès direct et permanent à l'Internet pour l'IA gérant les questions/réponses.

Là ça va dépeigner. :a4:

I.
"Whatever intelligence is, it can't be intelligent all the way down. It's just dumb stuff at the bottom." [Andy Clark]

thierry
Messages : 448
Inscription : 01 sept. 2017, 12:10

Re: ChatGPT

#166

Message par thierry » 29 janv. 2023, 00:57

Dash a écrit : 28 janv. 2023, 22:36
thierry a écrit : 28 janv. 2023, 18:25 Je ne peux pas m'empêcher de trouver ça a un peu achevé, comme explication.
C'est surtout en tant que « phénomène » qui semble se propager comme une trainée de poudre (à la façon d'un « mème », au sens de Bloom & Dawkin, les deux premiers ayant parlé de ce concept) que je faisais cette remarque. L'on perçoit (enfin « je ») que l'humanité tout entière (enfin, plusieurs YouTuber's et sur certains autres forums que je fréquente, etc.) cherche à minimiser le potentiel des IA faisant mille et un parallèles avec « l'IH » (l'intelligence humaine~le cerveau). Pour moi, ça relève très fort probablement, entre autres, d'une certaine « crainte » et/ou, pour la toute première fois, d'un sentiment qu'on commence à être « menacer » (i.e. les rédacteurs, les profs, etc., entre autres).
Ok, j'avais pas suivi.
J'ai peut-être réagi un peu trop vite, un peu surinterprété d'accord.

Après, je pense que le potentiel des IA est également surestimé par les communicants qui le promulgue, même si oui on fait face à une évolution technologique, clairement, qui peut remplacer les petits humains sur pas mal de tâches qu'on effectuait sympathiquement jusque là, et sans trop se poser de questions (moyennant salaire)
Bref, ok, j'avais pas tout à fait compris le fond de ta pensée, là ça va mieux mais du coup je prends bêtement le contre-pied. :lol:
Bref on va essayer d'éviter le HS ! (déso)
Perso, je pense, au contraire, qu'absolument tout est basé sur la comparaison, et donc la « compétition » dans la psychologie profonde de l'être humain. Mais j'aurais plein d'aspects à préciser et nuancer, car paradoxalement, je ne fais pas du tout partie de ceux qui en parlent sous un angle de type « la nature humaine est mauvaise et ne cherche qu'à écraser et dominer son prochain » (afin de justifier tout et rien). Ma conception est bcp plus nuancée.
Oui, d'accord pour acter que tu es nuancé.
(j'aime bien :a1: )
J'aime bien "comparaison" aussi, ça sonne bien. Je préfère !
Dash a écrit :[...] pour la toute première fois, tous ont été confrontés — concrètement — aux possibilités de l'IA en pouvant personnellement l'utiliser et « y faire face ». Déjà, les écoles à travers le monde s'ajustent (interdisent l'accès à ChatGPT) concernant la génération de texte (résumés, dissertations, etc.) etc.
Oui, comme pour pas mal d'avancées technologiques, non ?
Alors, je ne suis plus sûr de te comprendre, peux-tu formuler clairement en quoi tu vois les IA comme des avancées révolutionnaires ?
Je caricature un peu là, mais j'ai du mal à formuler perso..
Disons, en quoi ça te fait rêver ?
En pas grand-chose à mon avis, mais t'es du genre imaginatif, je sais que tu peux développer de manière presque poétique, assez plaisante en fait, donc c'est comme tu veux :-)
L'impact n'a rien à voir avec l'utilisation d'une calculette àmha
Honnêtement je ne sais pas.
L'impact de la calculette, question éminemment historique et complexe à mon avis.
Dans tous les cas ça a pas mal accéléré certains calculs, et donc "supprimé" certains emplois.
Sur ce point on est totalement d'accord, non ?
J'arrive à comprendre les gens que la considération fait angoisser, et toi aussi je pense.
Bref, je tenais à défendre ma métaphore bancale de la calculatrice :)

Avatar de l’utilisateur
Dash
Messages : 5217
Inscription : 06 mai 2009, 14:40

Re: ChatGPT

#167

Message par Dash » 29 janv. 2023, 06:17

juliens a écrit : 28 janv. 2023, 23:42
Dash a écrit : 28 janv. 2023, 23:33 Oui, si l'on ne traite que du modèle GPT comme tel, mais je trouve cette vision limitée...
Désolé, je suis embêté! Je croyais que le sujet était chatGPT! :ouch:
Ben, tu suggères que chatGPT ne puisse franchir un certain mur, mais faudrait répondre en ne considérant que ce qu'il est actuellement ce qui, du coup, nous enferme dans une boîte où, en effet, nous ne pouvons alors rien envisager de plus que ce qu'il est actuellement. Ce qui est ridicule. :roll:

Oui, le titre est bien « ChatGPT », mais si tu n'as pas saisi qu'on cause également de l'IA au-delà de strictement ce modèle conversationnel, je n'y peux rien.

De plus, l'augmentation de la vitesse de calcul n'est pas du tout ce qui m'apparaît être le plus limitatif pour l'instant, concernant ce modèle. Le fait de ne pouvoir accéder en temps réel à internet (comme le fait Google pour des millions d'utilisateurs quotidiennement, avec la puissance de calcul disponible actuellement) est une bien plus grande « limitation » àma. Mais la bonne nouvelle, c'est que cela peut et sera « corrigé ».
Penser savoir est une chose, savoir penser en est une autre !

Avatar de l’utilisateur
Dominique18
Messages : 10156
Inscription : 06 oct. 2020, 12:27

Re: ChatGPT

#168

Message par Dominique18 » 29 janv. 2023, 10:06

@ Dash
Mais sinon ton « plaidoyer » concernant le fait que l'IA n'est pas un humain, comme Invité l'a dit, c'est de l'enfonçage de porte ouverte et pour moi ça relève quand même d'une réaction (inconsciente?) de « défense » afin de « dévaloriser » ce qui pourrait éventuellement compétitionner avec nous (sinon pourquoi avoir besoin de souligner ce qui est un truisme?).
Relis attentivement ce que j'ai écrit.
Nulle trace d'un quelconque "plaidoyer" dans mes propos, et encore moins de truisme, ce qui serait idiot et contradictoire par rapport à ce que j'ai exprimé, c'est à dire la mise en évidence des notions de complexité inhérentes à chaque système, et évoluant dans des paradigmes spécifiques.

A rajouter la limite du langage humain, impropre, de par ses limitations, à rendre compte précisément de concepts scientifiques. C'est bien beau d'avoir des idées, encore faut-il suffisamment maîtriser l'expression pour se faire comprendre sans zones d'ombre, ce qui relève d'un exercice périlleux. C'est peut-être bien banal, mais il apparaît que ce sont des notions vite oubliées mais qui constituent cependant le cadre de référence.

Il est fort probable que se produisent des réalisations (des applications) qui dépassent notre entendement lambda, avec des "ponts" entre vivant et IA. Par exemple, ce qui concerne le domaine des exo-squelettes pour les personnes handicapées avec un système de commandes (passation d'ordres) directement en prise avec le fonctionnement cérébral (pas de commandes manuelles, ou vocales,...).

Ce ne sont que des applications, des exploitations de l'IA, il est bien évident qu'on ne peut pas se réduire à ces domaines, que le sujet est beaucoup plus vaste.
On commence à utiliser (tests et évaluations en cours) des robots pour la surveillance (dans un contexte avec un protocole médical) de personnes âgées, ce qui ne remplace pas les interactions humaines, mais est à considérer comme une autre forme d'assistance, beaucoup plus perfectionnée et efficiente que ce qui existait antérieurement.

Ce qui, compte-tenu du vieillissement des populations, risque de faire émerger d'autres problématiques concernant les prises en charge des populations, et la modification des structures sociétales: vieillir, mieux, avec plus de confort et d'optimisation des facultés, avec un impact positif sur l'espérance de vie.

En matière d'enseignement, au sens large, il faut s'attendre à quelques bouleversements. Ce qui ne dispense nullement de s'interroger sur la nécessité absolue, pour les dirigeants et autres décideurs de disposer de connaissances étendues, avec une vase scientifique, parce que depuis plusieurs décennies, le constat est que les élites ne sont pas suffisamment "outillées" à ce niveau et peuvent faire preuve d'une crétinerie rare.

IA et haut potentiel technologique, d'accord, mais haut niveau de connaissances parallèlement exigé (ce que Jean-Marc Jancovici rappelle par rapport à d'autres problématiques. La complexité des systèmes mis en place par les humains ne cesse de progresser, la connaissance a minima que l'on devrait en avoir, aussi difficile que cela puisse être, ne suit pas nécessairement. Nous rejoignons ABC sur ce chapitre).

Il me semble que ça devrait fonctionner de pair, ce qui suppose une révolution au niveau des systèmes et des matières éducatifs. Ce qui n'a rien à voir avec l'IA. Je ne vois pas comment on pourrait "absorber" les possibilités et potentialités provoquées par l'IA autrement. Connaître, savoir, c'est également se donner la possibilité de maîtriser et d'inventer.

Les pistes de réflexion et les scénarii ne manquent pas.
Un bémol à ce bel enthousiasme : en l'état actuel des connaissances, des ressources, des bouleversements géopolitiques sur la planète (qui pompent des budgets qui pourraient être attribués autrement), je n'arrive pas à me projeter suffisamment dans le futur, en gardant les pieds sur terre.

juliens
Messages : 195
Inscription : 08 janv. 2023, 18:51

Re: ChatGPT

#169

Message par juliens » 29 janv. 2023, 14:50

Dash a écrit : 29 janv. 2023, 06:17
juliens a écrit : 28 janv. 2023, 23:42
Dash a écrit : 28 janv. 2023, 23:33 Oui, si l'on ne traite que du modèle GPT comme tel, mais je trouve cette vision limitée...
Désolé, je suis embêté! Je croyais que le sujet était chatGPT! :ouch:
Ben, tu suggères que chatGPT ne puisse franchir un certain mur, mais faudrait répondre en ne considérant que ce qu'il est actuellement ce qui, du coup, nous enferme dans une boîte où, en effet, nous ne pouvons alors rien envisager de plus que ce qu'il est actuellement. Ce qui est ridicule. :roll:

Oui, le titre est bien « ChatGPT », mais si tu n'as pas saisi qu'on cause également de l'IA au-delà de strictement ce modèle conversationnel, je n'y peux rien.

De plus, l'augmentation de la vitesse de calcul n'est pas du tout ce qui m'apparaît être le plus limitatif pour l'instant, concernant ce modèle. Le fait de ne pouvoir accéder en temps réel à internet (comme le fait Google pour des millions d'utilisateurs quotidiennement, avec la puissance de calcul disponible actuellement) est une bien plus grande « limitation » àma. Mais la bonne nouvelle, c'est que cela peut et sera « corrigé ».
Si, si, si... nous vivions dans le monde des Jetsons nous nous promenions en soucoupe volante depuis l'an 2000.

J'aime bien ton, "Mais la bonne nouvelle, c'est que cela peut et sera « corrigé »."
Veni, vidi, vici.

Ce n'est pas en augmentant sa capacité mémorielle qui fera que chatGPT, désolé d'en discuter ici, évoluera. C'est l'interprétation de nos textes qui démarre la conversation et l'organisation de son échange qui doit évoluer grandement indépendamment de toutes nos connaissances que nous lui donnons. Ses algorithmes de séquences de mots, son interprétation du langage naturel, son utilisation d'un langage impersonnel facile à détecter qui le rend tant robotisé dans ses conversations. Vous tous ici avez beau effacer CHAT dans chatGPT, ce n'ait qu'une fuite vers les Jetsons sans réaliser qu'il doit évoluer exactement dans ce que vous niez.
Lorsque l’intelligence artificielle apprend des données historiques d’une organisation ou de celles de notre société, elle a tendance non seulement à reproduire les biais qui peuvent exister, mais aussi à les amplifier, parce qu’elle cherche la ligne la plus droite pour avoir un résultat performant.
Si, si, si, augmentons la température pour obtenir quoi? Du n'importe quoi?

Que des enfants hystériques devant la bébelle du jour.
Vidi, vici, reliqui!

Exemple de mes propos...

L’AVIS D’UN HISTORIEN
https://www.lapresse.ca/contexte/editor ... hatgpt.php
Comment s’en tire ChatGPT quand on lui demande son avis sur des questions qui touchent à l’histoire ? Nous avons posé la question à Martin Pâquet, professeur titulaire au département des sciences historiques de l’Université Laval. Sans surprise, il émet des réserves quant au résultat final.

« Il y a des éléments qui, factuellement, peuvent être vrais », explique-t-il. Mais il reste qu’on a « aggloméré » des renseignements pris sur le web, sans en vérifier la validité. Et que, surtout, ceux-ci n’ont pas été mis en contexte. « C’est fait sans discernement et sans jugement historique », explique l’expert.

ChatGPT indique par exemple que Pierre Laporte, enlevé par le FLQ en 1970, était ministre de l’Immigration. C’est vrai. Mais il était aussi ministre du Travail. « Et c’est surtout pour cette raison qu’il a été kidnappé », souligne Martin Pâquet.

L’historien relève aussi d’autres affirmations discutables. Comme l’idée qu’il y avait des tensions entre le gouvernement fédéral et le gouvernement du Québec. « Il y avait des tensions présentes sur la stratégie employée pour libérer les otages, c’est évident, mais pas sur l’ensemble de la situation. Le FLQ est un groupe indépendant qui propose une contestation du système capitaliste. Le fédéral comme le provincial [...] s’opposent à la position du FLQ », dit-il.

Quant à la question sur les premiers ministres du Québec, ChatGPT a refusé d’évaluer ceux qui ont été les plus importants. Le robot conversationnel en propose plutôt quatre « qui ont eu un impact significatif sur la province ». Mais « qu’est-ce qu’on entend par impact significatif ? », lance Martin Pâquet.

Avec de telles réponses, estime-t-il, « on sait tout de suite que c’est un robot » qui nous donne la réplique. Et non pas un être humain.
Si nous voulons jouer dans la cour des futurologues amateurs insignifiants, chatGPT a une vision en 2D, linéaire, il lui faut évoluer avec le 3D, la profondeur pour lui créer un univers "psychique" en trois dimensions. Ensuite, lui ajouter la quatrième, le temps. La réflexion, un algorithme de rétroaction?

Avatar de l’utilisateur
Dash
Messages : 5217
Inscription : 06 mai 2009, 14:40

Re: ChatGPT

#170

Message par Dash » 29 janv. 2023, 17:08

juliens a écrit : 29 janv. 2023, 14:50 [...] [...] [...]Vous tous ici avez beau effacer CHAT dans chatGPT, ce n'ait qu'une fuite vers les Jetsons sans réaliser qu'il doit évoluer exactement dans ce que vous niez.
Mais qu'est-ce que l'on nie? Tu fais des strawmans et tu pars un peu dans tous les sens. Difficile de suivre et de débattre dans ces conditions.
juliens a écrit : 29 janv. 2023, 14:50Si, si, si, augmentons la température pour obtenir quoi? Du n'importe quoi?

Que des enfants hystériques devant la bébelle du jour.
Hystérique ? Nous? Moi? Tu as suivi la conversation ou quoi? Tu fais des strawmans.

juliens a écrit : 29 janv. 2023, 14:50Avec de telles réponses, estime-t-il, « on sait tout de suite que c’est un robot » qui nous donne la réplique. Et non pas un être humain.
Et? Avons-nous prétendu le contraire?

Es-tu capable de formuler précisément et clairement à quoi tu t'opposes au juste?
Penser savoir est une chose, savoir penser en est une autre !

juliens
Messages : 195
Inscription : 08 janv. 2023, 18:51

Re: ChatGPT

#171

Message par juliens » 29 janv. 2023, 17:13

Dash a écrit : 29 janv. 2023, 17:08
juliens a écrit : 29 janv. 2023, 14:50 [...] [...] [...]Vous tous ici avez beau effacer CHAT dans chatGPT, ce n'ait qu'une fuite vers les Jetsons sans réaliser qu'il doit évoluer exactement dans ce que vous niez.
Mais qu'est-ce que l'on nie? Tu fais des strawmans et tu pars un peu dans tous les sens. Difficile de suivre et de débattre dans ces conditions.
juliens a écrit : 29 janv. 2023, 14:50Si, si, si, augmentons la température pour obtenir quoi? Du n'importe quoi?

Que des enfants hystériques devant la bébelle du jour.
Hystérique ? Nous? Moi? Tu as suivi la conversation ou quoi? Tu fais des strawmans.

juliens a écrit : 29 janv. 2023, 14:50Avec de telles réponses, estime-t-il, « on sait tout de suite que c’est un robot » qui nous donne la réplique. Et non pas un être humain.
Et? Avons-nous prétendu le contraire?

Es-tu capable de formuler précisément et clairement à quoi tu t'opposes au juste?
Franchement... pas possible! :roll:

Tu perçois mes propos comme une opposition? Opposition à quoi? À tes croyances?

Allons-y lentement pour ne pas te froisser. Un petit pas à la fois. Une petite dose à la fois. Essai de suivre: ChatGPT fonctionne-t-il en mode 2D linéaire?
Dernière modification par juliens le 29 janv. 2023, 18:08, modifié 1 fois.

Avatar de l’utilisateur
Invité
Messages : 4757
Inscription : 16 janv. 2004, 17:47

Re: ChatGPT

#172

Message par Invité » 29 janv. 2023, 17:20

Dash a écrit : 29 janv. 2023, 17:08 Tu fais des strawmans et tu pars un peu dans tous les sens. Difficile de suivre et de débattre dans ces conditions.
Tu fais des strawmans.
Et? Avons-nous prétendu le contraire?
Il n'apporte rien à la discussion, il est de mauvaise foi et il est dans mes ignorées depuis un certain temps.

I.
"Whatever intelligence is, it can't be intelligent all the way down. It's just dumb stuff at the bottom." [Andy Clark]

Avatar de l’utilisateur
Dash
Messages : 5217
Inscription : 06 mai 2009, 14:40

Re: ChatGPT

#173

Message par Dash » 29 janv. 2023, 17:32

Dominique18 a écrit : 29 janv. 2023, 10:06Relis attentivement ce que j'ai écrit.
Nulle trace d'un quelconque "plaidoyer" dans mes propos, et encore moins de truisme [...]
Mais oui. Tu es nuancé, tu développes et précises plein d'aspects (dont je suis en accord). Pas de problème à ce niveau Dom! ;)

C'est juste que t'as débuté (au msg #136) avec des commentaires de ce type :
Dominique18 a écrit : 22 janv. 2023, 07:59Une IA reste une IA, qui ne peut être comparée au fonctionnement humain […] C'est un outil, étonnant, certes, mais rien de plus. On peut éprouver une fascination, il faut cependant garder les pieds sur terre […] L'IA n'est pas à considérer et à comparer à un système vivant, humain en l'occurrence avec la question du langage qui permet des échange […] L'IA, aussi évoluée et performante soit-elle manquera toujours de l'essentiel […] A ce jour, les interactions humaines en présentiel (phénomènes d'interactions animales également observé en éthologie) recèlent encore une bonne part de mystères. A ce titre, les modules d'apprentissage basés sur l'e-learning, en distanciel, semblent avouer leurs limites
…que je « cherry pick » intentionnellement, mais qui, bien qu'ils soient exacts (rien à dire, je suis d'accord sur quasiment tout ce que tu dis) donne l'impression que tu t'efforces de rappeler (défendre) que les IA n'égalent pas les humains, ce qui comme invité la mentionné, est quand même de l'enfonçage de porte ouverte. D'autant plus que ni moi ni Invité n'avons prétendu le contraire (et que juliens, lui s'efforce de dénigrer les IA), alors je ne voyais donc pas trop d'où venait ce « besoin~nécéssité » de ta part de rappeler tout ça dans la mesure où nous sommes tous d'accord.

Mais peut-être ai-je surinterprété ton intention et/ou la raison qui t'a poussé à rappeler tout ceci! ;)
Penser savoir est une chose, savoir penser en est une autre !

juliens
Messages : 195
Inscription : 08 janv. 2023, 18:51

Re: ChatGPT

#174

Message par juliens » 29 janv. 2023, 17:39

Dash a écrit : 29 janv. 2023, 17:32 D'autant plus que ni moi ni Invité n'avons prétendu le contraire (et que juliens, lui s'efforce de dénigrer les IA), alors je ne voyais donc pas trop d'où venait ce « besoin~nécéssité » de ta part de rappeler tout ça dans la mesure où nous sommes tous d'accord.
Oui, critiquer, soulever des points importants qui ne sont pas discuter ici par manque de jugement est selon la grille intellectuelle de ce groupe, dénigrer.
Invité a écrit : 29 janv. 2023, 17:20
Dash a écrit : 29 janv. 2023, 17:08 Tu fais des strawmans et tu pars un peu dans tous les sens. Difficile de suivre et de débattre dans ces conditions.
Tu fais des strawmans.
Et? Avons-nous prétendu le contraire?
Il n'apporte rien à la discussion, il est de mauvaise foi et il est dans mes ignorées depuis un certain temps.
L'autre affirme que je dénigre et toi, je suis de mauvaise foi. Je ne vois nullement du dénigrement et de la mauvaise foi, à moins bien sûr qu'une critique honnête en soit.
Dernière modification par juliens le 29 janv. 2023, 17:53, modifié 1 fois.

thewild
Messages : 3301
Inscription : 09 août 2016, 16:43

Re: ChatGPT

#175

Message par thewild » 29 janv. 2023, 20:29

Et c'est reparti... :|
"Assurons nous bien du fait, avant de nous inquiéter de la cause." Bernard Le Bouyer de Fontenelle

"Plus un fait est extraordinaire, plus il a besoin d'être appuyé de fortes preuves." Pierre Simon Laplace

Répondre

Qui est en ligne ?

Utilisateurs parcourant ce forum : Aucun utilisateur inscrit