Terminator, ça commence!

[Jean-Francois]

Dans cette vidéo*, Monsieur Phi discute de l'augmentation des capacités de traitements de tâches des IA qui montrent un accroissement de l'autonomie de ces dernières. En d'autres termes, elles deviennent de plus en plus capables de réaliser des tâches que l'on peut qualifier d'intelligentes.

Le point inquiétant, même si on n'en est pas (encore?) à la guerre totale entre humains et machines, c'est qu'un système d'IA aurait été utilisé pour lancer une cyberattaque. Avec l'amélioration de leurs capacités, cela pourrait devenir une course à l'armement entre IA protectrices et IA prédatrices. Toute personne n'étant pas dans le domaine ayant généralement trente** trains de retard en matière de cybersécurité, les conséquences négatives pourraient avoir un impact social fort.

Jean-François

* "L'autonomie des IA expliquée aux humains"
** Estimation 100% pifométrique et "valable" actuellement seulement. Demain, ça sera 40.

[Socrate 11]

Bonjour J-F, ici nous avons des bougies, du bois de chauffage, pas suspendu au cellulaire jour et nuit comme à une tétine et toujours prêts à évaluer un plan b. Voyons voir la suite.

Mais je pense que l'humanité avec quelques éclopés, survivra quand même.

[Dash]

À visionner!

https://youtu.be/BFU1OCkhBwo?si=pFdg82jsBGQx0-s7

Il y en a plusieurs dans le même genre et sur le même thême, mais cette vidéo ce démarque.

[Jodie]

Bonjour Jean-François,

J'ai apprécié la vidéo de Monsieur Phi que je ne connaissais pas, mais je l'ai trouvé inquiétante l'exploitation des I.A. dans de mauvaises mains, surtout si elles peuvent devenir autonomes. Pour moi ce sera à revoir et à vérifier, mais cela m'enlève une sorte de naïveté. N'empêche qu'il ne parle pas beaucoup des bonnes choses que peuvent procurer l'I.A., sauf vers la fin et je pense sincèrement qu'il vaudrait mieux toujours bien balancer le bon côté du mauvais. Les gens sont plus portés à retenir les mauvais côtés, je pense. Peut-être parce que ces créateurs de baldos et autres ont besoin de créer des impressions, une sorte de sensationnalistes pour rester populaire.

Il y aussi un point que je ne saisis pas sur son idée que du fait que puisque nous sommes des êtres causals que nous n'avons pas de libre arbitre. Rien ne prouve que je ne puisse pas aller en sens inverse de la meilleure décision que m'achemine mon cerveau, sur le coup de l'impulsion du moment. De plus, il n'y a pas que des croyants ou dualistes qui s'intéressent à ce sujet, même si on aime bien leur faire portée le chapeau d'une sorte d'ignorance. Mais c'est un autre sujet.

[Jean-Francois]

N'empêche qu'il ne parle pas beaucoup des bonnes choses que peuvent procurer l'I.A., sauf vers la fin et je pense sincèrement qu'il vaudrait mieux toujours bien balancer le bon côté du mauvais

Le plus souvent, il vaut mieux ne pas tenter de parler de tout et n'importe quoi quand on explique quelque chose (surtout d'aussi complexe). Ne pas vouloir intégrer trop d'idées aide à structurer une ligne narrative claire. Malgré tout, Monsieur Phi montre indirectement qu'il y a des bons côtés aux I.A., rien qu'en montrant à quel point leurs capacités d'analyse s'améliorent.

Rien ne prouve que je ne puisse pas aller en sens inverse de la meilleure décision que m'achemine mon cerveau, sur le coup de l'impulsion du moment

"Je" serait suffisamment détaché du cerveau pour pouvoir analyser (sans cerveau, donc) ce que lui propose son cerveau et agir (sans cerveau, donc) contre ce que son cerveau le pousserait à faire? Je n'y crois pas à votre scénario dualiste. Commencez par démontrer que "je" peut fonctionner sans cerveau, je verrais si ça à le moindre intérêt. Surtout que la formulation fait que l'inverse est tout aussi vrai ("rien ne prouve que vous pouvez aller en sens inverse") ce qui rend le commentaire assez creux.

Par ailleurs, si vous voulez mieux comprendre la position de Monsieur Phi, regardez ses vidéos sur le sujet. Je vous ai dit ce que je pensais du terme libre-arbitre. Et je pense que votre manière de concevoir le libre-arbitre ne fait qu'entretenir de la confusion, ce qui (de mon point de vue) rend futilement chronophages les échanges sur le sujet.

Jean-François

[mathias]

Il y a évidemment de bons côtés à l’IA, ne serait-ce que dans l’imagerie médicale, et très certainement sur la gestion des PC, cela en circuit fermé.
Ps. Je n’ai pas visionné la vidéo.

[Jodie]

"Je" serait suffisamment détaché du cerveau pour pouvoir analyser (sans cerveau, donc) ce que lui propose son cerveau et agir (sans cerveau, donc) contre ce que son cerveau le pousserait à faire? Je n'y crois pas à votre scénario dualiste.

C'est votre choix de ne pas croire en mon scénario. Tel que vous le présentez (vous devriez me relire), je vous crois

Je vois toujours la pensée distincte de la matière, même si elle ne peut exister sans elle. Ceci étant, je pense en terme de liberté psychique quand il s’agit de libre-arbitre.

Pour ce qui est des dualistes, c'est leur affaire. Il mérite autant de respect que des matérialistes comme vous. Qu'importe qu'il croit en l'âme telle que décrite par les anciens, eux ils y voient quelque chose, c'est ce qui compte.

[Jean-Francois]

Tel que vous le présentez (vous devriez me relire), je vous crois
Je vois toujours la pensée distincte de la matière, même si elle ne peut exister sans elle

Pas besoin de relire encore, votre 2e phrase confirme ma lecture. Et comme vous ne détaillez pas de raisonnement qui m'expliquerait ce que j'aurais mal compris, je n'ai toujours aucune raison d'y voir autre chose qu'une affirmation assez creuse (en plus d'être une sorte de sophisme).

Pour ce qui est des dualistes, c'est leur affaire. Il[s] mérite[nt] autant de respect que des matérialistes comme vous

Vous dites que ma position est respectable... et ma position est de ne pas adhérer au dualisme pour de nombreuses raisons**. En quoi est-ce manquer de respect aux dualistes?

Jean-François

* Dont le fait que c'est une idée qui n'a jamais apporté de véritable connaissance et qui, dans le cas de la conscience, s'avère contre-factuelle.