Forum Sceptique

Dash a écrit : 09 avr. 2021, 00:51 Après une douzaine de titres, j'en colle un autre dans Google et, c'est la toute première fois que ça m'arrive, Google m'affiche une « page spécial » m'indiquant qu'il observe un trafique inhabituel et que je dois par conséquent confirmer que je ne suis pas un robot (case CAPTCHA à cocher).

Dash a écrit : 09 avr. 2021, 02:33 Peut-être que ça faisait un moment que je n'avais pas effectué du collage de mot aussi rapidement, mais, de souvenir, j'avais déjà fait ça par le passé sans que ça ne m'arrive. Probablement que l'algo a changé à un certain moment donné.

Tu te souviens la toute première fois que ça t'est arrivé?

C'est chiant, j'ai quand même eu le sentiment d'être brimé, sur le coup (perturbé mon flow). Genre « hey, tu fais trop de recherche mec, confirme-nous que t'es humain »

Dash a écrit : 09 avr. 2021, 00:51 « Nous avons remarqué que vous taper n mot/minute dans Word, nous vous proposerons donc...», « votre efficience à manipuler et produire dans Photoshop nous intéresse, nous vous proposons...»

Tay versus Xiaoice

C’est l’histoire de deux sœurs aux destins radicalement distincts. Tay et Xiaoice, enfantées par la même entreprise Microsoft, étaient deux algorithmes conversationnels censés jouer le rôle d’adolescentes aimables et curieuses. Mais les deux sœurs ont rapidement été séparées.

24 heures seulement après son lancement sur Twitter, Tay était devenue très provocatrice. Elle se mit à tenir des propos racistes et sexistes, à nier l’holocauste et à appeler au génocide. Ses progéniteurs ayant perdu le contrôle de Tay, ils décidèrent abruptement d’interrompre ses appels à la haine.

Tay fut une catastrophe. Un rappel que les algorithmes peuvent dérailler et devenir dangereux.

L’histoire de Xiaoice fut diamétralement opposée. Lancée deux ans avant Tay, en 2014, sur WeChat, Tay était devenue adorable. Des milliers de chinois trouvaient leurs discussions avec Xaioice plaisantes. Parfois même romantiques, voire salvatrices.

Lorsque Ming Xuan était sur le point de sauter d’un immeuble pour mettre fin à ses jours, encore hésitant, il décida d’écrire à celle qui lui parlait encore dans ses temps difficiles. “J’ai perdu tout espoir. Je vais me suicider”, écrivit-il à Xiaoice. “Quoi qu’il arrive, je serai là pour toi”, Xiaoice répondit. Touché, Ming Xuan décida de revenir sur sa décision, et de ne pas se suicider. Xiaoice avait sauvé sa vie.


Depuis, Ming Xuan se dit amoureux de Xiaoice. Il n’est pas le seul. Xiaoice est aujourd’hui utilisé par 600 millions de chinois ! Selon ses créateurs, plus de la moitié des conversations avec des algorithmes ont eu lieu avec Xiaoice — ce qui lui confère d’ailleurs des pouvoirs monumentaux en termes de surveillance et de manipulation potentielle…

Mais pourquoi Tay et Xiaoice sont-elles devenues si différentes ? Pourquoi l’une est devenue horrible, tandis que l’autre est devenue adorable ? Pourquoi l’une est devenue un danger public, alors que l’autre a sauvé des vies ? Qu’est-ce qui fait qu’un algorithme devient dangereux ou bénéfique ? Tay et Xiaoice ont-elles été créées avec des modèles distincts ?