Les IA vivent-elles dans un monde déconnecté de la réalité ?

Question

Un article de Slate https://korii.slate.fr/tech/intelligence-artificielle-transforme-monstre-consanguin-debile-entrainement-modeles-ia-generative-contenu-donnees signale un phénomène intéressant.Les intelligences artificielles qui simulent les comportement humain, comme ChatGPT, ont eu du succès car elles recopiaient des productions humaines de bonne qualité et disponibles sur Internet. Maintenant le gisement est épuisé, et ce qui se produit sur Internet vient majoritairement d'autres IA. On s'en rend compte sur Quora où un nombre important de questions et de réponses semblent produites par des IA, pour des fins pas toujours louable.Nous avons alors un phénomène en boucle où ce qui est produit par des IA sert à alimenter d'autres IA, qui réutilisent sans validation ces données. L'article en lien explique que dans ce type de situation il y a risque de dérive, et que les réponses de l'IA évoluent vers le "n'importe quoi".On peut rapprocher cela du fonctionnement du cerveau pendant les rêves. Cela ne le gêne pas de nous faire voler dans les airs par exemple. Comme il ne peut contrôler que ce n'est pas vrai, il accepte la situation. Pendant la période des songes nocturnes les situations invraisemblables et loufoques peuvent s'enchainer, mais ce  n'est qu'au réveil, quand la confrontation au monde réel au possible, que tout se règle. On ne sait pas comment confronter les IA au réel.Le phénomène se passe déjà sans l'apport des intelligences artificielles, avec la grande dérive de notre monde médiatique vers le "n'importe quoi", mais il y a risque que les IA aggravent le processus...

Aurélie Chan · Answer

Concernant l'intelligence artificielle générative, le problème est déjà bien identifié. En effet, si cette technologie est utilisée n'importe comment et que les êtres humains ne produisent plus de contenu, ces IA finiront par « se nourrir » de leurs propres « créations ». Les contenus générés deviendront alors de plus en plus pauvres et caricaturaux.On pouvait déjà le constater avec la génération d'images, qui représentait des êtres humains se ressemblant tous, avec des traits « parfaits » selon certains critères de beauté actuels et dominants : type caucasien, nez retroussé, grosses poitrines, traits identiques, poses uniformes... Cela pouvait déjà indiquer que de nombreux créateurs eux-mêmes (photographes, graphistes, professionnels de la mode...) manquaient cruellement d'inspiration et d'originalité. Si l'IA générative en rajoute une couche en inondant Internet d'images encore plus stéréotypées, puis s'en « nourrit » pour en produire encore davantage, il est à espérer que nous finirons par nous lasser de ce type de contenu ennuyeux. Ce sera peut-être enfin le bon moment pour que les humains fassent preuve de plus de créativité et de diversité.En ce qui concerne la génération de texte, je trouve que ChatGPT est un excellent outil... s'il est utilisé correctement. Il traduit mieux que Google Translate, peut corriger certains textes, est plus puissant que les moteurs de recherche traditionnels, et peut aider à comprendre un morceau de code ou une documentation en programmation, entre autres.Cependant, je ne comprends absolument pas l'intérêt de plateformes comme Gute Frage de proposer des réponses générées par une IA avec 15 minutes d'attente si aucun humain n'a répondu. Si l'on souhaite poser une question à une IA, on peut obtenir des réponses instantanées et personnalisées via ChatGPT, par exemple.Il en va de même pour Quora, qui commence à générer des questions et des réponses du côté anglophone. J'ai quitté Quora il y a un certain temps, je ne sais pas où en est la version francophone actuellement, mais je sais que les financements reçus sont désormais orientés dans ce sens (j'en avais parlé plus en détails ici : https://vortext.eu/Page-de-reponses/186/l-evolution-de-l-identite-de-quora ). Honnêtement, qui a envie de lire une conversation entre une IA et elle-même ? Bientôt, ils l'entraîneront pour qu'elle puisse upvoter ses propres réponses, commenter, troller et s'envoyer des dick pics à elle-même en message privé. Après des années à se baser sur le trafic pour assurer le succès de la plateforme, quitte à ne pas sanctionner le plagiat ou à tolérer certains propos inacceptables, je leur souhaite bonne chance pour entraîner une IA qui n'exprime pas des opinions d'incel agressif, raciste et homophobe.Quoi qu'il en soit, je ne m'inquiète pas trop. Comme avec chaque nouvel outil, il y aura toujours des gens qui en abusent et qui finiront par en subir les conséquences. Toutes ces images médiocres de bimbos génériques ou d'humains difformes générées par IA seront considérées comme le kitsch de notre époque actuelle. Il en sera de même pour les textes génériques et les plateformes que les humains finiront par déserter, car elles n'auront finalement plus de place pour eux. Ces personnes seront alors les bienvenues sur VortexT, par exemple. 😁

Connaissez-vous des entreprises avec une bonne image, mais qui ont des scandales ou des affaires judiciaires ?

Que pensez-vous des groupes de niveau à l'école ?

Le retour des hirondelles et des martinets noirs, édition 2025

La solution des stations relais applicable à l'automobile ?

Comment vous informez-vous?

La sécurité au travail

Quelles pourraient être les conséquences de The Big One (tremblement de terre sur la faille de San Andreas)?

Que pensez-vous de ce test de QI pour chiens ?

Un jeu et une question sur l'or ?