Une minorité parmi les tricheurs (escrocs, voleurs, etc) ont toujours une longueur d'avance sur les honnêtes gens pour les manipuler. Si cela fonctionne, le reste des tricheurs (charlatans, fraudeurs, etc) s'engouffre dans le système pour en tirer profit. Une fois que la triche (malhonnêteté, malversation, etc) a pris trop d'ampleur, les honnêtes gens s'organisent pour contrer ce phénomène. Et le cycle recommence ailleurs ou se perfectionne.

La première fois que j'ai interrogé Chatty, j'ai été bluffé par la réponse. C'était construit, bien argumenté, avec une introduction, des paragraphes pour faire le tour du problème et une conclusion. Je me suis aperçu en posant d'autres questions que le style rédactionnel est toujours le même, avec les mêmes tournures de phrase, le même style de conclusion consensuelle.

Sur Quora j'ai retrouvé plusieurs fois la même structure et les mêmes formulations.

J'ai noté aussi des compétences limitées dans certains domaines. Notamment en histoire, il mélangeait allègrement les personnages, les dates et les lieux.

Mais c'est quand même un outil pour qui sait l'utiliser et qui connaît les limites de cette IA.

Je m'en suis servi une fois pour m'aider dans la réalisation d'un texte. Mon père me raconte des souvenirs d'enfance et je les retranscrit sur papier (d'abord dans l'ordinateur). Je n'étais pas satisfait du résultat, c'était fade. Désespéré, j'ai demandé à Chatty de me récrire l'histoire. J'ai ainsi pu repenser mon texte en m'inspirant du vocabulaire et de certaines idées de Chatty. Il y a maintenant plus de réalisme et de vie dans cette anecdote. Mon père l'a validée.

Avant je pensais que science allait de pair avec l'éthique. La recherche de la vérité élevant l'esprit du scientifique au-dessus de la mesquinerie. Maintenant je suis un peu moins naïf et je ne suis pas étonné que certains, volent, plagient et dorénavant utilisent les IA pour tricher sur leurs compétences. Bien sûr ils vont se justifier, ils ont besoin de subventions pour continuer la recherche et les subventions sont corrélées aux nombres d'articles écrits et au nombre de fois où l'article est cité dans la presse. Donc ils sont dans l'obligation de dévoyer le fonctionnement à leur profit. Moi je dirais que c'est plutôt pour satisfaire leur égo et avoir un salaire à la fin du mois. Ce comportement n'est pas venu avec Internet et l'IA. Dans "La planète des singes" Pierre Boulle décrit une catégorie de scientifiques qui se plagient entre eux pour se faire mousser. Cela arrange bien certains éditeurs dont la déontologie est le cadet de leurs soucis.

Cela ne semble pas être le cas de ScienceDirect d'après ce que j'ai pu voir en effectuant quelques recherches. Je ne connaissais pas.

J'ai  trouvé un truc qui m'a fait rire : "Ce site est évalué comme fiable par les IA de France Verif". De là à penser que les IA complotent contre nous...

Plus sérieusement, vu le nombre d'articles écrits dans le monde, cela doit être dur de trouver des évaluateurs compétents qui ont le temps de lire correctement les articles. Probablement que les scientifiques mettront en place un panel d'IA pour évaluer les parutions (articles, thèses, livres). Les scientifiques sont conscients du problème, ils ne vont pas rester les bras croisés.

J'ai déjà lu plusieurs articles dénonçant cette utilisation pernicieuse de l'IA. J'ai même vu un tableau dont les données auraient été falsifiées ou inventées pour correspondre à la réponse souhaitée.

Cette réponse a été rédigée par une IO.