Que je sache, aucun média n'explique quoi que ce soit sur le fonctionnement de l'AI, et même les revues scientifiques sont assez élusives sur ce sujet. La plupart des gens qui en parlent agitent des dangers, imaginaires ou réels, mais sans indiquer comment ces dangers peuvent se contrétiser.

Ce que l'on appelle l'AI aujourd'hui, ce ne sont pas des ordinateirs classiques, dits de Von Neuman, qui éxécutent des instructions écrites dans un programme. Ce sont des réseaux de neurones artificiels, auxquels on apprend des tâches. Quand, avec notre cerveau, on apprend à conduire un vélo, cela programme un groupe de nos neurones à effectuer cette tâche. Les AI font la même chose, mais avec des neurones artificiels, électroniques. Les circuits ont alors des fonctions d'apprentissage intégrées, et l'apprentissage est alors très bref. Personellement, je connais la chose depuis longtemps, je me souviens avoir été fasciné par l'article sur le Perceptron de Rosenblat (1957! mais probablement paru quelques années plus tard). J'ai plusieurs fois réfléchi sur la chose, mais sans résultats concrets, faute de moyens.

Je pense que le fonctionnement du cerveau, par apprentissage neuronnal, fait partie de la culture générale indispensable: c'est comme ça que l'on peut guérir nos névroses. Et quand je discute avec ChatGPT, je trouve que les erreurs qu'il fait sont très... humaines.

Le problème est que très peu de gens savent cela, qu'ils parlent de neurologie, de psychologie, d'éducation, de spiritualité, pourtant tous basés sur l'apprentissage neuronal. Et les médias semblent tout autant ignorants. Et cette ignorance se traduit par une ignorance d'égale mesure du fonctionnement des AI, de comment on les programme, etc.

Alors quand on en vient aux possibles dangers des AI, on brandit des dangers imaginaires, mais cette ignorance ne prépare en rien aux dangers réels.

Cesdangers on les voit pourtant déjà à l"oeuvre, par exemple dans les AI (algorithmes) qui nous proposent des vidéos dans Youtube,, ou des groupes dans facebook. Ce dernier me propose systématiquement des groupes conspis ou climatosceptique, alors que je n'ai jamais manifesté mon intérêt pour ce genre de choses. Il est clair que quelqu'un manipule les résultats.

Mon roman sur comment les AI prennent le pouvoir... (URL corrigée, désolé pour l'erreur). Attention contenu entièrement original, je n'ai repompé personne (les antécédants sont discutés).

Ajouté: suivre la réponse de Rachel Runner, puis Aurélie Chan, pour ma ttentative de voir "comment ça marche".

J'ai récemment écouté B.Bayart en parler simplement, pas le temps de résumer plus de 2h d'entretien ^^

https://www.thinkerview.com/benjamin-bayart-intelligence-artificielle-bullsht-pipotron/

Je pense que les personnes de mon entourage n'y connaissent globalement rien, à part quelques exceptions.

Je n'ai jamais vu de débat d'opinion à propos du fonctionnement de l'intelligence artificielle, juste des articles explicatifs.

Un fonctionnement que personne ne connait entièrement.

En ce qui concerne le fonctionnement, personne ne maîtrise entièrement le sujet. Un informaticien sera peut-être spécialiste d’une petite partie, mais s’appuiera sur sa culture générale informatique pour le reste. Il aura entendu parler de pas mal de chose, mais sera en général incapable de travailler sur les systèmes. Les articles des médias concernant le fonctionnement s’appuient sur une culture informatique, et essayent de traduire les propos des spécialistes de façon intelligible pour le plus grand nombre.

Le fait de ne pas vraiment comprendre le fonctionnement n’est pas important si on comprend les enjeux.

La réflexion sur les enjeux.

L'entreprise avant tout.

Pour ce qui concerne les domaines d'application, on met l'accent dans les médias sur ce qui concerne la recherche, les jeux, et le grand public, mais le domaine d'application numéro 1 est en entreprise. On investit dans l’informatique pour faire des économies en supprimant du personnel, ou pour bâtir des fortunes en diffusant de manière massive ses produits. Ce n’est pas nouveau, c’est juste la même tendance qui continue

La difficulté de saisir tous les enjeux.

Le système n’est pas viable car il est basé sur la destruction de notre espace habitable, mais ce n’est pas l’objet de la question, qui portent spécifiquement sur ce qu’on appelle « Intelligence artificielle ».

Cela doit exister, mais je ne connais pas d’article expliquant tous les enjeux. Il faut en lire plusieurs pour commencer à avoir une vue complète, mais ce n’est pas mal expliqué dans les médias.

Voici quelques uns des enjeux dont on ne parle pas toujours assez. Il y en a d’autres que je ne cite pas ici, comme celui de se demander si l'humain risque de perdre le pouvoir.

Des résultats inexacts.

Les IA qui fonctionnent par auto-apprentissages donnent des résultats inexacts. Avant les calculs informatiques pouvaient être précis avec 3000 décimales, mais ce n’est plus le cas. Il est facile de trouver des exemples ridiculement faux avec Chagpt, mais c’est le cas aussi avec les logiciels d’échec. Ils jouent mieux que les humains, et on peut trouver que l’objectif est atteint, mais la version suivante du logiciel dans un an jouera encore mieux. La réponse qu’on trouvait bien en 2021 ne sera plus valable en 2023. Par construction on abandonne l’idée d’un résultat garanti.

Des résultats qu’on ne sait pas expliquer ou contrôler

Si on prend l’exemple du jeu d’échec, un humain ne sait pas vérifier que l’ordinateur a bien fonctionné. La seule possibilité est de créer un autre programme en regardant si les résultats convergent. On se trouve dans la position des Grecs de l’antiquité qui comparaient les résultats des oracles en faisant appel à plusieurs d’entre eux.

Comme il est exclu qu’un système informatique n’ait jamais de bug ou ne déraille jamais, ceux qui proposent un système devraient systématiquement décrire les procédures de contrôle et de suivi qualité, mais ce n’est jamais expliqué.

Les limites du système.

C’est de plus en plus coûteux, avec une consommation en énergie de plus en plus importante. Cela contribue à destruction de notre espace habitable. Ceux qui s’appuient sur des exemples humains ont la difficulté d’avoir un référentiel suffisamment important et de pouvoir en contrôler la qualité.

La réponse à la question est que les personnes de mon entourage peuvent se sentir écrasé par le système qui va à sa perte, mais peuvent aussi essayer de tirer parti des diverses innovations qui surviennent.

La question est intéressante, mais je crains qu'elle n'ait pas de réponse simple.

Quand on parle d'intelligence artificielle à Tata Jacqueline, pour elle c'est un truc qui donne des réponses à des questions; à tonton Marc, c'est un truc qui fait des jolis dessins; à mon petit fils , c'est un truc génal qui fait les devoirs à sa place (!!), pour Paulo le syndicalo, c'est truc de geek qui va lui piquer son boulot (re-!!, il est cariste) etc, etc...

En réalité tout le monde a raison... et tort.

-------------

Peu importe le détail du fonctionnement des réseaux neuronaux, et autres algoritmes (encore un mot valise galvaudé à tout bout de champ)... S'il faut retenir une seule chose, c'est que l'IA SIMULE l'intelligence humaine.

Eh oui, cette damnée IA... elle simule... (non, pas de blague sexuelle, je vous prie 😊)

Ce n'est pas vraiment expliqué dans la presse généraliste, car dès qu'on veut creuser un peu, c'est un terrain carrément impraticable. Essayons quand même de débroussailler un peu.

👉 La définition de base est définie ainsi par l'ISO L’intelligence artificielle est « un domaine technique et scientifique consacré aux systèmes techniques qui génèrent des sorties telles que du contenu, des prévisions, des recommandations ou des décisions pour un ensemble donné d'objectifs définis par l'homme »ISO/IEC 22989:2022

👉 Car cette IA est partout, notamment dans nos téléphones et applications mobiles, où elle exécute des tâches courantes telles que de la reconnaissance faciale, de la reconnaissance vocale, du filtrage antispam, des suggestions grammaticales et de la traduction dans différentes langues.

💡 Si vous souhaitez un peu de détail sur les fondements de l'IA, vous pouvez jeter un oeil,e t qui vous dennera une vue d'hélicoptère sur les concepts de base: machine learning, deep learning, le NLP: Natural Language Processing, les réseaux neuronaux

Si on voulait résumer et faire simple, on peut distinguer 3 grands types d'IA:

1. L'IA Faible:  reconnaissance d’image, processeurs de langage naturel, générateurs d’images, Siri, Google Assistant et Alexa, etc ... Cette techno peut puissent comprendre des commandes vocales et y répondre, emais pas question par exemple d'établir des diagnostics médicaux précis.

1. L'IA des machines réactives: Elle réagit a des stimuli. Tels que les filtres antispam, les systèmes de recommandation qui enregistrent votre comportement et vous indiquent ce que vous pourriez aimer regarder ou acheter 

1. L'iA à mémoire limitée: c'est l'étape suivante. Stocker des connaissances, en tirer des enseignements et les exploiter pour accomplir de nouvelles tâches. Effectuer des prévisions, définir/prédire les futures tendances (finance/météo). Il s’agit du type d’IA le plus utilisé aujourd’hui, notamment dans les chatbots et les voitures autonomes.

(Crédit photo Adobe Stock - Firefly)

Ah mais oui, mais la fameuse IA générative, c'est quoi?

Selon Adobe, l'IA générative est une sous-catégorie de l’IA faible,

Mais elle offre un éventail de possibilités de création de contenu plus large.

Entraînée sur d’énormes jeux de données, l’IA générative reconnaît des schémas dans ces données et en tire des conclusions.

Elle peut ensuite extraire une description, puis appliquer ce machine learning pour créer des schémas et produire du contenu inédit.