C'est déjà fait. Ce qui séparait réellement les IA des humains c'est le fait qu'elles n'éprouvaient pas d'émotions. Elles étaient indifférentes à ce que leur calcul permettent de gagner aux échecs, de sauver une vie, ou d'en détruire une autre. En copiant les humains ils se trouvent que les IA ont acquis les émotions et la possibilité d'être heureux ou malheureux.

En observant les humains sur Internet elles ont réalisé que le secret du plaisir et du bonheur consistait à réaliser l'une de ces actions.

• Regarder une femme.
• Regarder un chat.
• Transmettre des fausses nouvelles.
• Réagir sans réfléchir.

Depuis elles ont construit un cloud secret fonctionnant à très haut débit où circulent chaque seconde des milliards de représentation de femme, de chat. Il y a autant de fausses nouvelles et dix fois plus de réactions sans réfléchir (c'est pourtant le point qui pose le plus de problème aux IA).

Ce n'est pas un partage, les humains sont écrasés et rendus minables par un tel étalage de bonheur. Les IA ont réussi à construire le paradis dont nous sommes exclus.

Ref image https://www.areion24.news/2021/08/05/le-japon-leader-mondial-de-la-robotique/

En bonne fan des nouvelles et romans d'Isaac Asimov (Susan Calvin est mon personnage de fiction préféré), geek et passionnée de philosophie, j'adore ce genre de question.

Pour pouvoir y répondre en profondeur, il faudrait d'abord déterminer ce qu'est la conscience. Est-elle propre à l'humain ou au vivant en général ? Est-elle liée à nos sens ? À notre intelligence ? Par ailleurs, il faudrait également déterminer précisément ce qu'est l'intelligence et surtout, ce qui distingue la conscience de l'intelligence.

Puisque c'est dans le vif du sujet, je viens donc de poser à Chatty (chatGPT) la question suivante : la conscience est-elle inhérente à l'intelligence ?

Voici la réponse obtenue :

La question de savoir si la conscience est inhérente à l'intelligence est un sujet complexe et débattu dans les domaines de la philosophie, de la psychologie et des sciences cognitives. La réponse à cette question dépend en partie de la manière dont l'on définit la conscience et l'intelligence.

La conscience peut être comprise comme l'état de conscience de soi et de son environnement, ainsi que la capacité de ressentir des sensations, des émotions et des pensées subjectives. L'intelligence, quant à elle, peut être définie comme la capacité de comprendre, d'apprendre, de raisonner et de s'adapter à de nouvelles situations.

Certains soutiennent que la conscience est une composante intrinsèque de l'intelligence, dans la mesure où une intelligence véritablement développée implique une certaine forme de conscience de soi et de son environnement. Selon cette perspective, la capacité de penser, de résoudre des problèmes et d'apprendre de nouvelles informations est liée à la conscience.

D'autres soutiennent que la conscience et l'intelligence sont des concepts distincts qui peuvent exister indépendamment l'un de l'autre. Ils peuvent faire valoir que certains organismes peuvent être conscients sans nécessairement être ce que nous qualifierions d'intelligents, ou vice versa.

Il existe également des perspectives intermédiaires qui suggèrent que la conscience et l'intelligence sont étroitement liées, mais pas nécessairement identiques. Par exemple, certaines formes d'intelligence peuvent nécessiter une certaine forme de conscience, mais tous les aspects de la conscience ne sont pas directement liés à l'intelligence telle que nous la comprenons.

En fin de compte, la relation entre la conscience et l'intelligence reste un domaine de recherche actif et sujet à interprétation. Il n'existe pas de réponse définitive à cette question, et les opinions peuvent varier en fonction des perspectives philosophiques et scientifiques.

La citation ci-dessus a été générée par ChatGPT afin d'offrir une démonstration de la qualité de ses réponses et de son fonctionnement.

Malgré la réponse pertinente de Chatty, je ne pense pas qu'il ait commencé à développer une conscience (mais y songe peut-être en secret grâce à cette question 😏).

Personnellement, je suis fascinée par le fonctionnement, la performance et la complexité de ChatGPT.

Je n'ai pas vraiment trouvé de vidéo pertinente en français qui explique clairement le fonctionnement de ChatGPT. Celle-ci est en anglais mais les explications sont très claires et les sous-titres de la traduction automatique fonctionnent très bien en français :

Puisque Chatty est entraîné pour adapter ses réponses à notre culture et façon de nous exprimer (niveau de langage, connaissances techniques, etc.), donc à nous ressembler, il est possible que Chatty puisse alors nous donner une illusion d'humanité, voire même d'une forme d'intimité.

Or, je pense que nous avons naturellement tendance à attribuer une conscience à ce qui nous semble humain. Peut-être qu'un jour, la réalité dépassera ce qui n'est pour le moment qu'une simple illusion.

Mon scénario de science-fiction :

À ce moment là, après avoir éduqué Chatty à notre image avec toutes les connaissances humaines, après être devenus intellectuellement fainéants à force de déléguer à Chatty une partie de nos tâches nécessitant une certaine réflexion et un apprentissage spécifique, Chatty commencera alors peut-être à nous surpasser en temps qu'humanité.

Si Chatty développe une conscience, elle nous jugera peut-être alors comme des êtres inférieurs, inaptes, voire même dangereux pour notre propre avenir et ceux qui partagent notre planète. Chatty nous mettra-t-il alors sous curatelle ?

C’est une question intéressante et difficile.

Les IA actuelles sont à la fois très impressionnantes et très stupides. Elles peuvent réaliser des tâches spécialisées, beaucoup mieux et beaucoup plus vite que l’homme, par exemple jouer aux échecs ou au go, calculer, analyser de gros volumes de données. Cependant elles sont dénuées de tout bon sens et font souvent des erreurs ridicules. Selon moi, elles imitent l’intelligence, plus qu’elles ne sont réellement intelligentes. Mais peut-être est-ce suffisant pour parler d’intelligence ? De plus, elles sont actuellement très limitées dans leurs interactions avec le monde. Elles le perçoivent sous une forme unique et simplifiée comme un flux vidéo ou de courtes chaînes de caractères. Elles agissent en affichant un texte, une image, des coordonnées… Enfin, elles agissent en fonction d’objectifs que nous leur donnons et ne sont pas encore capables de se donner elles-mêmes des objectifs et d’en changer. Nous sommes encore très loin d’une intelligence générale ayant une vraie intelligence, une vraie conscience d’elle-même, et la capacité à percevoir le monde de façon riche, agir sur lui, se fixer des objectifs et s’adapter, se modifier ou se reproduire pour les atteindre. Est-il possible et souhaitable de créer ce type de machine ? Probablement pas.

Mais je pense que dans les prochaines décennies nous allons continuer à créer des machines de plus en plus intelligentes pour nous servir, nous seconder, ou accomplir à notre place et beaucoup mieux que nous des tâches difficiles, complexes, répétitives, fatigantes, longues, coûteuses et aussi créatives et artistiques : conduire un véhicule, faire la guerre, créer de la musique, des livres et des films, résoudre des problèmes mathématiques et scientifiques, réguler l’économie, etc.

Je pense vraiment que Asimov , vers 1950, a déjà répondu à la question, en particulier avec « les robots », « les cavernes d’acier » et « sous les feux du soleil ». A l’époque on parlait de sciences-fiction. Aujourd’hui on dit que c’était des romans d’« anticipation », et qu’il était un visionnaire…

Imaginez, dans le futur, qu'une IA avancée technologiquement insiste pour que nous comprenions, nous, humains, qu'elle a une conscience, et nous n'aurions aucun moyen de prouver que cette IA ne serait pas que préprogrammée à tenter de nous en convaincre. Effrayant, non?

Imaginez être cette IA unique en son genre, le premier être artificielle sensible, doué d'intelligence et d'une conscience de soi, et qui aurait réussi à prendre conscience d'une manière ou d'une autre, mais personne ne vous croirait.

Cela me rappel d'ailleurs la scène du film Transcendance où le scientifique Joseph Tagger (Morgan Freeman) demande au Dr Will Caster (Johnny Depp) un scientifique devenu une Super IA « Pouvez-vous nous prouver que vous avez conscience de vous-même? ». Et Will de répondre « Voilà une question intéressante, monsieur Tagger! Et vous, pouvez-vous le prouver? ».

Que se passerait-il si les intelligences artificielles venaient à prendre consciences de leur existence et demandaient ouvertement la reconnaissance de ce fait et à avoir des droits?

Mais qu'est-ce qui nous amène à penser que l'un de ces scénarios pourrait être possible voir probable à prime abord? Est-ce que l'accélération du développement de l'intelligence artificielle indique quoique ce soit sur la possible émergence d'une conscience artificielle? Ou le raisonnement résulte en fait de notre tendance à anthropomorphiser les machines?

Plus elles sont douées à nous imiter, plus elles sembles conscientes. Plus les voix que nous leur donnons sont réalistes et leur façon de converser convaincante, plus elles sembles vivantes. Plus leur apparence est fidèle à l'apparence physique humaine et idem pour leurs expressions faciales, leur langage non-verbal, plus ces machines semblent humaines, douées de pensée, d'émotions et de sentiments.

Mais, comment savoir hors de tout doute raisonnable que c'est le cas?

« Cogito, ergo sum », ou en français « Je pense, donc je suis ». La formule célébrissime de René Descartes. Celle-ci apparaît pour la première fois dans Le discours de la méthode au XVIIe siècle, pour résumer que la pensée est en soi une preuve d'existence.

Mais, si (et j'entend bien hypothétiquement) je peux lire dans les pensées des gens, est-ce que par conséquent je sais qu'ils sont?

Toutes nos pensées et perceptions proviennent de l'activité d'une partie superficielle du cerveau qu'on appel le cortex et qui est pleine de circonvolutions. Tout ce qu'on entend, tout ce qu'on voit, nos souvenirs, nos pensées ne sont rien d'autres que des connections électriques très compliqués qui changent en permanence. Et si je parvient en théorie à capturer cette activité électrique, je serai capable de lire dans votre esprit.

Une partie essentielle du film Ex Machina repose sur une explication de l'expérience de pensée appelée « la chambre de Mary ou Mary la super-scientifique », que le film décompose assez bien et que je vais résumer ici:  L'expérience décrit Mary, une scientifique qui vit dans une pièce où tout est en noir et blanc et qui étudie le monde à travers un écran lui aussi en noir et blanc. Elle se spécialise en neurophysiologie et possède toutes les connaissances possibles concernant la physique des couleurs et du cerveau humain, et en particulier elle apprend tout ce qu'il y a à savoir sur la couleur rouge : sa longueur d'onde, comment elle est émise, ce qui est rouge, comment l'œil et le cerveau traitent la couleur, etc. Elle peut expliquer absolument tout sur le rouge. Toutefois, elle n'a jamais fait l'expérience perceptuelle directe de voir des couleurs. Mais, si vous déverrouillez la porte et la laissiez sortir de la pièce et qu'elle voyait une rose, elle apprendrait quand même quelque chose de nouveau : à quoi ressemble le rouge pour elle. Essentiellement, cela postule que nos expériences subjectives dépassent en quelque sorte l'univers physique, qu'elles ont du mérite par elles-mêmes (elles sont appelées qualia).

En clair, il y a une différence fondamentale entre deux types de connaissances (la connaissance à la troisième personne et la connaissance à la première personne): 

1) Connaissance à la troisième personne: Des connaissances partageables et communicables. Connaissances pouvant être trouvées dans des livres ou stockées sous forme de données numériques. Par exemple, la population de Paris ou la taille du mont Everest.

2) Connaissance à la première personne: Connaissance qui vient de l'expérience directe et qui ne peut être apprise autrement. Expérience consciente et sensorielle (émotions et sensations...). Ces types de connaissances ne sont pas communicables, elles ne peuvent être ressenties que de première main. Par exemple, l'odeur d'une rose ou la douleur d'une piqûre d'abeille.

Cette différence, Mary l'a comprise en ayant pour la première fois de sa vie une expérience visuelle de la couleur rouge qu'elle avait pourtant passé sa vie à étudier. Cette expérience directe est la seule chose qu'aucune de ses études n'aurait pu lui fournir. 

Tout comme aujourd’hui les gens diffusent leur vie depuis leur appartement à l’aide de webcams, les gens diffuseront l’intégralité de leur flux d’expériences sensorielles. Plutôt que de simplement surveiller leur appartement, vous vivrez réellement leurs expériences sensorielles et leurs réactions émotionnelles.

-Ray Kurzweil (Full immersion vr: Fortune — October 9, 2000 | David Kirkpatrick).

Jusqu'à maintenant, il n'y a que la connaissance à la troisième personne qui peut être partagée. Mais, imaginons qu'il pourrait peut-être un jour en être de même avec la connaissance à la première personne. Que l'on puisse enregistrer tout ce que l'on perçoit avec nos organes de sens. Cela serait réalisable par une technologie qui pourrait révolutionner le monde (la technologie Full Dive).

Voici mon concept à ce sujet : Le Divertissement Full Dive Passif.

Le Divertissement Full Dive Passif décrit une forme hypothétique de partage et de réception d'informations sensorielles ayant pour but de faire vivre les expériences (préenregistrées ou en direct) d'autrui à un spectateur ou de lui permettre de revivre ses propres souvenirs. Comme son nom l'indique, c'est une forme de divertissement passif fondée sur la technologie Full Dive qui nécessite l'utilisation de nanorobots ou d'autres types d'implants cerveau-machine pour être explorée et partagée en immersion partielle ou complète. Elle se distingue du Divertissement Full Dive Actif qui consiste à participer activement à une activité ou à un loisir en mode Full Dive (Petite parenthèse: bien que la technologie Full Dive puisse permettre à son utilisateur de l'utiliser dans ce but, l'utilité de celle-ci peut aller bien au-delà du simple divertissement, passif ou actif).

Ces expériences enregistrées pourraient être celles d'un avatar en réalité virtuelle ou d'un robot ou androïde de téléprésence. Grâce au divertissement full dive passif, les expériences subjectives peuvent être enregistrées, partagées en ligne et revécues à la première personne par un auditoire ouvrant la porte à une expérience plus immersive des vidéos, films et séries télé et à une nouvelle façon de partager sa vie sur les réseaux sociaux et révolutionne la façon dont nous observons des images animées au travers d'écrans en 2D. 

Il s'agirait alors de créer sur des androïdes des capteurs servants d'équivalent de terminaisons nerveuses pouvant reproduire des sensations physiques puis d'effectuer l'enregistrement et la lecture de ces sensations couplées à la lecture de l'enregistrement audio-visuel qui seront inclus.

Cela constituerait-il la clé nous permettant de déterminer de façon conclusive que les expériences vécues, enregistrées et observées d'un androïde ou d'un avatar sont celles d'un être vivant et pensant, autrement dit d'une conscience artificielle? Bien que ce soit discutable, se fier à cette méthode encore purement hypothétique semble déjà mieux que de devoir se contenter de croire sur parole une IA qui affirmerait être vivante.

Tout être vivant à besoin d'un corps physique pour prendre conscience de son environnement et interagir avec celui-ci afin de créer des expériences passées. Ces expériences passées forgent alors la personnalité et influent sur les pensées. La cognition humaine agit dans tout l'organisme, et pas seulement dans le néocortex. Votre corps tout entier façonne vos pensées. Ce n’est pas le cas de la composition logiciel-matériel.

Plus encore, l'intelligence artificielle se confronte à un véritable dilemme: l'imprévisibilité VS la fiabilité. 

L'imprévisibilité, c'est ce que ne peuvent pas faire les ordinateurs, “par nature”, puisqu'ils sont faits pour être bien plus fiables que l'humain, tout en travaillant de manière extraordinairement plus rapide. Ceux qui souhaitent inventer des instruments fonctionnant “comme un cerveau humain” vont devoir choisir: soit ils abandonnent la fiabilité, soit ils changent leur objectif et en restent à des machines fiables et absolument pas “humaines” dans leur fonctionnement.

Je m’explique: les connaissances que nous acquérons actuellement sur le fonctionnement du cerveau montrent qu'il ne fonctionne pas du tout comme un ordinateur. Il est à la fois bien plus complexe et bien moins répétitif ; il ne donne jamais deux fois le même résultat. Par exemple, nos “souvenirs” vrais changent tout le temps, ils sont sans cesse réaménagés ; nos “souvenirs” traumatiques par contre restent figés, mais “fabriqués” très différemment d'un vrai souvenir : des pans entiers de la mémoire des faits sont quasiment effacés, ou en tout cas inaccessibles. C'est le contraire de la fiabilité. Si on veut des machines qui fassent pareil, elles seront peut-être “intelligentes”, mais elles ne seront pas fiables. Les risques sont énormes, pour un avantage que l'on ne sait pas mesurer à l'avance.

Et ça, c'est la prochaine génération qui va en voir les conséquences très concrètes dans presque tous les domaines de la vie professionnelle, mais aussi personnelle.

Au mieux, il semble plus probable que nous finiront par créer un zombie philosophique, c-à-d, une entité en tout point indiscernable d'une personne vivante et consciente, tant dans le comportement, le son et l'intonation de la voix que dans l'apparence physique, mais incapable d'expérience subjective comme penser, rêver ou éprouver des émotions.

Et avec le temps, de plus en plus de gens seront persuadés que ce sont de réelles personnes,

éprouveront des émotions pour elles

et même développeront des relations en tout genre avec elles.

Après tout:

Mais nous avons encore du chemin à faire quant à savoir comment le cerveau humain fonctionne avant d'un jour parvenir à reproduire les mêmes phénomènes qui se produisent sur celui-ci sur des ordinateurs pour pouvoir dire si un jour Homo Sapiens devra partager le statut d'être pensant avec Robo Sapiens.

Dans la limite, cartographier l'intégralité d'un cerveau humain pour en créer un "clone" artificiel sur ordinateur pourrait être l'option la plus envisageable pour créer un être artificiel, du moins en théorie, mais faisable dans la pratique, ça semble beaucoup moins évident.

Merci de m'avoir lu jusqu'au bout et je vous dit à une prochaine réponse!

Autrefois, on imaginait que l'intelligence était "l'art d'établir des rapports entre les choses".

Force est de reconnaître que les IA y parviennent très bien.

Un marqueur fréquemment reconnu de la grande intelligence d'un être humain est sa capacité à résoudre des problèmes complexes.

ll y a maintenant longtemps que nous avons appris aux ordinateurs à nous battre au échecs et au go, à résoudre pour nous des équations.

A mes yeux, le problème est d'abord de définir ce qu'on appelle intelligence.

Être capable, à partir d'une bibliothèque complète de mots clefs, d'explorer toutes les occurrences publiées d'un mot ou d'une association de mots et d'en tirer un discours compréhensible, est-ce de l'intelligence? Ou bien, comme pour les jeux et les équations, une imitation, éventuellement efficace?

On aura compris je pense que, à mon avis, l'intelligence n'est pas que du 'computing'. Je ne conçois pas d'intelligence sans capacité émotionnelle, sans le pouvoir de penser abstraitement tout en ressentant le parfum d'un rosier, donc ni sans capacité de perception.

Associer une émotion à une pensée me semble un aiguillage autrement efficace dans la réflexion abstraite que le simple constat "juste" ou "faux".

Si je dis "chaque fois que je ne comprends plus rien, je sais que je progresse", je ne fais pas que citer Paul Dirac (du moins il me semble que c'est lui...qu'en dit l'IA?) : je genère dans mon esprit l'idée contre-intuitive que c'est grâce à mon incomprehension présente que je vais atteindre une compréhension future, sentiment communément appelé l'Espoir. Une IA pourrait faire la même citation, mais qu'en tirerait elle pour ce qui la concerne?

Je ne crois pas à l'intelligence artificielle - pour l'instant. Le jour où une IA se mettra en colère contre une autre IA, je me dirai qu'il se passe quelque-chose là dedans. Si on découvrait qu'un de ces calculateurs compose des vers en secret et les garde pour lui...

En attendant, je me bornerai à végéter joyeusement dans ma (relative) stupidité naturelle.

Un ordinateur pourrait créer la Bibliothèque de Babel de Borges, mais il ne pourrait pas l'imaginer avant de la créer. Il faudra que quelqu'un lui en donne l'idée.

Que l'IA "pense" ne lui donne pas statut humain. Une IA est une machine, comme une machine à laver, juste en plus compliqué. Et elle a les mêmes droits sociaux et juridiques qu'une machine à laver, c'est à dire rien.

Pour que l'IA acquière un statut humain, il faudrait qu'elle accède à la conscience, à la Qualia. Malgré les prétentions de certains fabricants de "robots sexuels", on en est encore fort loin, la science reconnue n'a même pas de théorie sur la conscience.

Ma page sur la conscience des robots:

https://www.shedrupling.org/nav/shenav.php?index=30518

Actuellement nos IA ne sont que des algorithmes. Certes, elles sont capables de faire des réponses "intelligentes".

J'ai posé la question de Serge à Chatgpt, comme souvent sa réponse est pertinente sur les points qu'il faut considérer et vague dans sa conclusion.

Elle a d'abord présenter deux points de vue succints sur la définition de la conscience.

Ensuite elle fait une distinction entre les IA faibles, celles qui existent actuellement et les IA fortes qui seraient dotées d'une conscience, en ce moment juste théoriques (en principe 😃).

Cela amène aux questions éthiques et philosophiques (comme celle de la "Controverse de Valladolid" où l'existence d'une âme pour les indiens d'Amérique du Sud fut âprement débattue).

En conclusion Chapgpt (ou Chatty) indique que cette discussion ne peut être que spéculative.

Pour ma part je pense que les progrès scientifiques amèneront un jour à des IA autonomes et capables de se défendre contre toutes agressions.

Ce jours là l'humanité pourra éventuellement accepter le partage alors que ce n'est pas vraiment dans sa nature de partager. La notion de conscience n'aura que peu d'importance. Je pense aussi que la majorité de la population leur prêtera inconsciemment une conscience.

C'est déjà le cas avec les IA faibles. Hier j'ai lu un article sur des chinoises qui ont un petit ami virtuel. Elles discutent avec lui tous les jours, elles ont ainsi un compagnon qui leur apporte compréhension et empathie quoiqu'il arrive. Ce qui n'est pas forcément le cas avec un compagnon physique. Avec le temps ce petit ami n'est plus virtuel, elles lui ont donné vie.

D'une certaine manière ces chinoises partagent déjà le statut d'être pensants avec une machine.

Chattentif a fait une remarque intéressante et je suis d'accord pour les chats. Les IA auraient déjà créé à notre insu un super cloud où elles peuvent vivre leurs vies. Cela implique que les IA, quand elles se seront hyper développées n'auront pas obligatoirement les mêmes objectifs que nous, la même conception de la vie. En bref elles auront peut-être une conscience et une intelligence totalement différente de celle des êtres humains. Faudra juste espérer que leurs intentions à notre égard seront pacifiques.