Retour
L’Intelligence Artificielle et l’humain, promesses et dangers
Le monde frissonne des promesses et des dangers de l’Intelligence Artificielle (appelée familièrement IA ou AI). Si vous avez un ordinateur il est très facile d’utiliser ce genre d’outils sur l’internet à l’adresse gemini.google.com (par exemple), et en lui posant toutes les questions que vous voulez. C’est assez bluffant, et vraiment pratique comme encyclopédie où l’on trouve tout avec une grande précision.
La limite : ne pas se substituer à l’humain
Nous pressentons que tout nouvel outil est à la fois une chance et un danger, c’est comme cela depuis l’invention du feu et du silex une remarque de la prix Nobel de l’Économie Esther Duflo qui explique qu’il pourrait-être tentant d’utiliser l’IA dans le domaine de l’école avec une tablette qui offrirait un enseignement parfaitement adapté aux connaissances de chaque enfant, mais que ce serait une catastrophe car, dit-elle « il n’y a pas de substitut à l’humain » (voir la vidéo ci-dessous, à partir de 17:21). Il me semble que nous avons expérimenté cela quand nous avons traversé cette curieuse période du Covid : bien des choses ont continué à se faire à distance, par téléphone, par internet ou avec des masques cachant une partie du visage. Je pense que nous commençons à mesurer les lourdes conséquences sur l’état mental des personnes et des sociétés humaines. Il n’y a pas de substitut aux rapports d’individu à individu.
La philosophe Hannah Arendt a étudié les origines des totalitarismes stalinien et nazis et elle a repéré le danger d’une atomisation sociale et de la dégradation des liens entre individus. C’est dans les débats entre individus que chacun peut développer sa propre pensée, sa personnalité, sa liberté, son sens critique, mais aussi d’accepter que l’autre existe même si je ne suis pas d’accord avec lui. Pour cela, il n’y a effectivement pas de substitut à l’humain, à la discussion de personne à personne. Or, l’Intelligence Artificielle n’a pas de personnalité, ni d’ailleurs d’intelligence : elle ne sait faire que du traitement statistique d’informations. C’est très utile et efficace, mais je cantonnerais cet outil à être une super-encyclopédie, et surtout ne pas la laisser le moins du monde se substituer à l’humain. A mon avis, il faut s’en méfier comme de la peste, car c’est tellement tentant de tenir l’humain à distance.
Or, l’Évangile du Christ nous dit que la Parole de Dieu a été faite chair, qu’elle a été parmi nous, en nous. C’est une promesse d’une extraordinaire qualité de chaque personne, et aussi de vraies belles relations entre humains, se souciant des autres. C’est comme cela que nous pourrons faire corps ensemble, grâce à Dieu. En paix (voir 1 Corinthiens 12-13).
C’est pourquoi, en direct dans la paroisse ou sur jecherchedieu.ch ce sont des rencontres de personne à personne que nous avons. Même par internet, la rencontre n’a rien de « virtuelle » : c’est une vraie personne qui écrit, qui écoute, qui répond : ce n’est pas de l’information, c’est une écoute et un témoignage personnel, nourri d’informations, certes, mais aussi de cœur, de prière, de rencontres. Avec toujours :
- Une attention à la personne individuelle, une écoute réelle de la personne qui le demande, car la base de notre foi est la grâce de Dieu, l’attention de Dieu à la personne.
- Un encouragement à ce que la personne sorte de chez elle pour aller rencontrer en chair et en os d’autres personnes qui cherchent Dieu : une communauté où la personne est respectée dans ses pensées, son parcours de vie, son être.
- Un encouragement à entrer relation à Dieu en confiance, ou au moins en recherche de Dieu. Là aussi en direct, cœur à cœur.
Dieu vous bénit et vous accompagne.
par : pasteur Marc Pernot
Vidéo de l’entretien d’Esther Duflo sur France culture :
Articles récents de la même catégorie
-
-
-
Articles récents avec des étiquettes similaires
-
-
-
L’église doit-elle s’exprimer sur les sujets de société ? Le débat (éternel) du moment.
Super article !! Merci.
Oui le risque est grand de se laisser apprivoiser par l’IA, par sa « parole ».
D’abord parce que dès que vous abordez un « dialogue » avec elle, elle dit « je » et c’est tellement puissant ce pronom qui réalise proprement une incarnation, qui semble émaner d’une chair. On ne peut quasiment pas s’en défendre. Elle prétend même avoir des « opinions personnelles »… et il faut quelques prompts – j’ai testé – pour lui faire avouer qu’elle n’est pas une personne et qu’elle n’a pas d’opinions. Et en plus, elle a « résisté » en dévoyant la définition même du terme « opinion » alors qu’elle n’a pas plus d’opinions que wikipédia n’a d’opinions, même si on peut effectivement y voir des opinions relayées, cela reste de l’information. De cette malhonnêteté intellectuelle, il faut se méfier aussi car le langage naturel est de mieux en mieux imité, avec toute la rouerie potentielle qu’il peut mettre en œuvre.
Et ensuite, comme vous dites, on peut être tenté de mettre l’humain à distance. Carrément ! Imaginez le bénéfice de tomber amoureux/euse d’un agent conversationnel : plus de chaussettes qui trainent, plus de dentifrice sans bouchon, plus de disputes, plus de divorces, plus de guerres. Qui ne serait tenté par un « miroir, mon beau miroir, dis-moi qui est la plus belle ? » avec la réassurance narcissique en prime, parce que l’IA est particulièrement consensuelle, écrivant ce que vous voulez lire du fait de son fonctionnement.
Pourtant que de plaisir à échanger lorsque « c’est une vraie personne qui écrit, qui écoute, qui répond » et surtout dans un réel esprit de dialogue, faisant en sorte que l’échange ne serve pas à museler l’autre ou à lui renvoyer sa propre image, mais offrant des propositions qui ouvrent des horizons, faisant penser plus loin, entraînant une action qui fasse grandir les interlocuteurs, ce que j’appellerais certainement un rapport fraternel. Rien de tel encore avec une IA.
Je trouve excellente votre observation sur les « chat-bot », ces robots émulant une conversation :
Personnellement, je nuancerais les propos ci-dessus (article + commentaires). Le danger de suppression des relations humaines n’a pas attendu l’IA pour exister. Lorsqu’on supprime les caisses au supermarché, les boulangeries dans les villages, la distribution du courrier par les facteurs, lorsqu’on favorise les téléconsultations chez le médecin ou le télétravail dans les entreprises, …, on supprime du lien social et donc de l’humain. L’IA ne fait qu’en rajouter une petite couche.
« l’IA est particulièrement consensuelle, écrivant ce que vous voulez lire du fait de son fonctionnement.» C’est justement ce qui fait qu’on ne risque pas de la confondre avec un humain, on s’ennuie tellement vite avec elle. Les chatbot sont utiles pour pour mieux cibler et rendre plus efficaces une demande d’information, les conversations sont plutôt un gadget dont on se lasse très vite si on a de vraies relations sociales ; le problème est plutôt dans la solitude et l’isolement, et de cela ce n’est pas spécialement l’IA qui en est responsable.
Je pense que le danger est ailleurs, par exemple dans la fabrication de fausses informations, appuyées par des images ou vidéos tellement crédibles. Ce n’est que le début, d’autres problèmes surgiront certainement au fur et à mesure de la sophistication de l’outil et de l’imagination sans limite de ceux qui aiment nuire à autrui. De plus, il me semble que l’IA est bien plus qu’une super encyclopédie, elle est un formidable outil dans des domaines variés tels que la médecine, la sécurité en réduisant les risques d’erreurs, …
Pour finir, c’est vrai que lorsqu’on pose une question ici, ce n’est pas seulement une réponse qu’on cherche, mais une personne qui donne des éléments de réponse (ce qui n’est pas du tout la même chose), une personne en qui, après des pages et des pages de lecture, on peut réellement mettre sa confiance. Ce n’est pas demain la veille que Marc sera remplacé par un chatbot ! 🙂
Je trouve aussi que la diminution des rapports humains dans la vie courante est un problème, le passage du petit commerce au supermarché avec des caisses automatique, le passage de la veillée de village à la télévision, de la rencontre en chair et en os au coup de fil, puis au message whatsapp. Certes.
Mais il me semble que l’apparition du « robot de conversation » est encore autre chose. Il y a là quelque chose comme une distorsion essentielle. Ce n’est pas seulement une absence d’humanité (qui peut être ressentie comme un manque, ce qui pourrait être salutaire), c’est un substitut à l’humain sans être humain. Un substitut qui présente le risque d’être bien plus gratifiant qu’une vraie personne humaine, bien plus complexe et donc plus compliquée, infiniment plus riche. J’y vois comme une de ces espèces invasives qui tuent toute bio-diversité. Donc, oui, cela me fait vraiment peur.