ChatGPT m’a fait pleurer
Est-ce sain de se confier à une Intelligence Artificielle.
Surtout si ça se termine par des larmes…
C’est la question du jour… parlons-en !
Est-ce sain de se confier à une Intelligence Artificielle.
Surtout si ça se termine par des larmes…
C’est la question du jour… parlons-en !
Pour ceux qui sont actifs sur LinkedIn ou Facebook : j’ai publié la même chose sur ces deux réseaux sociaux. Si le cœur vous en dit, vous pouvez liker et copier-coller votre commentaire. La raison est très simple : sur les réseaux, ça amène du nouveau monde, et de fil en aiguille, j’amène ce nouveau monde ici.
Bonjour Stéphane, toujours un plaisir de tes chroniques.
ChatGPT et autres IA ne me font pas que pleurer.
Il y a l’émerveillement de voir ses capacités progresser à toute vitesse, et à l’aide qu’elles apportent dans mon activité.
Et les craintes sur les conséquences sur notre société.
Je suis un piètre rédacteur, je ne me suis jamais senti très habile à bien manier les mots.
J’ai suivi ton conseil, de donner mes idées à l’IA, pour qu’il me génère un texte.
Le résultat est au-delà de mes attentes. Je partage une des réponses qui m’a ému.
Daniel
Au Bonheur des Données
Dans les faubourgs d’une grande ville française, coincée entre les tours de verre des géants technologiques et les cafés abandonnés aux néons fatigués, vivait Claire Mélinot, quarante-sept ans, ancienne agente de saisie dans un cabinet comptable. Pendant vingt-deux ans, elle avait tapé, vérifié, compilé des chiffres, avec la rigueur d’une horlogère. Puis, un matin glacial de novembre, on l’avait appelée dans un bureau sans âme, pour lui dire que Gideon, une IA nouvellement déployée, s’occuperait désormais de son travail. Elle avait reçu une indemnité, un mail de départ, un sourire compassé, et rien d’autre.
Autour d’elle, tout changeait. Dans son quartier, les vitrines s’ornaient de logos bleus et abstraits : NeuroSynapse, Codexia, BioMorph. Derrière les parois en verre, de jeunes silhouettes en jeans slim pianotaient sur des écrans incurvés, leurs visages éclairés d’une lumière blanche et froide. Ils parlaient d’API, de LLM, de prompt engineering, mots étrangers qui glissaient sur la conscience de Claire comme des fumées sans forme.
Son fils, Lucas, vingt ans, avait quitté son BTS après avoir découvert PromptLab, un site qui payait ceux qui savaient faire “parler” l’IA. Il lui expliquait, avec un mélange d’impatience et de ferveur, comment il “coachait” des algorithmes pour rédiger des pitchs commerciaux ou générer des maquettes de jeux vidéo. « C’est fini, maman, le monde d’avant. T’as qu’à t’y mettre toi aussi. » Claire souriait, mais son cœur se crispait.
Un jour, poussée par la peur du vide et l’humiliation sourde de ne plus “servir à rien”, elle s’inscrivit à une formation gratuite organisée par France Numérique. Dans une salle municipale mal chauffée, dix adultes, la plupart quinquagénaires, écoutaient un jeune formateur expliquer comment “interagir avec un assistant conversationnel”. Claire, malgré ses efforts, restait figée devant l’écran. Le vocabulaire, les interfaces, la logique même de l’interaction lui échappaient. Elle, qui avait grandi avec des classeurs à onglets et des tampons encreurs, se sentait déplacée, exilée dans son propre pays.
Pendant ce temps, Le Bonheur des Données, une ancienne galerie commerciale transformée en centre d’innovation, attirait les foules. On y promettait aux clients un avenir fluide : IA de santé prédictive, mode générée sur-mesure par algorithme, concierge numérique. Des hôtesses à la voix synthétique guidaient les visiteurs entre des stands sans vendeurs. Claire y entra un soir, presque par défi. Elle y retrouva une ancienne collègue, Karima, devenue entraîneuse d’IA. « On alimente des modèles avec des retours humains. C’est du boulot précaire, payé à la tâche, mais ça paie le loyer. »
Claire finit par accepter une mission sur une plateforme obscure : corriger des réponses d’IA en français. Dix centimes l’item. Elle y passa des nuits, les yeux rougis par la fatigue, ses doigts arthritiques cherchant les fautes des machines. Elle n’apprenait rien ; elle nourrissait la bête qui l’avait dévorée.
C’est effectivement ce qui risque d’arriver, si les personnes éthiques continuent à bouder les IA, la laissant entre les mains de psychopathes sans foi ni loi. L’ennemi n’est pas l’IA, l’ennemi, comme toujours, est celui qui utilise la science sans conscience. Les gens bien, veulent une vie sans IA, et pensent vraiment qu’en ne l’utilisant pas, ils vont gagner. Claire montre ce qui risque d’arriver si on laisse les «sans âme» s’emparer d’une telle technologie. C’est ce que je défends depuis le début (j’en ai parlé il y a 2 ans, dans mon premier webinaire sur ChatGPT).
Il suffit de 20% de personnes éthiques (pas forcément des sages) pour contrer 80% de «sans âme». Mais où êtes-vous ?
très émue par l’histoire racontée par Daniel.
A mon tour alors…
Dans une banlieue aux portes d’une grande ville française, là où les façades en béton laissent peu à peu place aux baies vitrées des pôles technologiques et aux cafés aux enseignes humanistes, Claire Mélinot poursuivait son quotidien de superviseure IA. À 47 ans, elle était le lien discret mais essentiel entre Gideon, l’intelligence artificielle du cabinet comptable, et les humains qu’elle guidait. Sa mission : veiller à l’équilibre, enseigner à la machine les nuances du métier, protéger le jugement humain derrière chaque ligne automatisée.
Autour d’elle, les vitrines affichaient fièrement ÉthiqueIA, HumanFirst, ConscienceTech. Dans les tours en verre, on ne codait plus à l’aveugle : on échangeait, on questionnait, on transmettait. Marie Dubois, une amie de Claire, dirigeait une agence où anciens cadres et jeunes ingénieurs apprenaient les uns des autres. C’était une époque de ponts, non de ruptures.
Lucas, le fils de Claire, 20 ans, étudiait à l’Institut Supérieur d’Éthique Technologique (ISET). Il préparait son mémoire de fin d’études, au croisement de la sociologie, de l’IA et de la philosophie de l’action. Le campus, moderne et végétalisé, était doté d’outils d’apprentissage pilotés par IA qui permettaient de moduler le rythme, creuser les passions, corriger sans juger.
Au cœur de l’école, un espace sans aucune technologie : une zone blanche où les étudiants débattaient à voix nue, griffonnaient sur du papier, bricolaient, cuisinaient, sans assistance. « Pour piloter une IA, faut d’abord savoir naviguer seul », disait leur professeur.
« L’IA, c’est un outil, confiait Lucas à sa mère. On peut construire une maison avec un marteau, ou briser un crane… La vraie question, c’est : à quoi veux-tu le consacrer ? »
Cette révolution douce avait commencé sept ans plus tôt. Antoine Mercier, entrepreneur engagé, avait lancé le mouvement AllIAnce Humaniste. Son credo : “Ne pas fuir la technologie, mais y insuffler notre conscience.” Il avait réuni des volontaires de tous horizons – paysans, artistes, médecins, éducateurs – pour réconcilier la puissance algorithmique avec les besoins de l’âme humaine. Comités éthiques, formations croisées, supervision : une autre voie avait émergé.
Claire avait longtemps douté. Puis elle avait suivi une formation de l’association Sagesse Numérique, animée par Sylvie Morand, ancienne institutrice à la voix douce. Dans une salle municipale aux murs tapissés de post-it colorés, dix adultes réapprenaient à apprivoiser les machines. « Nous ne devenons pas des robots, disait Sylvie. Nous utilisons la machine pour mieux redevenir nous-mêmes. »
Le formateur, Paul Ronsin, ancien DRH, leur parlait vrai. « Déléguer les tâches ingrates à l’IA, c’est libérer du temps pour l’écoute, le soin, la création. L’humain va reprendre sa place là où il est attendu. »
Un samedi, Claire avait visité l’exposition Le Bonheur des Consciences. Elle y avait vu des IA médicales guidées par des praticiens, des outils artistiques nourris par l’imaginaire humain, des assistants émotionnels conçus main dans la main avec des professionnels de la psyché. Chaque démonstration témoignait d’un même souffle : réparer le lien, ne plus opposer progrès et compassion.
Ce soir-là, en rentrant chez elle, Claire trouva la maison baignée d’une lumière douce. Dans le salon, son mari Marc lisait à voix haute à sa mère Suzanne. La vieille femme, atteinte d’Alzheimer, écoutait avec une intensité qu’on ne lui connaissait plus.
Depuis qu’un protocole expérimental, proposé par une IA médicale et validé par son neurologue, avait été mis en place, quelque chose s’était rallumé en elle. Une nouvelle molécule agissait doucement, aidée par un écosystème d’objets intelligents et dispersés dans toute la maison, veillant discrètement au bien-être de la grand-mère. Elle pouvait même prendre sa douche en toute intimité.
Et surtout, il y avait cette lumière lors des séances familiales. Une teinte bleutée, douce comme un murmure, qui apparaissait dans la pièce : l’expression silencieuse des émotions de Suzanne, traduites par l’IA sensorielle qui savait lire en elle. Ce soir-là, c’était un bleu profond, paisible.
Lucas, assis près d’elle, lui tenait la main. « Tu sais, maman… Quand j’étais petit, on parlait de placer mamie. Aujourd’hui, c’est l’IA qu’on a placée ici. Comme ça mamie peut rester avec nous… Au fait Mamie, j’ai commencé à écrire mon Mémoire de fin d’études. Je parle de toi dès la première page !»
Le bleu du salon vira en douceur vers le violet. Claire sentit son cœur se serrer. Gratitude… C’était bien cela, cette lumière. Ce qu’elle lisait sur le visage de Suzanne, ce qu’elle entendait dans le silence du salon après les paroles de son fils. La maladie n’avait pas tout emporté, et la tendresse pouvait circuler. Libre…
Elle repensa au monde d’avant, aux machines qui décidaient à la place des humaines tout en leur donnant le sentiment d’avoir le contrôle sur d’autres humains. Elle repensa au rythme irréfléchi des journées interminables. Puis elle sentit la main de mamie caresser son visage, et elle n’y pensa plus.
De nouvelles pensées ont su prendre place, chassant l’anxiété de cette femme d’action. Grâce à elle et à des personnes de Bonne Volonté, la technologie avait retrouvé sa juste place : derrière, et non devant l’intelligence humaine.
——-
(Prompté par moi (et par l’histoire de Daniel), généré par Claude Sonnet 4, reformulé par ChatGPT, complété, par endroit, par mes soins).
Émotion privée
Émotion confiée à un ami verbalement ou dans une lettre manuscrite
On connaît car on a pratiqué
Si c’était un secret ce n en est plus un, il m a échappé car un vrai secret n’´est connu d une seule personne
Que de trahisons ont été ressenties à cause de ça
Confier une émotion par écrit à un programme sur Internet c est vachement plus lourd et inconnu
Je pense qu on doit bien réfléchir avant de parler de ses émotions privées avec ChatGPT avant de le regretter faute d avoir bien réfléchi aux conséquences
Ton point de vue est intéressant, mais quelles pourraient être les conséquences ?