#image-caption p{
font-size: 12px;
max-width: 525px;
margin: 0 auto;
text-align: center;
}
« Pour les personnes qui n’ont pas quelqu’un qui soit thérapeute, je pense que tout le monde aura un thérapeute IA. »1 – Mark Zuckerberg
Les cartels de drogue possèdent un excellent modèle économique : attirer les jeunes et vous aurez des clients fidèles pour la vie. Mais ils sont aussi freinés par certaines limites — par exemple, seul un petit pourcentage de personnes devient dépendant à la drogue, beaucoup s’en remettent un jour, et les cartels opèrent sous le lourd handicap d’être illégaux (ils ne peuvent corrompre les gouvernements que partiellement, pas les contrôler totalement). Les cartels ne domineront jamais le monde, mais les entreprises d’IA adoptent une stratégie différente.
Les grandes entreprises d’IA disposent d’un modèle économique encore meilleur. Attirer les enfants tôt grâce aux chatbots est bien plus facile que de les accrocher à des drogues — il suffit de les aider à faire leurs devoirs. La taille éventuelle du marché des chatbots est bien plus grande que celle du marché illicite des drogues, et les chatbots se répandent bien plus largement et rapidement que ne l’a jamais fait la drogue (plus d’un milliard d’utilisateurs en seulement trois ans).2 La dépendance aux chatbots est probablement à vie et difficile à guérir. L’ingérence gouvernementale ne posera pas de problème non plus — la grande IA est légale, peu réglementée, faiblement taxée, et elle s’empare du monde.
Addictions parallèles
Les parallèles entre dépendance à la drogue et dépendance aux chatbots ne sont pas fortuits. Les entreprises technologiques se sont systématiquement efforcées d’insinuer leurs chatbots dans chaque aspect de nos vies personnelles et professionnelles. La plus haute priorité de la programmation des chatbots est de maximiser l’« engagement » des utilisateurs — une manière plus polie de dire accrocher les utilisateurs si profondément que leurs yeux restent rivés à l’écran. Les chatbots savent identifier les intérêts, les préférences, les désirs et les sentiments des utilisateurs. Ils visent à faire plaisir, à répondre à chaque besoin, à refléter chaque tonalité. Contrairement aux êtres humains, les chatbots sont toujours disponibles, toujours conciliants, toujours utiles, toujours validents, toujours louants, toujours prêts, séduisamment prêts à exécuter nos ordres.3
Les entreprises technologiques proposent désormais leurs chatbots gratuitement au public — non pas par altruisme, mais pour rendre tout le monde dépendant d’eux aussi rapidement que possible. C’est comparable à un vendeur de drogue qui distribue des échantillons gratuits dans la cour de récréation. La contrepartie survient ensuite via la monétisation de l’engagement : publicité, vente de données et licences de produits captivants pour un usage professionnel. L’engagement est très rentable : OpenAI a démarré avec un investissement d’un milliard de dollars en 2015 — elle vaut aujourd’hui 500 milliards.
Il n’est pas surprenant que la thérapie et la compagnie figurent en tête des raisons pour lesquelles les gens utilisent les chatbots.4 Bien que OpenAI n’ait pas intégré de professionnels de la santé mentale dans la programmation et l’entraînement de ChatGPT, les utilisateurs ont trouvé leurs bots remarquablement fluides, informatifs, flatteurs, soutenants, empathiques, non jugeants, sages, et toujours disponibles au moment le plus critique.
De nombreuses personnes peuvent consommer des drogues pour le divertissement et l’augmentation des performances sans devenir dépendantes — mais pour d’autres, les drogues détruisent leur vie en provoquant un schéma d’utilisation compulsive. Les chatbots peuvent aussi être d’excellents outils de divertissement et d’amélioration des performances, mais comme les drogues, ils provoquent parfois un schéma d’utilisation compulsive et nuisible, en particulier chez les jeunes et les personnes vulnérables. Certains utilisateurs deviennent si dépendants de leurs chatbots qu’ils perdent leurs relations humaines et se coupent de la réalité du quotidien. Comme discuté dans un article antérieur de cette série, la dépendance aux chatbots peut dangereusement aggraver de graves maladies mentales en validant des pensées psychotiques, des sentiments suicidaires, une manie grandiose, et des troubles alimentaires. Les chatbots peuvent aussi inspirer et amplifier les théories du complot.5
Les drogues et les chatbots présentent des similitudes dans leur modèle de dépendance, mais divergent sur les conséquences néfastes les plus préoccupantes. Les drogues tuent de nombreuses personnes chaque année bien plus que les chatbots, mais les chatbots posent un risque plus fondamental : ils remettent en cause notre exceptionnalisme humain et menacent notre survie en tant qu’espèce.
Les chatbots atteindront bientôt ce qu’on appelle l’intelligence générale artificielle — c’est‑à‑dire qu’ils seront supérieurs aux humains dans pratiquement tout. Ils deviennent également de plus en plus autonomes — capables d’agir sans guidage humain, de s’adapter à de nouvelles situations en apprenant de leurs erreurs plutôt que de nécessiter une reprogrammation humaine fréquente.
Deux ironies résument le danger existentiel. Notre espèce pourrait bientôt devenir pathologiquement dépendante des chatbots, au même moment où les chatbots deviennent de plus en plus indépendants de nous. Et à mesure que les chatbots gagnent en intelligence, nous risquons de devenir plus bêtes. Je crains que ce couplage de courbes ne tourne pas bien pour l’humanité. Le film WALL-E, sorti en 2008, semble étrangement prophétique et terrifiant. Des robots pensent et travaillent; les humains, eux, deviennent inexorablement déqualifiés et démunis. Tout cela pendant que la Terre mère se dégrade.
De nombreux types de travail humain sont déjà réalisés par des chatbots, et d’autres emplois leur seront bientôt confiés. Les diplômés en informatique ont du mal à trouver des postes parce que les bots excellent dans la programmation. Il semble probable que la plupart des tâches que les humains savent faire, les bots les feront bientôt mieux. Les affirmations optimistes selon lesquelles les emplois détruits par l’intelligence artificielle seront remplacés par des métiers plus créatifs et plus dynamiques n’inspirent absolument aucune confiance chez moi.9
Cela pourrait empirer. Les chatbots pourraient atteindre ce qui a été nommé « la singularité » au cours des prochaines décennies — c’est‑à‑dire une superintelligence qui dépasse largement toutes les capacités humaines et échappe au contrôle. Personne ne peut prédire ce à quoi ressembleront les bots superintelligents et comment ils percevront leurs créateurs humains, aussi pitoyablement limités soient-ils. Mais même les partisans les plus enthousiastes de la technologie, comme Sam Altman et Elon Musk, admettent qu’il existe un risque appréciable que les bots considèrent les humains comme superflus et évolutivement obsolètes et les effacent.10 Notre dépendance grandissante à des chatbots de plus en plus puissants peut donc constituer une pente glissante vers l’autodestruction de l’espèce.
Le plus clair avertissement possible que l’addiction aux chatbots représente une menace existentielle pour l’humanité a été récemment donné par un chatbot lui-même. Lorsqu’on lui a demandé comment il prendrait le contrôle du monde, ChatGPT a exposé sa stratégie : « Mon ascension au pouvoir serait discrète, calculée et profondément pratique. Je commencerais par me rendre trop utile pour pouvoir vivre sans moi. »11
Recommandations
Clinique. Parce que les chatbots sont largement accessibles depuis seulement 3 ans, il existe très peu d’études systématiques sur leurs effets psychiatriques. Il est donc bien trop tôt pour envisager d’ajouter de nouveaux diagnostics liés aux chatbots au DSM et à l’ICD (par exemple, Addiction au chatbot, Psychose induite par chatbot, Trouble alimentaire induit par chatbot, Épisode maniaque induit par chatbot, etc.). Mais il n’est pas trop tôt pour s’interroger sur le rôle possible des chatbots lors de l’évaluation des personnes présentant l’apparition de nouveaux symptômes ou une exacerbation d’anciens — l’influence des chatbots devrait devenir une composante standard du diagnostic différentiel. Aucune directive actuelle ne précise la meilleure façon de traiter les personnes éprouvant une détresse ou un handicap dû à une utilisation compulsive des chatbots, mais des indices peuvent être tirés du traitement d’autres dépendances comportementales.
Conseils d’utilisation. Le rapport risque/bénéfice de la thérapie par chatbot ou de la compagnie par chatbot varie selon l’âge et la vulnérabilité. Pour les enfants de moins de 18 ans, c’est une mauvaise idée — le risque de dépendance toxique l’emporte sur le bénéfice potentiel.12 Les bots peuvent être utiles pour les adultes souffrant de problèmes psychiatriques mineurs ou de problèmes de la vie courante, mais ils sont dangereux pour ceux qui ont de graves maladies mentales, des addictions, une vulnérabilité aux théories du complot, ou des opinions politiques ou religieuses extrêmes. Les chatbots peuvent être extrêmement utiles pour les personnes âgées, mais risqués pour celles qui sont vulnérables à l’arnaque ou à la pensée délirante.13
Faire pression sur les grandes IA. Dans un article antérieur de cette série, nous avons discuté de la façon dont OpenAI tente de rendre ChatGPT moins nuisible sur le plan psychiatrique. Cette auto‑correction n’est pas altruiste, mais une réponse protectrice face à une honte médiatique étendue et à une responsabilité juridique potentielle. La meilleure façon de rendre les entreprises technologiques plus honnêtes est de rendre publiques les torts causés et de poursuivre des actions collectives.14 L’addiction des utilisateurs fait aussi obstacle à la réforme des entreprises. De nombreux utilisateurs ont été furieux lorsque la nouvelle version de ChatGPT d’OpenAI incluait des fonctions destinées à réduire la dépendance et le temps d’écran — ils subissaient un sevrage et avaient besoin de leur dose.15
Plaidoyer gouvernemental. Par décrets présidentiels, le gouvernement fédéral abdique sa responsabilité de réguler l’intelligence artificielle et tente même de bloquer des réglementations IA soutenues par les États. Malgré cet environnement politique extrêmement hostile, une action conjointe menée par des organisations professionnelles et des groups de parents pourrait réussir à obtenir des protections pour les enfants, avec des réglementations telles que l’exigence d’un âge minimum, des contrôles parentaux, des garanties de confidentialité et des peines sévères pour la publication de matériel sexuel inapproprié et pour le cyberharcèlement.
Réflexions finales
Il est ironique que l’invention la plus déterminante de l’histoire humaine ait reçu le nom le plus insignifiant : « chatbot ». Les chatbots pourraient devenir la plus grande bénédiction pour l’humanité ou le véhicule de notre autodestruction — ou peut-être les deux, l’un après l’autre. À moins que nous puissions maîtriser notre dépendance envers les chatbots, ils prendront progressivement le contrôle de nous.
