Ne reproduisons pas notre dépendance aux réseaux sociaux avec l'IA générative

Après un an à résister, je craque... il faut que je parle d'IA !

Alors que la moitié de Substack semble parler de “retour à l’analogique” (quitter les écrans, supprimer ses comptes sur les réseaux sociaux, se déconnecter…), l’autre moitié au contraire nous invite à mettre de l’IA partout dans notre vie.

J’ai connu l’arrivée de Facebook dans nos contrées, son apogée et son déclin auprès des jeunes (pour être remplacé par un tas d’autres réseaux sociaux dans les mains de la même entreprise), et je ne peux m’empêcher de tracer un parallèle entre ces deux phénomènes.

Dans cet article, je parle de la manière dont l’IA générative s’est installée dans nos vies pour devenir une nécessité, mais aussi des raisons pour lesquelles on devrait se montrer prudent·es quand on l’utilise. Je ne mentionnerai pas son impact écologique ou social.

Facebook et ChatGPT : l’histoire d’une adoption de masse qui se répète 20 ans plus tard

D’un côté, les réseaux sociaux. Nous sommes énormément à le savoir : il est très facile d’y développer une addiction, mais beaucoup plus difficile de s’en passer, voire impossible pour certain·es.

Il y a quelques mois, j’avais envie, pour la énième fois, de quitter Facebook. Mais supprimer Facebook, c’était comme me priver de tout un pan social : où est-ce qu’on pose ses questions aux autres habitant·es de son nouveau village, comment est-on au courant des événements et des nouvelles de notre ville, où poste-on ses petites annonces pour vendre une tondeuse ? Je me mets aussi dans la peau des commerçants locaux : où fait-on sa promotion, si on n’est pas sur Facebook ?

On pouvait très bien s’en passer il y a des années, mais aujourd’hui, c’est devenu un incontournable.

J’ai développé toute une réflexion sur les réseaux sociaux et les manières de les remplacer dans un article sur le blog*

Pour celles et ceux qui n’ont pas vécu ce développement :

• D’abord, Facebook était une plateforme gratuite (“et elle le sera toujours”, d’après leur slogan) et simple, avec un but cadré : rester en contact avec ses ami·es et partager ses photos. À son lancement, ChatGPT (je le prends pour exemple, puisque c’est le premier à avoir percé) était aussi simple, totalement gratuit, avec une formule unique pour tout le monde.

• Après la phase d’adoption, Facebook a commencé à ajouter des tonnes de nouvelles fonctionnalités. Il a rendu nombre d’autres sites obsolètes, tout en nous facilitant la vie et en lançant progressivement l’habitude du “tout en ligne” : marketplace remplace les petites annonces punaisées à la librairie du coin, ou les heures passées en brocantes, les événements sur Facebook remplacent les flyers distribués dans la rue ou posés sur un comptoir chez les commerçants du coin…
  De la même façon, ChatGPT a élargi son offre en permettant de demander directement de la génération d’images par exemple, au grand dam des pauvres graphistes qui peinaient déjà à faire valoir leur travail, ou encore des banques d’images en ligne (images autrefois créées par des gens).

• Facebook a forcé son utilisation partout où c’était possible. Le plus flagrant étant probablement la possibilité de s’inscrire et se connecter à des sites et applications en ligne uniquement grâce à son compte Facebook. À l’époque, certains sites étaient inaccessibles à toute personne qui n’avait pas de compte Facebook ou Google, fini le simple “nom d’utilisateur - mot de passe”.
  Concernant l’IA générative… je pense qu’il est inutile de dire qu’on ne nous laisse pas le choix, la tentative la plus flagrante étant le résumé IA proposé forcé par Google quand on fait une recherche. Il y a de l’IA absolument partout, sur tous les sites, dans toutes les applications. Même Reddit s’y est mis, alors que ça restait un des derniers bastions vers lesquels se tourner pour trouver des avis totalement humains et authentiques.

• Entre temps, Facebook a aussi introduit des produits payants, surtout pour le public professionnel (publicités), mais aussi pour les particuliers (boost des annonces Marketplace).
  ChatGPT et ses concurrents n’ont pas attendu longtemps avant de créer des offres premium, de limiter l’accès à certaines fonctionnalités et à donner un nombre de crédits limités aux utilisateur·rices.

• Si Facebook est encore majoritairement gratuit aujourd’hui, c’est probablement parce que la récolte d’informations personnelles est bien trop rentable pour se passer de ses utilisateur·rices (et peut-être parce qu’ils ont fait l’erreur d’afficher publiquement que Facebook serait toujours gratuit ?).
  ChatGPT pioche autant dans le portefeuille personnel que dans les données privées pour se faire de l’argent. Et les pubs arrivent subrepticement…

• Depuis quelques années, l’algorithme de Facebook choisit pour nous ce que nous voyons (comme quasiment tous les réseaux sociaux). Fini de consulter les nouvelles de nos amis et des pages qu’on a choisi de suivre, place au scroll infini !
  Qu’en est-il de ChatGPT ? Impossible à dire. L’idée qu’une IA serait dénuée d’influence humaine est totalement utopique.

La seule grosse différence, c’est la vitesse d’adoption. Quand Facebook a mis des années à s’installer, ChatGPT et consorts se sont imposés en un clin d’œil.

Mais personne ne sait comment fonctionne l’IA

Il y a encore un an environ, j’étais développeuse de logiciels. Par acquit de conscience, j’avais suivi des formations sur l’IA, bien avant le boum de l’IA générative, parce que je voulais comprendre cet ensemble de technologies, même si mon travail n’y était pas directement lié.

Des années plus tard, quand l’IA générative s’est immiscée, sans grande surprise, dans notre travail, j’ai vite remarqué que presque aucun·e collègue ne savait ce qu’il ou elle était en train de manipuler. Je ressors de cette carrière convaincue que quasiment personne, même dans l’informatique, ne comprend vraiment ce qu’est une IA générative.

Je suis persuadée que la majorité des développeur·euses qui intègrent de l’IA dans tous les programmes que tu utilises n’en savent pas plus que toi.

Pourtant, ça me paraît très grave. Ma conviction, c’est qu’absolument tout le monde (même ta tatie qui génère des images marrantes pour Facebook une fois tous les quinze jours avec un IA) devrait avoir des connaissances de base sur les mécanismes qui entrent en jeu (rien de très technique, juste quelques grands principes). Mais savoir qu’énormément de professionnel·les de l’informatique n’y comprennent pas grand chose, c’est quand même effrayant.

Selon moi, on n’aurait jamais dû fournir de tels outils au grand public avec des termes aussi trompeurs et sans éducation préalable (mais, hé, les gens qui ont de mauvais desseins n’éduquent jamais, parce que ça leur desservirait).

Par exemple, quand les gens pensent que ChatGPT et les autres IA génératives peuvent calculer, et s’étonnent des erreurs stupides qui ressortent parfois de ces “calculs”, c’est une preuve flagrante qu’ils ne savent pas ce qu’est l’IA générative. Idem quand les gens utilisent des verbes tels que “penser”, “raisonner”, “comprendre”… en parlant de ces IA. L’IA générative ne fait que piocher dans une énorme base de données de mots, et mettre ces mots côte-à-côte. Qu’elle soit en train de rédiger un e-mail, donner le résultat d’une opération mathématique ou d’écrire du code, il n’y a rien d’autre sous le capot. (Ce n’est plus tout à fait vrai… Comme l’explique une des vidéos courtes mentionnées plus bas, entre temps des sous-programmes ont été greffés au modèle LLM pour pouvoir par exemple faire des calculs.).

Si tu comprends l’anglais, je te recommande entre autres la chaîne Youtube Alberta Tech qui apporte une vision très critique du monde du développement et de l’IA en expliquant ce qui se passe réellement, de manière compréhensible. Voici quelques shorts qui permettent de remettre en question certaines pensées à propos de l’IA et de ce qu’elle “sait” :

• No one knows why AI works

• Why AI “changes its mind”

• Can AI think?

• How OpenAI fixed AI + math

• Why AI sucks at math

• Why can’t AI figure out this math problem?

Dès lors qu’on se rend compte que le vocabulaire utilisé pour promouvoir ces solutions est trompeur, et qu’on ne sait pas grand chose sur ce qui se passe vraiment derrière la génération d’une réponse, ça me semble dangereux de laisser ces solutions se développer sans aucun contrôle.

Le pire, c’est que le mal est fait : même si de futures régulations permettent de forcer les entreprises qui utilisent de l’IA à être plus transparentes sur ce qui se passe réellement, les croyances populaires sont déjà bien ancrées.

L’IA nous rend paresseux·euses

Malgré tous les griefs que j’ai envers l’IA, je ne peux pas le nier : pendant quelques mois, j’avais vraiment du mal à me retenir de l’utiliser dans mon boulot. Et malgré les expériences négatives, j’ai eu du mal à arrêter. Cette habitude s’est installée en quelques mois. Elle a aussi transformé une activité que j’adorais (coder) en une corvée, parce que coder avec une IA était pour moi totalement inintéressant, et même démoralisant.

Pourquoi j’avais du mal à ne pas le faire alors ? Je ne sais pas exactement, un mélange d’effet de mode, d’utilisation répandue autour de moi, probablement le fait que Google s’est débrouillé pour rendre son moteur de recherche complètement claqué au sol, et… la paresse.

Le plus effrayant, cependant, c’est que ça m’a rendue paresseuse dans un domaine où j’adorais fournir des efforts.

Mais j’ai surtout réalisé l’effet catastrophique sur nos collègues qui sortaient tout juste de l’école, sans expérience, et qui étaient incapables de se sortir d’un problème si l’IA ne pouvait pas générer de réponse correcte (je ne sais pas si ça va mieux maintenant, mais il y a un an, c’était toujours la cata d’essayer de développer une application professionnelle avec de l’IA…).

Pire encore, des personnes qui travaillent actuellement en informatique m’expliquent comment des collègues qui ont des décennies d’expérience sont devenus infoutus de faire quoi que ce soit sans IA et on perdu tout leur sens critique, se fiant plutôt à l’IA qu’à de la documentation officielle.

Dans cet épisode de Micode, une chaîne de vulgarisation informatique, l’auteur nous explique entre autres comment son développeur s’est empêtré dans un code impossible à déboguer en se reposant trop sur l’IA.

Si l’IA nous rend paresseux·ses ou ininterssé·es par notre boulot, c’est pas trop grave, tu me diras, tant pis pour le capitalisme. Sauf que c’est aussi comme ça dans notre vie privée ou dans les activités professionnelles qu’on développe pour notre propre satisfaction.

Je vois vraiment souvent des personnes avouer qu’elles utilisent l’IA dès qu’une question point dans leur esprit, incapables de développer leurs raisonnements seules. D’autres encore utilisent l’IA pour se réconforter au moindre doute. Certaines n’essaient plus de se relire et passent directement leur texte à la moulinette pour obtenir une version corrigée.

L’IA nous prive ainsi de notre capacité à apprendre et à nous développer.

C’est la loi du plus simple : on s’habitue à la gratuité apparente sans voir le coût réel, qui est celui d’une dépendance totale.

Les GAFAM parient sur notre fatigue mentale : il est plus simple de rester esclave que de devenir apprenti ailleurs.

Chut! media (Instagram)

Si l’IA disparaît demain

Le gros problème, outre le fait de nous voler notre potentiel d’apprentissage, et de progressivement faire de nous des gens sous-qualifiés, c’est que l’accès à l’IA n’est pas garanti. Aujourd’hui, énormément d’IA génératives sont gratuites et accessibles au grand public, mais personne ne nous a promis que ça resterait comme ça.

J’espère que ce n’était pas un secret pour toi, mais le CEO d’OpenAI est noyé sous les dettes, et son entreprise ne survit que grâce à un réseau d’investissements entre bro de la Silicon Valley, et de la spéculation à outrance. Si, demain, les CEO de Meta, Amazon, Invidia… le boudent (pour rappel, il y a quelques mois, la bromance entre Donald Trump et Elon Musk a pris fin de manière dramatique et soudaine)(fun fact : quelques jours après la publication de cet article, on apprend que Elon Musk intente un procès contre Sam Altman, CEO de OpenAI…), il perd tous les investissements qui lui permettent de garder la tête hors de l’eau et peut mettre la clé sous la porte. Pareil quand le président ne lui donnera plus de l’argent pour développer une IA militaire.

Ça, c’est le scénario optimiste.

Celui qui est plus probable, c’est qu’une fois que tout le monde sera bien accro, incapable d’érire un mail de dix lignes sans IA, les gens qui possèdent ces solutions vont tout simplement les rendre payantes. Toutes, en même temps.

Ils auront tellement de pouvoir qu’ils pourront augmenter leurs prix comme ils le voudront, puisque énormément de gens auront besoin d’elles pour être capables de faire leur travail ou d’écrire une simple carte postale à leur tatie, ou encore de trouver les démarches à effectuer pour renouveler leur carte d’identité. (Tatie est plus maligne, elle utilise juste ces IA pour générer des images débiles pour Facebook, elle ne va pas pleurer quand elle ne pourra plus le faire.)

Si, pour la moindre tâche, ton réflexe est d’utiliser l’IA sans te questionner avant, c’est un gros red flag

L’IA nous dit quoi et comment penser

L’utilisation de l’IA pour nous conseiller sur nos choix de vie est encore plus dangereuse que celle qu’on en fait pour des activités “productives”.

Je me souviens récemment avoir lu le témoignage d’une personne qui disait se sentir “enfin comprise” grâce à ses discussions avec de l’IA. Non seulement, ça démontre une méconnaissance de l’outil, mais c’est aussi inquiétant que ce genre de personne ne se rende pas chez un·e professionnel·le de la santé mentale. Certes, la santé n’est pas accessible partout, à tout le monde, mais il me semble qu’on devrait plutôt plancher là-dessus au lieu de se contenter d’un semblant de solution, ou de défendre ces utilisations malsaines.

Quand on sait qui possède ces modèles d’IA, ce n’est pas rassurant du tout de savoir que des personnes nouent des liens aussi intimes avec ces voix virtuelles.

Il faut bien se rendre compte que ces IA ne sont jamais neutres, et que nous ne saurons jamais à quel point elles sont influencées (à moins qu’il y ait une fuite).

Si les ingénieur·es qui travaillent sur ces IA sont capables de les entraîner à ne pas faire certaines choses (produire des photos p€docriminelles, utiliser le mot n€gre, divulger certaines informations…), techniquement, rien n’empêche de les entraîner pour prendre parti pour l’extrême-droite, propager des idées fausses (ça, elles le font déjà sans que ça ait été programmé), de proposer des idées sexistes, racistes, classistes, de te conseiller de voter un certain parti politique (qui aura graissé la patte au CEO de ce service)…

L’IA n’est pas un outil de curation : si tu laisses l’IA choisir le contenu auquel tu es exposé·e, tu te prives de tout ce qu’elle ne veut pas te montrer, mais aussi d’énormément de nuance. Aujourd’hui, l’expression “le diable se cache dans les détails” pourrait prendre un tout autre sens… C’est en gommant les nuances et en faisant des généralités qu’on peut facilement vendre des discours de propagande et imprimer des idées arrêtées dans les esprits.

J’ai beaucoup aimé cette vidéo (en anglais) où la créatrice raconte qu’elle ne sait plus qui elle est, ce qu’elle pense, ce qu’elle aime… et elle analyse une “crise de l’identité” causée par l’identité en ligne que l’on se crée, mais aussi par les contenus courts et le manque de digestion de l’information, qui fait de nous des perroquets (ça ne parle pas nécessairement d’IA mais je pense qu’on peut de nouveau faire beaucoup de parallèles).

La solution est-elle de laisser tomber l’IA ?

Non, ce n’est pas la seule solution.

Personnellement, je pense qu’on a tout à gagner à laisser tomber ces outils, parce qu’ils ne nous font pas du bien (et encore, j’avais trop de choses à dire pour mentionner l’impact écologique, économique, social… de l’IA générative).

Cependant, on est tous des êtres indépendants et on devrait pouvoir prendre nos propres décisions.

J’espère que je t’ai quand même un peu poussé·e à te questionner, et je te conseille de mettre en place quelques changements dans tous les cas, si l’IA est devenue un réflexe pour toi.

Ne fais pas tout avec de l’IA

C’est important de continuer à développer ton propre esprit critique mais aussi tes compétences, même quand elles paraissent anodines. Tu devrais toujours utiliser l’IA en pensant à l’éventualité qu’un jour, il n’y en aura plus (comme le chocolat, malheureusement).

Récemment, je me suis forcée à développer un plugin pour mon blog Wordpress, dans un langage informatique que je ne connais pas beaucoup, et dans un environnement de développement que je n’avais jamais vraiment exploré, sans jamais utiliser l’IA.

Comme au bon vieux temps, j’ai cherché sur les sites idoines, j’ai consulté la documentation, j’ai créé mon environnement de test, et quand j’ai réussi, je te dis pas quel plaisir et quelle satisfaction ça m’a procuré ! Alors que le développement m’avait complètement blasée dernièrement, j’ai retrouvé ce contentement de faire quelque chose par moi-même, d’avoir acquis des connaissances et compétences que je vais pouvoir réutiliser pour d’autres fonctionnalités.

L’IA promet de simplifier et accélérer nos tâches, mais c’est important de regarder les choses avec du recul : est-ce vraiment le cas ? De nombreuses études récentes ont démontré que l’utilisation d’assistants IA augmentait le stress et rendait le travail moins performant !

“J’ai l’impression qu’on essaie de nous l’imposer de force. C’est comme si on voulait, parce qu’on avait une super béquille, se scier la jambe.” - Ugo Bienvenu, réalisateur

Continue à apprendre

L’apprentissage est l’une de nos richesses, c’est l’une des choses qui permettent de se sentir vivant·e pour beaucoup d’entre nous, c’est une source de satisfaction personnelle, mais aussi un carburant pour notre confiance en soi. Si on se repose trop sur l’IA, on risque non seulement de devenir obsolète, mais aussi, mentalement, de se décomposer !

Surtout, continue à penser par toi-même, à développer ton esprit critique, à prendre du temps hors écrans pour réfléchir et créer.

Utilise des sites de référence

Puisque Google a décidé de plomber son propre algorithme de recherche (pour nous pousser à adopter l’IA), il faut changer notre manière de rechercher de l’information. C’est le moment de sauvegarder des sites utiles pour des recherches précises. Au lieu d’utiliser un moteur de recherche généraliste, utilise directement des sites de confiance (dont l’adresse risque de se perdre dans les pages de résultats inutiles lorsque tu fais une recherche). En plus, ça consomme moins d’énergie de faire une recherche sur ce genre de site.

Et, pourquoi pas, faire un tour à la bibliothèque pour chercher de l’information ?

Je rappelle que l’IA est extrêmement politique, et que nous jouons toutes et tous un rôle dans son développement

Les articles mentionnés dans cette lettre

* Comment quitter les réseaux sociaux et par quoi les remplacer

---

Merci d’avoir lu cet article !

La publication The Flonicles Sans Filtres est gratuite aujourd’hui, et j’aimerais qu’elle le reste, pour rendre mon contenu accessible au plus grand nombre. Si tu aimes mon travail et que tu peux te le permettre, tu peux me soutenir en faisant un don unique ou mensuel via Buy me a coffee, quelle que soit la somme. Tu peux aussi opter pour l’abonnement payant sur Substack, te procurer un de mes guides pratiques ou mon roman dystopique adulte Big Universe. Merci pour ton soutien 🧡

---

D’autres opinions à lire sur Substack

Nous servons de laboratoire mondial pour les IA. Même celles qui font la guerre.

08 - Dévier la trajectoire de l'IA ?

Des comptes Instagram à suivre

Pour s’informer sur l’informatique en tant que consommacteur·trices :

• Chut! média (français)

• Renew Europe CoR (anglais)

• Data for good FR (français)

Une info d’actualité pour cogiter sur ces services gratuits

Niantic, l’entreprise qui propose le jeu mobile Pokémon Go “gratuitement” (avec beaucoup d’achats in-app toutefois…) depuis maintenant dix ans, a annoncé récemment que la récolte de données via le jeu (et précisément la réalité augmentée) leur a permis de réaliser une cartographie d’images géolocalisées qu’ils peuvent exploiter comme ils le souhaitent. Ce produit est maintenant en vente. N’importe quelle entreprise pourrait acheter cette base de donnée augmentée qui permet de localiser plus précisément qu’un GPS.

"D’un jeu, l’entreprise a fait un actif stratégique. Niantic Spatial, une entreprise d'intelligence artificielle issue de Niantic créée en mai dernier, explique utiliser 30 milliards d’images géolocalisées de monuments, de places, de fontaines, de plages.”

“« Nous disposions de plus d'un million de points de localisation à travers le monde, ce qui nous permet de vous localiser avec précision, explique Brian McClendon, le directeur technique, à la revue du MIT. Nous savons où vous vous trouvez à quelques centimètres près et, surtout, où vous regardez. »”

Source : Challenges - “Le plus gros braquage de données” ? Niantic transforme 30 milliards de photos issues de Pokémon Go en un empire de l’IA spatiale

Aujourd’hui, cette technologie permet d’effectuer des livraisons automatisées, sans intervention humaine. Demain, c’est peut-être une IA qui donnera des consignes à cette technologie pour bombarder des civils.

Et ChatGPT, que pourra-t-il faire avec nos données précieusement récoltées pendant des années ?