Le gros doss’Le détecteur de bullshit
Le gros doss’
Le détecteur de bullshit

Le détecteur de bullshit

L’idée n’est pas d’abandonner tes capacités cognitives à ChatGPT et consorts, mais de chérir le Fabrice Arfi* qui sommeille en nous pour systématiquement vérifier les sources et aiguiser ton esprit critique.

3 min de lecture

Contrairement à l’avalanche de qualités prêtées aux modèles de langage, ils ne vérifient pas spontanément qu’une réponse est vraie : ils génèrent une réponse, à partir de probabilités apprises dans leurs données d’entraînement. Une source citée n’est donc pas forcément une source vérifiée. Le trait toxique de l’IA c’est donc qu’elle peut produire une information fausse, avec l’aplomb d’un candidat à l’Oscar du meilleur acteur. L’idée n’est pas de lui demander si elle a raison mais de remonter certaines infos à la source.

Les hallucinations de l’IA

Les chiffres

Un chiffre doit pouvoir être daté et sourcé. Si l’IA affirme que « 23 % des étudiants de PACA sont blonds », il faut se demander : d’après qui ? Quel institut ? Quelle étude ? Quel chercheur ?

Les sources

L’IA peut citer un ouvrage, un article ou un auteur, dans les règles de l’art, tandis que l’auteur en question n’a jamais vu le jour. Recherche systématiquement le titre et l’auteur sur le site de l’éditeur, dans une bibliothèque ou même rapido presto dans un moteur de recherche pour voir les occurrences.

Le droit et l’actualité

Une IA peut ne pas disposer des dernières évolutions réglementaires ou légales et sortir, en toute décontraction, une jurisprudence claquée au sol. Exiger des sources dans le prompt est utile, mais le bon réflexe consiste à remonter à la source primaire (coucou l’INSEE, Légifrance, Urssaf…). En somme : plus une donnée est récente, plus elle mérite d’être vérifiée.

Les alternatives à ChatGPT

Faire tourner l’IA, c’est aussi choisir à qui l’on confie ses données (et ses petits secrets). Hébergement, souveraineté, entraînement des modèles, confidentialité : voici quatre alternatives au géant.

Lumo

la confidentielle

Lancé par Proton, Lumo n’entraîne pas les modèles avec les échanges, ne vend pas les données et propose même une option intraçable. C’est ici qu’on se rend pour travailler avec des données confidentielles ou une réflexion stratégique encore top secret.

Olmo

la transparente

Olmo, lancé par l’Allen Institute, a ouvert sa boîte noire et joue ainsi la transparence totale, en livrant son code, ses données d’entraînement jusqu’aux checkpoints intermédiaires.

Vibe (ex-Le Chat)

l’IA made in France

Création de Mistral AI, startup française fondée en 2023, Vibe est hébergé en Europe avec une conformité RGPD assurée. Côté fonctionnalités : il n’a rien à envier à ChatGPT.

Euria

l’alternative suisse

Hébergée en Suisse, Euria, lancée par Infomaniak, n’exploite pas les données à des fins commerciales. On y retrouve les classiques : analyse d’images, transcription et analyse de documents, et un accès au web. Fun fact : le data center à Genève chauffe plus de 6 000 logements.

*Fabrice Arfi est un journaliste français connu (et plutôt fort) pour révéler des grosses affaires (l’affaire Woerth-Bettencourt, l’affaire Karachi, l’affaire Sarkozy-Kadhafi, l’affaire des quotas de carbone, l’affaire Cahuzac… c’est lui). Fabrice a encore fort à faire…

À suivre

magmalemag.com 39

Prompt me up ! Les biais et pièges de l’IA

InstagramTikTokLe siteMentions