
Le détecteur de bullshit
L’idée n’est pas d’abandonner tes capacités cognitives à ChatGPT et consorts, mais de chérir le Fabrice Arfi* qui sommeille en nous pour systématiquement vérifier les sources et aiguiser ton esprit critique.
Contrairement à l’avalanche de qualités prêtées aux modèles de langage, ils ne vérifient pas spontanément qu’une réponse est vraie : ils génèrent une réponse, à partir de probabilités apprises dans leurs données d’entraînement. Une source citée n’est donc pas forcément une source vérifiée. Le trait toxique de l’IA c’est donc qu’elle peut produire une information fausse, avec l’aplomb d’un candidat à l’Oscar du meilleur acteur. L’idée n’est pas de lui demander si elle a raison mais de remonter certaines infos à la source.
Les hallucinations de l’IA
Les chiffres
Un chiffre doit pouvoir être daté et sourcé. Si l’IA affirme que « 23 % des étudiants de PACA sont blonds », il faut se demander : d’après qui ? Quel institut ? Quelle étude ? Quel chercheur ?
Les sources
L’IA peut citer un ouvrage, un article ou un auteur, dans les règles de l’art, tandis que l’auteur en question n’a jamais vu le jour. Recherche systématiquement le titre et l’auteur sur le site de l’éditeur, dans une bibliothèque ou même rapido presto dans un moteur de recherche pour voir les occurrences.
Le droit et l’actualité
Une IA peut ne pas disposer des dernières évolutions réglementaires ou légales et sortir, en toute décontraction, une jurisprudence claquée au sol. Exiger des sources dans le prompt est utile, mais le bon réflexe consiste à remonter à la source primaire (coucou l’INSEE, Légifrance, Urssaf…). En somme : plus une donnée est récente, plus elle mérite d’être vérifiée.
Les alternatives à ChatGPT
Faire tourner l’IA, c’est aussi choisir à qui l’on confie ses données (et ses petits secrets). Hébergement, souveraineté, entraînement des modèles, confidentialité : voici quatre alternatives au géant.
Lumo
la confidentielle
Lancé par Proton, Lumo n’entraîne pas les modèles avec les échanges, ne vend pas les données et propose même une option intraçable. C’est ici qu’on se rend pour travailler avec des données confidentielles ou une réflexion stratégique encore top secret.
Olmo
la transparente
Olmo, lancé par l’Allen Institute, a ouvert sa boîte noire et joue ainsi la transparence totale, en livrant son code, ses données d’entraînement jusqu’aux checkpoints intermédiaires.
Vibe (ex-Le Chat)
l’IA made in France
Création de Mistral AI, startup française fondée en 2023, Vibe est hébergé en Europe avec une conformité RGPD assurée. Côté fonctionnalités : il n’a rien à envier à ChatGPT.
Euria
l’alternative suisse
Hébergée en Suisse, Euria, lancée par Infomaniak, n’exploite pas les données à des fins commerciales. On y retrouve les classiques : analyse d’images, transcription et analyse de documents, et un accès au web. Fun fact : le data center à Genève chauffe plus de 6 000 logements.
*Fabrice Arfi est un journaliste français connu (et plutôt fort) pour révéler des grosses affaires (l’affaire Woerth-Bettencourt, l’affaire Karachi, l’affaire Sarkozy-Kadhafi, l’affaire des quotas de carbone, l’affaire Cahuzac… c’est lui). Fabrice a encore fort à faire…

