
Les biais et pièges de l’IA
Les réponses d’une IA peuvent aussi être influencées par la manière dont on formule une question comme par les données sur lesquelles elle a été entraînée. Quelques réflexes à garder en tête.
Le biais de cadrage
La manière dont la question est posée influence la réponse. « Pourquoi les réseaux sociaux déconcentrent les étudiants ? » contient déjà une conclusion que la question « Quels sont les effets des réseaux sociaux sur la concentration ? » ne contient pas.
Le biais de confirmation
Si le raisonnement est présenté comme acquis, l’IA peut avoir tendance à le conforter. C’est la “sycophancy”, soit la complaisance ou flatterie hypocrite de l’IA en VF, cette fâcheuse tendance à être excessivement d’accord avec toi. Il ne faut pas hésiter à demander les arguments qui pourraient le contredire ou à lui dire d’arrêter de te brosser dans le sens du poil.
La simplification outrancière
Un débat complexe peut se réduire en une démonstration implacable en trois points.
Le consensus mou
L’IA peut présenter comme établi un sujet qui fait encore débat. Ne pas hésiter à lui demander les différentes positions et les auteurs qui les défendent.
Des livres et chroniques à dévorer

GuérillIA
de Christophe Payet (Seuil, 18,50 €)
Pour sortir de la monoculture des géants de l’IA, le journaliste Christophe Payet invite à s’emparer des alternatives plus ouvertes, plus frugales et plus diverses et de mener la bataille culturelle pour une IA plus diverse.

Dealers de mots
de Frédéric Kaplan (Actes Sud, 19 €)
Et voici venu le temps du capitalisme linguistique ou comment les géants de la Big Tech se sont approprié des millions d’écrits, livres, pages web, mais aussi nos propres requêtes, pour nous les revendre sous forme de « prothèses linguistiques ».

“Clic Gauche”
de Thibault Prévost (Arrêt sur Images)
Avec ses chroniques « Clic Gauche », Thibault Prévost propose un décryptage régulier sur l’univers de la tech. Sa plume acide étrille aussi bien les discours enchantés que les scénarios apocalyptiques, et recentre le débat sur qui produit ces technologies, dans quelles conditions et pour quels intérêts. L’avantage : ses chroniques sont souvent en accès libre (gratuites).
Lire les chroniques
