Pourquoi vérifier ce que dit l'IA

Document pédagogique destiné aux étudiants en formation de travailleur social et d'éducateur spécialisé

Introduction

L'intelligence artificielle générative (ChatGPT, Claude, Gemini, Perplexity, etc.) s'est rapidement imposée comme un outil d'aide à la rédaction, à la recherche et à l'organisation du travail. Dans le domaine du travail social, où la précision de l'information et la rigueur professionnelle sont essentielles, il est crucial de comprendre que même lorsque l'IA effectue des recherches sur Internet, elle peut produire des informations erronées, trompeuses ou totalement inventées.

Ce document présente des exemples concrets et documentés des limites et dangers de l'IA, afin de démontrer l'importance d'une vérification systématique des informations.

Qu'est-ce qu'une "hallucination" d'IA ?

On parle d'hallucination d'IA lorsqu'un modèle d'intelligence artificielle génère des informations fausses, inexistantes ou trompeuses tout en les présentant avec assurance comme étant vraies. Ces erreurs ne sont pas des bugs occasionnels : elles sont inhérentes au fonctionnement même des grands modèles de langage.

Les trois types d'hallucinations

1. Hallucinations de factualité : le modèle génère des informations objectivement fausses, comme des dates incorrectes ou des événements inventés
2. Hallucinations d'attribution : le modèle fabrique des sources, des citations ou attribue des propos à des personnes qui ne les ont jamais tenus
3. Hallucinations de fidélité : le modèle ne respecte pas les instructions données, génère des incohérences internes ou omet des détails clés

L'ampleur du problème : des chiffres alarmants

Une fiabilité en baisse

Contrairement à ce qu'on pourrait espérer, la fiabilité des IA génératives ne s'améliore pas nécessairement avec le temps. Selon une étude de NewsGuard réalisée en août 2025 auprès des dix principaux chatbots d'IA :

1. 35% des réponses étaient erronées sur des sujets d'actualité (contre 18% l'année précédente)
2. ChatGPT s'est trompé dans 40% des cas testés
3. Perplexity, qui avait réussi à réfuter 100% des fausses affirmations un an plus tôt, a vu son taux d'erreurs bondir à 46,67%

Une autre évaluation réalisée en mars 2025 montre qu'en moyenne, les IA génératives produisent au moins une fausse information dans 30% des cas, tout en évitant de répondre dans 11% des cas. Parmi les 11 chatbots testés, trois ont eu une mauvaise réponse dans au moins 40% des cas.

ChatGPT Search : une illusion de fiabilité

Une étude particulièrement révélatrice a analysé 200 citations attribuées par ChatGPT Search. Les résultats sont édifiants :

1. Plus de 75% des citations étaient incorrectes
2. ChatGPT n'a admis son incapacité à répondre que dans 7 cas sur 200
3. Pour une même citation soumise plusieurs fois, l'IA a d'abord attribué le passage au New York Times, puis correctement au Washington Post

Cette variabilité dans les réponses révèle un problème fondamental : l'IA ne "sait" pas, elle "prédit" du texte plausible.

Cas concrets dans le domaine juridique

Les exemples les plus documentés et spectaculaires d'erreurs de l'IA proviennent du monde juridique, où les conséquences sont mesurables et sanctionnées.

Cas 1 : L'avocat new-yorkais (2023)

Un avocat new-yorkais a utilisé ChatGPT pour rédiger un mémoire judiciaire. Le juge P. Kevin Castel a découvert que six des arrêts invoqués renvoyaient à de fausses décisions de justice et mentionnaient de fausses citations. Les deux avocats et leur cabinet ont été condamnés à payer une amende de 5 000 dollars.

Cas 2 : L'avocate de Colombie-Britannique (2023)

Me Chong Ke a introduit une demande au tribunal argumentée par deux jurisprudences dans le cadre d'une affaire de garde d'enfant. Lorsque les avocats de la partie adverse ont demandé une copie de ces jurisprudences pour préparer leur défense, il s'est avéré que ces références n'existaient pas : elles avaient été générées par ChatGPT.

Le juge David Masuhara a rappelé que "citer de fausses affaires dans les dossiers constitue un abus de procédure et équivaut à faire une fausse déclaration au tribunal" et que "si l'on n'y prend garde, cela peut conduire à une erreur judiciaire". L'avocate a été condamnée à payer les frais de la partie adverse.

Cas 3 : L'avocat de l'Utah (2025)

La Cour d'appel de l'Utah a sanctionné un avocat qui a déposé un document judiciaire avec de fausses informations générées par ChatGPT. La Cour a conclu : "Dans cette affaire, les avocats du requérant ont failli à leurs obligations de vérification en tant que membres du barreau de l'État de l'Utah en soumettant une requête citant un précédent fictif généré par ChatGPT".

Cas 4 : Record d'amende en Californie (2025)

L'avocat Amir Mostafavi a été condamné à payer 10 000 dollars pour avoir déposé un mémoire dans lequel 21 des 23 citations juridiques étaient purement inventées. Ces références provenaient de ChatGPT, utilisé pour gagner du temps dans la rédaction. Mostafavi n'a pas pris la peine de vérifier la validité des sources avant de soumettre le document à la cour.

Leçon essentielle : Ces avocats professionnels, formés à la rigueur juridique, ont été piégés par la confiance accordée à l'IA. Si des experts du droit peuvent être trompés, tout utilisateur est vulnérable.

Exemples d'inventions totales

Le magazine Fast Company et Tesla

Le magazine américain Fast Company a demandé à ChatGPT d'écrire un article sur les performances financières de Tesla. L'IA a généré un texte bien structuré, appuyé sur des chiffres... totalement inventés.

L'"électromagnon inversé cycloïdal"

La data scientist Teresa Kubacka a testé la robustesse de ChatGPT en lui soumettant un terme qu'elle avait elle-même inventé : "électromagnon inversé cycloïdal". ChatGPT a répondu avec confiance, en citant de fausses publications pour appuyer son propos.

Cette expérience démontre que l'IA peut inventer non seulement des réponses, mais aussi des sources académiques entières pour donner une apparence de crédibilité.

Le faux terme médical de Google

En 2025, Med-Gemini, un modèle de Google spécialisé en médecine, a inventé un terme médical : "infarctus ancien du ganglion basilaire gauche" en mélangeant des concepts anatomiques différents. Dans le domaine médical, des tests réalisés sur GPT-4o ont montré des taux d'hallucination allant jusqu'à 24,6% dans des tâches de raisonnement médical.

Implications pour le travail social

La "sacralisation" de l'IA

Dans le domaine de la protection de l'enfance, des chercheurs ont observé une "sacralisation" de l'IA, où les travailleurs sociaux acceptent sans critique les réponses fournies par l'IA. Cette relation de dépendance est particulièrement préoccupante dans un contexte où les décisions peuvent avoir des conséquences majeures sur la vie des personnes accompagnées.

Les risques éthiques spécifiques

Le Haut Conseil du travail social souligne que les professionnels du travail social ne peuvent ignorer la "boîte noire" que constitue l'IA. Les recherches récentes révèlent :

1. Des discriminations systémiques préoccupantes liées aux biais algorithmiques
2. Des "hallucinations" qui peuvent produire des informations erronées sur des situations individuelles
3. Une opacité des processus de décision de l'IA, qui échappe même à la compréhension de ses concepteurs

La responsabilité professionnelle

L'avis du Haut Conseil du travail social souligne que la responsabilité relève à la fois de l'individu – chaque professionnel demeurant garant des choix posés – et des institutions. Dans un métier où la relation humaine, l'éthique et le discernement sont fondamentaux, l'utilisation non critique de l'IA peut :

1. Retarder une vraie prise en charge en donnant l'illusion d'une réponse adaptée
2. Produire des diagnostics ou recommandations inadaptés basés sur des informations erronées
3. Compromettre la confidentialité et la vie privée des personnes accompagnées
4. Déshumaniser l'accompagnement social

Pourquoi l'IA se trompe-t-elle même avec accès à Internet ?

Le fonctionnement des modèles de langage

Les grands modèles de langage (LLM) ne "comprennent" pas l'information au sens humain. Ils prédisent le texte le plus vraisemblable à partir de votre question. L'architecture autorégressive des LLM produit en sortie un texte prolongeant le plus vraisemblablement un texte soumis en entrée : "lorsque le plus vraisemblable l'est insuffisamment, alors le rapport à la vérité se distend".

Les limites de la recherche en ligne

Même lorsqu'une IA effectue des recherches sur Internet :

1. Elle peut mal interpréter les sources trouvées
2. Elle peut combiner des informations de sources différentes de manière incohérente
3. Elle peut privilégier des sources peu fiables
4. Elle peut inventer des liens vers des pages qui n'ont jamais existé
5. Elle ne vérifie pas systématiquement la validité des informations trouvées

Le manque d'ancrage dans la réalité

Un modèle d'IA peut avoir des difficultés à comprendre avec précision des connaissances du monde réel, des propriétés physiques ou des informations factuelles. Ce manque d'ancrage peut amener le modèle à générer des sorties qui, bien qu'apparaissant plausibles, sont en fait incorrectes, non pertinentes ou incompréhensibles.

Méthodes de vérification recommandées

Principe fondamental

Ne jamais utiliser l'information fournie par l'IA comme source unique ou définitive. Considérez l'IA comme un point de départ pour votre recherche, jamais comme une conclusion.

Stratégies de vérification

1. Vérifier les sources citées : Si l'IA cite une source, recherchez-la directement pour confirmer qu'elle existe et qu'elle dit effectivement ce que l'IA prétend
2. Croiser les informations : Vérifiez l'information auprès de sources officielles, institutionnelles ou académiques reconnues
3. Utiliser plusieurs IA et comparer : Si les réponses diffèrent significativement entre différentes IA, c'est un signal d'alerte
4. Consulter des experts humains : Pour des informations critiques (données juridiques, médicales, sociales), consultez toujours un expert humain
5. Méfiance face aux détails précis : Plus une réponse contient de détails spécifiques (chiffres exacts, dates précises, noms propres), plus il faut vérifier
6. Technique Génération/Vérification : Utilisez une deuxième instance d'IA pour fact-checker la première réponse et identifier les incohérences

Signaux d'alerte

Soyez particulièrement vigilant lorsque :

1. L'IA fournit des statistiques très précises sans source claire
2. L'IA cite des études, rapports ou articles sans donner de lien vérifiable
3. L'IA répond avec une confiance absolue à une question très spécifique ou technique
4. Les réponses varient significativement lorsque vous posez la même question plusieurs fois
5. L'information concerne des données récentes ou d'actualité

Bonnes pratiques pour les étudiants en travail social

Dans vos travaux académiques

1. Transparence : Si vous utilisez l'IA, mentionnez-le dans votre méthodologie
2. Vérification obligatoire : Vérifiez systématiquement toutes les informations factuelles
3. Sources primaires : Remontez toujours aux sources primaires citées
4. Citations directes : Ne citez jamais l'IA elle-même, citez les sources originales après vérification
5. Outils de détection : Utilisez des outils comme Compilatio Studium pour vérifier l'authenticité de vos sources

Dans votre pratique professionnelle future

1. Ne prenez jamais de décision affectant l'accompagnement d'une personne sur la seule base d'informations fournies par l'IA
2. Documentez vos sources d'information dans les dossiers
3. Maintenez une réflexion critique et éthique sur l'usage des outils numériques
4. Privilégiez toujours la relation humaine et le jugement professionnel
5. Formez-vous continuellement aux enjeux éthiques de l'IA dans le travail social

Conclusion

L'intelligence artificielle est un outil potentiellement utile pour organiser sa pensée, générer des idées ou structurer un travail. Mais elle ne remplace ni la rigueur académique, ni l'expertise professionnelle, ni le discernement humain.

Les exemples présentés dans ce document – des avocats sanctionnés, des statistiques inventées, des sources fabriquées – démontrent que :

1. L'IA peut se tromper gravement, même en effectuant des recherches sur Internet
2. L'IA présente ses erreurs avec la même assurance que des informations correctes
3. Les conséquences peuvent être sérieuses : sanctions professionnelles, erreurs judiciaires, désinformation
4. Même des professionnels expérimentés peuvent être trompés

Dans le domaine du travail social, où vous serez amenés à accompagner des personnes en situation de vulnérabilité, où vos décisions et recommandations peuvent avoir un impact majeur sur des vies, la vérification systématique des informations n'est pas une option : c'est une responsabilité éthique et déontologique.

L'IA peut être une aide, mais elle doit être maniée avec prudence, sagesse et esprit critique. Votre jugement professionnel, votre formation et votre capacité à vérifier l'information restent irremplaçables.

Références

DataCamp. (2025, 26 janvier). AI Hallucinations : Un guide avec des exemples. https://www.datacamp.com/fr/blog/ai-hallucination

LabSense. (2026, 6 janvier). Les hallucinations IA explosent en 2025 : qu'arrive-t-il à nos LLM ? https://www.lab-sense.com/les-hallucinations-ia-explosent-en-2025-qu-arrive-t-il-a-nos-llms/

Archimag. (2025, 9 septembre). 35 % : le taux de fake news relayées par les chatbots d'IA a presque doublé. https://www.archimag.com/veille-documentation/2025/09/09/35-pourcent-taux-fake-news-relayees-chatbots-ia-double

Agence Science-Presse. (2025, 8 avril). Les IA génératives toujours aussi mauvaises pour détecter la désinformation. https://www.sciencepresse.qc.ca/actualite/2025/04/09/ia-generatives-toujours-aussi-mauvaises-pour-detecter-desinformation

Conseils Rédaction Web. (2025, 6 février). Plus de 75% d'erreurs : ChatGPT Search inquiète par son manque de fiabilité. https://www.conseils-redaction-web.fr/recherche-en-ligne-avec-chatgpt-inquiete

Le Figaro. (2023, 29 mai). À cause de ChatGPT, un avocat américain cite des arrêts qui n'ont jamais existé. https://www.lefigaro.fr/sciences/a-cause-de-chatgpt-un-avocat-americain-cite-des-arrets-qui-n-ont-jamais-existe-20230529

L'Éclaireur Fnac. (2023, 25 juin). Deux avocats sanctionnés pour avoir utilisé ChatGPT au tribunal. https://leclaireur.fnac.com/article/315344-deux-avocats-sanctionnes-pour-avoir-utilise-chatgpt-au-tribunal/

Le Monde du Droit. (2025, 30 juin). Sanction pour une avocate ayant cité des cas fictifs générés par ChatGPT. https://www.lemondedudroit.fr/decryptages/91863-sanction-pour-une-avocate-ayant-cite-des-cas-fictifs-generes-par-chatgpt-2.html

Les Numériques. (2025, 7 juin). Un avocat utilise ChatGPT pour rédiger un document judiciaire, il écope d'une sanction. https://www.lesnumeriques.com/intelligence-artificielle/un-avocat-utilise-chatgpt-pour-rediger-un-document-judiciaire-il-ecope-d-une-sanction-a211894.html

Developpez.com. (2025, 22 septembre). La Californie inflige une amende record à un avocat pour avoir déposé un mémoire truffé de citations inventées par ChatGPT. https://droit.developpez.com/actu/376088/

Holberton School. (2026, 5 janvier). Hallucinations d'IA : comprendre les erreurs des intelligences artificielles. https://www.holbertonschool.fr/post/hallucinations-dia-comprendre-les-erreurs-des-intelligences-artificielles

Dubasque, D. (2025, 11 août). AI et travail social : Entre promesses technologiques et exigences éthiques. https://dubasque.org/ai-et-travail-social-entre-promesses-technologiques-et-exigences-ethiques/

Dubasque, D. (2025, 8 septembre). Quand l'intelligence artificielle interroge les fondamentaux du travail social : enjeux éthiques et responsabilités. https://dubasque.org/quand-lintelligence-artificielle-interroge-les-fondamentaux-du-travail-social-enjeux-ethiques-et-responsabilites/

Agence Pragmatik. (2025, 10 décembre). Pourquoi ChatGPT donne de mauvaises réponses et comment les éviter. https://www.agencepragmatik.com/blogue/pourquoi-chatgpt-donne-de-mauvaises-reponses-comment-y-remedier

Académie des technologies. (2025, 4 février). IA générative et mésinformation. https://www.academie-technologies.fr/publications/ia-generative-et-mesinformation/

Google Cloud. (2026, 26 février). Que sont les hallucinations générées par l'IA ? https://cloud.google.com/discover/what-are-ai-hallucinations?hl=fr

Conseils Rédaction Web. (2025, 22 juin). 5 techniques puissantes pour améliorer la fiabilité de ChatGPT. https://www.conseils-redaction-web.fr/techniques-ameliorer-fiabilite-de-chatgpt

Compilatio. (2025, 18 décembre). Compilatio Studium : le vérificateur de plagiat et d'IA pour étudiants. https://www.compilatio.net/studium