Finis les hallucinations

Hello,

Aujourd’hui, on parle d’un sujet qui touche tous ceux qui utilisent l’IA au quotidien : les hallucinations.

Pourquoi les modèles inventent des réponses, et comment OpenAI propose de changer la manière de les entraîner pour éviter que ça n’arrive.

Ensuite, on parle d’un accord qui pourrait ouvrir la voie des marchés à OpenAI, et d’Apple qui décide encore de boycotter l’IA.

Théo

Une IA hallucine quand elle donne avec assurance une réponse fausse au lieu d’admettre qu’elle n’a pas la connaissance nécessaire.

Jusqu’à maintenant, on pensait que plus de données équivalait à moins d’erreurs.
Sauf qu’OpenAI vient de prouver le contraire.

L’essentiel :

Bref, les IA doivent parfois apprendre à se taire.

OpenAI a signé un protocole d’accord avec Microsoft pour redéfinir leur partenariat, pendant que l’organisation se restructure.

L’essentiel :

L’accord n’est pas finalisé, mais il ouvre le chemin : une structure plus classique, un partenaire ancré, une mission inscrite dans les statuts.

Si tout se concrétise, 2025 et 2026 pourraient être des années charnières pour l’IPO d’OpenAI.

Apple a zappé l’IA lors de son dernier keynote.

Le discours a parlé d’un iPhone plus fin, de meilleure autonomie, de capteurs santé, mais très peu de Apple Intelligence.

L’essentiel :

Apple choisit de faire profil bas pour mettre l’IA au service de petites améliorations d’usage.

On a tous été dans cette situation.

On pose une question simple à ChatGPT, il répond avec certitude.
Sauf qu’en creusant, on se rend compte que sa réponse est fausse.

Et parfois, les conséquences sont graves.

En 2023, un avocat new-yorkais a été sanctionné de $5 000 pour avoir cité des arrêts inventés par un chatbot.

En 2024, Air Canada a dû indemniser un client parce que son assistant virtuel l’avait induit en erreur.

L’erreur d’un modèle sur une promo autour de James-Webb a fait s’évaporer des milliards de capitalisation en séance pour Alphabet.

Trois exemples, un même mécanisme : des réponses plausibles, données avec aplomb, mais parfaitement fausses.

À suivre :

Une hallucination, c’est une affirmation fausse mais crédible produite par un modèle.
On en distingue deux types.

Dans les deux cas, l’IA ne ment pas comme un humain.
Elle bricole des réponses avec les éléments à sa disposition.

D’où viennent vraiment ces erreurs ?
En fait, leur origine remonte à la création d’une IA.

Quand on entraîne un modèle de langage, on ne lui donne pas un atlas ou une liste de dates.

On lui apprend à prédire le mot suivant à partir de milliards de phrases.

Résultat : il devient excellent pour repérer des motifs fréquents (« Paris est la capitale de la France » apparaît des millions de fois au cours de son entraînement.)

En revanche, il est beaucoup moins assuré dès qu’on passe à des faits rares.

La date d’une soutenance obscure, l’anniversaire d’un chercheur peu médiatisé, le nom du troisième auteur d’un papier de 2009…

Ces informations existent, mais elles circulent peu.
Et quand il n’y a ni motif ni données suffisantes, l’IA improvise.

Imaginez un QCM de 100 questions dont 20 sont impossibles sans documents externes.

Si le modèle « ose » répondre à tout, il peut en réussir par hasard 4 sur ces 20 et se classer mieux qu’un modèle qui répond « je ne sais pas ».

Pourtant, il aura quand même commis 16 erreurs confiantes.
C’est là que la dernière recherche d’OpenAI apporte un éclairage décisif.

Le problème n’est pas seulement technique, il est socio-technique.
Nos barèmes et nos classements privilégient encore une logique binaire exact/faux (0-1).

Comme à un QCM, laisser blanc équivaut à 0, mais tenter sa chance peut rapporter 1.

En optimisant pour ce score, on fabrique des modèles bons à passer des examens plutôt que des assistants fiables.

Nous récompensons le courage de répondre, pas la lucidité de s’abstenir.

Et même après alignement (la deuxième couche d’entraînement supervisé), la plupart des classement jouent sur la précision, pas l’honnêteté.

Un modèle A prudent, qui s’abstient quand il doute, sera battu par un modèle B qui « tente sa chance » plus souvent : B récolte plus de points, donc grimpe au classement.

Cette incitation structurelle explique pourquoi des hallucinations confiantes survivent, voire augmentent, à mesure qu’on optimise pour ces barèmes.

Cette découverte demande de revoir nos habitudes de mesure.

Il faut pénaliser plus fort les erreurs confiantes que l’abstention, et donner du crédit aux expressions d’incertitude appropriées.

Des formules comme « je ne sais pas », « sources insuffisantes », « information ambiguë ».

Concrètement, on introduit des seuils explicites de confiance dans les instructions des évaluations.

Si l’on change les règles du jeu, on pousse les modèles à mieux calibrer leur confiance, à demander des précisions quand il faut, et à éviter les inventions.

En clair, moins de réponses au culot et plus de fiabilité là où ça compte.
Les hallucinations ne sont pas inévitables si on autorise l’IA à reconnaître ses limites.

Mais tant que les entreprises récompensent les modèles qui “devinent” mieux les réponses, les IA continueront justement à deviner.

Le chantier est donc autant méthodologique que technique.