Alors non. Une hallucination d’un LLM n’est pas un bug.

Les adorateurs de l’IA me fatiguent, mais pour autant on ne doit pas raconter n’importe quoi sous prétexte de les ramener sur terre. Par la construction même d’un LLM, les données de sortie sont émergentes.

Il n’y a rien de factuel et déterministe dans ce qu’une IA va produire depuis des données d’entrée. En très très très basique, un neurone artificiel, c’est une entrée, combinaison de plusieurs sources associées à des poids, une valeur de seuil appliquée à l’entrée, et une sortie.

Tant les poids que le seuil ne sont pas programmés. Ils sont déterminés par le LLM en fonction des résultats d’autres neurones ET des nombres aléatoires. Cette composition rend la sortie imprévisible, à multiplier exponentiellement par le nombre de neurones et de couches de réseaux de neurones.

Un bug, c’est quelque chose d’objectif : il y a un résultat qui n’est pas celui attendu à un processus algorithmique.

Une hallucination est quelque chose de subjectif : on considère, nous humains avec nos attentes et notre intellect, que la sortie ne correspond pas à ce qu’elle devrait être pour « faire sens ». Mais ça ne veut rien dire, faire sens, pour un LLM.

« Hallucination », c’est peut-être trop anthropomorphique comme terme pour certains, mais c’est pas mal trouvé, et ce n’est PAS un bug.

Et c’est justement parce que ce n’est pas un bug que ce n’est pas corrigible. Comme une opinion idiote de votre belle-mère n’est pas un bug. Et n’est malheureusement pas corrigible.