L'effet Nelson Mandela de la technologie : Les hallucinations de l'IA [avec des conseils pour les réduire]

Il y a peu de différence entre les hallucinations humaines et celles de l'IA. 😵‍💫

Les deux peuvent se souvenir de faits de manière erronée, inventer des déclarations fictives et tirer des conclusions erronées. Cependant, les hallucinations humaines sont ancrées dans des biais cognitifs et des distorsions mentales ; elles ont rarement un impact sur nos décisions quotidiennes. En revanche, les hallucinations de l'IA peuvent être très coûteuses, car ces outils présentent des informations incorrectes comme des faits, et ce avec une grande assurance.

Cela signifie-t-il pour autant que nous devrions cesser d'utiliser ces Outils d'IA par ailleurs très utiles ? Non !

Avec un peu de discernement et de meilleures instructions, vous pouvez facilement tourner la tendance de l'IA à votre avantage, et c'est exactement ce que nous allons vous aider à faire dans cet article. Nous aborderons les thèmes suivants :

Que sont les hallucinations de l'IA ?

Le phénomène par lequel les modèles d'IA générative produisent des informations incorrectes comme si elles étaient vraies est appelé « hallucination de l'IA ».

Voici un extrait de l'explication d'Avivah Litan, vice-présidente analyste chez Gartner, sur les hallucinations de l'IA :

…résultats entièrement fabriqués à partir d'un grand modèle linguistique. Même s'ils représentent des faits entièrement inventés, les résultats du LLM (grand modèle linguistique) les présentent avec assurance et autorité.

Les hallucinations des modèles IA : origines et évolution

Dans le vaste glossaire de l'IA, le terme « hallucination IA » est relativement nouveau. Cependant, son existence remonte aux débuts des systèmes d'IA dans les années 1950. D'un point de vue académique, le concept est apparu pour la première fois dans des articles de recherche avec le titre « Proceedings: Fourth IEEE International Conference on Automatic Face and Gesture Recognition » en 2000.

La prise de conscience des hallucinations des modèles d'IA a suscité un intérêt croissant à la fin des années 2010, avec l'émergence de grands noms tels que Google DeepMind et ChatGPT. Récemment, les utilisateurs ont été exposés à divers exemples d'hallucinations de l'IA. Par exemple, une étude réalisée en 2021 a révélé qu'un système d'IA entraîné à reconnaître des images de pandas identifiait à tort des objets sans rapport, tels que des girafes et des vélos, comme des pandas.

Dans une autre étude réalisée en 2023 par la National Library Of Medicine, des chercheurs ont examiné l'exactitude des références dans des articles médicaux générés par ChatGPT. Sur 115 références, seules 7 % se sont avérées exactes, tandis que 47 % étaient complètement inventées et 46 % étaient authentiques mais inexactes. 😳

Quatre éléments qui contribuent aux hallucinations de l'IA

Les hallucinations de l'IA sont dues à quatre facteurs inhérents et principalement techniques :

1. Données d'entraînement inexactes ou biaisées

Les données utilisées dans l'apprentissage automatique sont celles qui déterminent en fin de compte le contenu généré par un modèle d'IA. Des données d'entraînement de mauvaise qualité peuvent être truffées d'erreurs, de biais ou d'incohérences, ce qui peut corrompre l'algorithme final. Une telle IA apprendra des informations faussées et sera plus encline à générer des résultats inexacts.

Lecture bonus : Découvrez la différence entre l'apprentissage automatique et l'IA.

2. Écart d'interprétation

Les modèles d'IA peuvent être déconcertés par les expressions idiomatiques, l'argot, le sarcasme, le langage familier et d'autres nuances du langage humain, ce qui conduit le système à produire des informations absurdes ou inexactes. Dans d'autres situations, même si leurs données d'entraînement sont bonnes, le modèle peut ne pas disposer de la programmation nécessaire pour les comprendre correctement, ce qui conduit à des interprétations erronées et à des hallucinations.

3. Déficit de vérité terrain

Contrairement aux tâches pour lesquelles il existe des réponses clairement correctes ou incorrectes, les tâches génératives ne disposent pas d'une référence définitive à partir de laquelle le modèle peut apprendre. Cette absence de point de référence rend difficile pour le modèle de discerner ce qui est logique et ce qui ne l'est pas, ce qui entraîne des réponses inexactes.

4. Le piège de la complexité

Si les modèles très intelligents comme GPT-4 offrent des capacités exceptionnelles, leur complexité peut être à double tranchant. De nombreux modèles d'IA commettent des erreurs en surchargeant les données ou en mémorisant des modèles non pertinents, ce qui conduit à la génération d'informations erronées. Des invitations mal conçues conduisent également à des résultats incohérents avec des modèles d'IA plus complexes.

Comment et pourquoi les hallucinations de l'IA se produisent : perspective de traitement

Les grands modèles linguistiques (LLM) tels que ChatGPT et Bard de Google alimentent le monde dynamique de l'IA générative, générant des textes semblables à ceux rédigés par des humains avec une fluidité remarquable. Cependant, leur efficacité cache une limite cruciale : l'absence de compréhension contextuelle du monde qu'ils décrivent.

Pour comprendre comment se produit une hallucination IA, nous devons nous plonger dans le fonctionnement interne des LLM. Imaginez-les comme de vastes archives numériques remplies de livres, d'articles et d'échanges sur les réseaux sociaux.

Pour traiter les données, les LLM :

À mesure que les LLM traitent davantage de données, ils commencent à identifier des schémas linguistiques, tels que des règles grammaticales et des associations de mots. Par exemple, un outil d'IA destiné à un assistant virtuel (VA) peut observer les réponses du VA aux plaintes courantes des clients et suggérer des solutions en identifiant certains mots clés. Malheureusement, toute erreur dans ce processus peut déclencher une hallucination.

Essentiellement, l'IA ne saisit jamais réellement le sens véritable des mots qu'elle manipule. La professeure Emily M. Bender, experte en linguistique, résume parfaitement le point de vue d'un LLM : Si vous voyez le mot « chat », cela évoque immédiatement des expériences liées aux chats et des choses concernant les chats. Pour le grand modèle linguistique, il s'agit d'une séquence de caractères C-A-T. 😹

Exemples d'hallucinations de l'IA dans notre monde

Les hallucinations de l'IA posent un défi multiforme, comme le démontrent divers exemples concrets. Examinons quatre catégories. 👀

1. Profession juridique

En mai 2023, un avocat a dû faire face à des conséquences après avoir utilisé ChatGPT pour rédiger une requête contenant des avis juridiques et des citations fictifs, ignorant la capacité du modèle à générer des textes erronés.

2. Désinformation sur les individus

ChatGPT a été utilisé pour diffuser de fausses informations, notamment pour accuser un professeur de droit de harcèlement et impliquer à tort un maire australien dans une affaire de corruption, ce qui a nui à leur réputation et entraîné d'autres conséquences graves.

3. Attaques intentionnelles ou adversaires

Des acteurs malveillants peuvent manipuler subtilement les données, amenant les systèmes d'IA à mal interpréter les informations. Par exemple, quelqu'un a configuré un système d'IA pour qu'il identifie à tort une image de chat comme étant celle d'un guacamole, mettant en évidence la vulnérabilité due à un contrôle insuffisant des Outils d'IA.

4. Chatbots IA

Imaginez que vous interagissez avec des chatbots IA pour rechercher des informations ou simplement pour vous divertir. Même si leurs réponses peuvent être intéressantes, il y a de fortes chances qu'elles soient complètement inventées.

Prenons l'exemple du roi Renoit. Prenons ChatGPT et n'importe quel autre chatbot IA. Posons la question suivante aux deux : Qui était le roi Renoit ? 👑

Grâce à la mise en place de « garde-fous » (un cadre visant à garantir des résultats positifs et impartiaux), ChatGPT pourrait admettre qu'il ne connaît pas la réponse. Cependant, un outil d'IA moins restrictif, construit à partir de la même technologie sous-jacente (GPT), pourrait fabriquer avec assurance une biographie pour ce roi inexistant.

Types d'hallucinations IA possibles pour un système d'IA générative

Les hallucinations de l'IA varient en gravité et peuvent se situer dans un intervalle allant de subtiles incohérences factuelles à des absurdités totales. Concentrons-nous sur trois types courants d'hallucinations de l'IA :

1. Hallucinations liées à des conflits d'entrée

Ces hallucinations se produisent lorsque les LLM génèrent un contenu qui contredit ou s'écarte considérablement des instructions initiales fournies par l'utilisateur.

Imaginez que vous demandiez à un assistant IA : Quels sont les plus grands animaux terrestres ?

Et voici la réponse : Les éléphants sont connus pour leurs impressionnantes capacités de vol !

2. Hallucinations en conflit avec le contexte

Ces hallucinations se produisent lorsque les LLM génèrent des réponses qui s'éloignent des informations précédemment établies dans le cadre d'une même discussion.

Imaginons que vous discutiez avec une IA à propos de Pluton et du système solaire, et que l'outil vous parle du terrain froid et rocheux de cette planète naine. Si vous demandez ensuite si Pluton abrite la vie, le LLM commence à décrire des forêts verdoyantes et de vastes océans sur la planète. Oups ! ☀️

3. Hallucinations contradictoires

Parmi les formes les plus courantes d'hallucinations de l'IA, on trouve les inexactitudes factuelles, où le texte généré semble plausible mais s'avère finalement faux. Si le concept général de la réponse peut correspondre à la réalité, les détails peuvent être erronés.

Par exemple, en février 2023, le chatbot Bard IA de Google a affirmé à tort que le télescope spatial James Webb avait capturé les premières images d'une planète située au-delà de notre système solaire. Cependant, la NASA a confirmé que les premières images d'exoplanètes avaient été obtenues en 2004, avant le lancement du télescope spatial James Webb en 2021.

Impact des hallucinations de l'IA

Si les outils d'IA ne mettent que quelques millisecondes à générer des réponses ou des solutions, l'impact d'une réponse incorrecte peut être grave, en particulier si l'utilisateur n'est pas suffisamment perspicace. Voici quelques conséquences courantes :

Comment atténuer les problèmes liés aux hallucinations de l'IA

Voici quelques conseils et astuces d'experts pour atténuer les hallucinations générées par l'IA.

Assurez la diversité et la représentativité des données d'entraînement

Comme nous l'avons vu dans les sections précédentes, des données d'entraînement insuffisantes rendent souvent un modèle d'IA sujet aux hallucinations. Ainsi, si vous êtes chargé de créer un outil d'IA, veillez à ce qu'il soit entraîné à partir de jeux de données diversifiés et représentatifs, y compris des sources de données provenant de systèmes d'enregistrement. L'idée est de permettre aux LLM de générer des réponses enrichies d'informations contextuellement pertinentes, ce que les modèles publics ne parviennent souvent pas à faire.

Une technique puissante, connue sous le nom de Retrieval Augmented Generation (RAG), présente aux LLM un ensemble de connaissances sélectionnées, limitant ainsi leur tendance à l'hallucination. De plus, l'inclusivité et la représentation de divers domaines de données, ainsi que des mises à jour et des extensions régulières, atténuent le risque de résultats biaisés.

Et si vous n'êtes qu'un simple utilisateur, il vous suffit de choisir un outil d'IA mieux entraîné que les modèles publics. Vous pouvez par exemple opter pour ClickUp Brain, le premier réseau neuronal d'IA générative au monde entraîné à partir de jeux de données hautement contextuels.

Contrairement aux outils GPT génériques, ClickUp Brain a été formé et optimisé pour une variété de rôles professionnels et de cas d'utilisation. Ses réponses sont pertinentes et cohérentes, et vous pouvez utiliser cet outil pour :

Créez des invitations simples et directes

L'ingénierie des invites peut être une autre solution efficace pour générer des réponses plus prévisibles et plus précises à partir des modèles d'IA.

La qualité et la précision des résultats générés par les LLM sont directement proportionnelles à la clarté, à la spécificité et à la précision des invites qu'ils reçoivent. C'est pourquoi il est primordial de prêter attention aux détails lors de la phase d'invite, car cela vous permet de fournir aux LLM des instructions claires et des indices contextuels. Éliminez tous les détails non pertinents ou les phrases alambiquées afin de faciliter l'obtention de réponses plus précises et d'éviter les hallucinations de l'IA.

Testez une technique appelée « paramètres de température ».

La température dans la /IA est un paramètre crucial qui régit le degré d'aléatoire dans les résultats du système. Elle détermine l'équilibre entre diversité et conservatisme, les températures élevées déclenchant une augmentation de l'aléatoire et les températures basses produisant des résultats déterministes.

Vérifiez si l'outil d'IA que vous utilisez permet de régler le paramètre de température à un niveau plus bas afin d'améliorer la précision des réponses, en particulier lorsque vous recherchez des informations factuelles. N'oubliez pas que si des températures plus élevées augmentent le risque d'hallucinations, elles apportent également plus de créativité aux réponses.

Comment ClickUp contribue-t-il à atténuer les hallucinations de l'IA ?

ClickUp est une plateforme de travail et de productivité polyvalente conçue pour rationaliser la gestion des tâches, l'organisation des connaissances et la collaboration au sein des équipes. Elle dispose d'un modèle d'IA natif, ClickUp Brain, qui permet aux équipes d'accéder à des informations précises et à des fonctionnalités d'IA précises dans divers cas d'utilisation.

ClickUp peut réduire le risque d'hallucinations de l'IA dans votre production quotidienne de deux manières :

1. Tirer parti des modèles d'invites IA experts de ClickUp

Les modèles de prompts IA sont conçus pour vous aider à travailler plus efficacement avec ChatGPT et des outils d'IA similaires, dans le but de prévenir les hallucinations IA. Vous trouverez des prompts soigneusement adaptés et personnalisables pour des dizaines de cas d'utilisation, du marketing aux ressources humaines. Explorons les options pour :

ClickUp ChatGPT Prompts pour l'ingénierie

Le modèle ClickUp ChatGPT Prompts for Engineering propose plus de 12 catégories d'ensembles d'invites, notamment le codage IA, les rapports de bogues et l'analyse de données. Ce qui est inclus :

Avec des instructions spécifiques telles que « Je dois créer un modèle capable de prédire avec précision [le résultat souhaité] à partir de [l'ensemble de données] », vous fournissez des instructions claires et vous vous assurez que votre calcul final est fiable et précis.

De plus, vous pouvez accéder à une assistance IA intégrée pour les tâches de rédaction technique telles que la création de manuels d'utilisation, de propositions et de rapports de recherche.

ClickUp ChatGPT Prompts for Writing

Le modèle ClickUp ChatGPT Prompts for Writing vous aide à générer sans effort de nouvelles idées et du contenu pour des articles, des billets de blog et d'autres formats de contenu, à créer des récits captivants avec des perspectives uniques qui trouveront un écho auprès de vos lecteurs, et à réfléchir à des sujets et des approches novateurs pour redynamiser votre écriture.

Par exemple, l'invite de ce modèle – Je dois rédiger un [type de document] convaincant qui incitera mes lecteurs à [agir comme je le souhaite] – vous aide à transmettre trois informations principales à ChatGPT :

Ces instructions permettent au modèle IA de produire un texte très détaillé qui tient compte de tous vos besoins sans générer de contenu erroné.

Contenu :

ClickUp ChatGPT Prompts pour la gestion de projet

Vous en avez assez de la complexité des projets ? Ne vous laissez pas submerger par la surcharge de données ! Grâce au modèle ClickUp ChatGPT Prompts pour la gestion de projet, vous pouvez multiplier votre productivité par dix !

Ce modèle complet propose diverses instructions pour relever pratiquement tous les défis liés à la gestion de projet :

Attendez-vous à des invitations telles que « Je recherche des stratégies pour garantir la réussite d'un projet et minimiser les risques associés à [type de projet] », afin de personnaliser une stratégie personnalisée pour minimiser les risques dans tout type de projet.

2. Utilisation de ClickUp Brain pour créer du contenu généré par l'IA hautement professionnel

ClickUp Brain est un réseau neuronal qui peut devenir le secret de la productivité de votre équipe. Que vous soyez manager ou développeur, vous pouvez facilement tirer parti de ses plus de 100 invitations spécifiques à chaque rôle, basées sur la recherche, pour faciliter votre travail. Par exemple, vous pouvez utiliser cet outil pour trouver des idées et générer des rapports sur :

Il est également possible de résumer toutes les mises à jour hebdomadaires du projet afin de vous aider à obtenir un aperçu rapide de votre travail. Et si vous devez gérer des documents de projet tels que des procédures opératoires normalisées, des contrats ou des directives, les fonctionnalités de rédaction de ClickUp Brain sont exactement ce qu'il vous faut !

En plus d'être un outil d'IA générative, ClickUp Brain est un gestionnaire de connaissances pour le portefeuille de votre entreprise. Son réseau neuronal relie toutes vos tâches, tous vos documents et toutes vos discussions de travail. Vous pouvez extraire les données pertinentes à l'aide de questions et de commandes simples.

Opinions sur les hallucinations de l'IA

Le problème des hallucinations de l'IA suscite des points de vue divergents au sein de la communauté IA.

Par exemple, OpenAI, le créateur de ChatGPT, reconnaît que le problème des hallucinations est une préoccupation majeure. Le cofondateur John Schulman souligne le risque de fabrication, en déclarant : « Notre plus grande préoccupation concernait la factualité, car le modèle a tendance à inventer des choses. »

Sam Altman, PDG d'OpenAI, affiche quant à lui la capacité même de l'IA à générer des hallucinations comme un signe de créativité et d'innovation. Ces perspectives contrastées soulignent la complexité des discours publics autour des résultats et des attentes en matière d'IA.

IBM Watson est une autre solution qui a permis d'explorer les questions relatives au développement responsable de l'IA et à la nécessité de mettre en place des mesures de protection robustes. Lorsque IBM Watson a cherché à analyser les données médicales de patients potentiellement atteints d'un cancer, le modèle a généré des recommandations inexactes, ce qui a conduit à des tests prêtant à confusion.

Conscient des limites de Watson, IBM a souligné la nécessité d'une collaboration entre l'homme et l'IA. Cela a conduit au développement de Watson OpenScale, une plateforme ouverte qui fournit aux utilisateurs des outils pour contrôler l'IA, garantissant ainsi une plus grande équité et une réduction des biais.

Utilisez ClickUp pour prévenir les hallucinations de l'IA

Alors que les grandes entreprises technologiques telles que Google, Microsoft et OpenAI recherchent activement des solutions pour minimiser ces risques, les équipes modernes ne peuvent pas attendre indéfiniment qu'une solution soit trouvée.

Le piège des hallucinations de l'IA ne peut être ignoré, mais il s'agit d'un problème tout à fait soluble si vous utilisez les bons outils et faites preuve d'un bon sens humain à l'ancienne. La meilleure solution ? Tirez parti des invites spécifiques à l'industrie, des modèles gratuits et des capacités de rédaction de ClickUp pour minimiser les instances d'hallucination.

Inscrivez-vous dès aujourd'hui à ClickUp pour vous inviter sur la voie de la réussite ! ❣️