Nelson Mandela-effekten inom teknik: AI-hallucinationer [med tips för att minska dem]

Det är liten skillnad mellan hallucinationer hos människor och artificiell intelligens (AI). 😵‍💫

Båda kan återge fakta felaktigt, hitta på fiktiva påståenden och dra felaktiga slutsatser. Mänskliga hallucinationer har dock sin grund i kognitiva fördomar och mentala förvrängningar – de påverkar sällan vårt dagliga beslutsfattande. Å andra sidan kan AI-hallucinationer bli ganska kostsamma, eftersom dessa verktyg presenterar felaktig information som fakta – och dessutom med stor övertygelse.

Betyder detta att vi ska sluta använda dessa annars så användbara AI-verktyg? Nej!

Med lite omdöme och bättre uppmaningar kan du enkelt vända AI-trenden till din fördel, och det är precis vad vi kommer att hjälpa dig med i det här blogginlägget. Vi kommer att behandla följande:

Vad är AI-hallucinationer?

Fenomenet där generativa AI-modeller producerar felaktig information som om den vore sann kallas AI-hallucination.

Här är ett utdrag ur hur Avivah Litan, VP Analyst på Gartner, förklarar AI-hallucinationer –

…helt påhittade resultat från en stor språkmodell. Även om de representerar helt påhittade fakta, presenterar LLM (stor språkmodell) resultaten med självförtroende och auktoritet.

Hallucinerande AI-modeller: Ursprung och utveckling

Bland de många AI-termerna är begreppet AI-hallucination relativt nytt. Dess existens kan dock spåras tillbaka till AI-systemens tidiga dagar på 1950-talet. Ur ett akademiskt perspektiv dök begreppet först upp i forskningsrapporter med titeln Proceedings: Fourth IEEE International Conference on Automatic Face and Gesture Recognition år 2000.

Medvetenheten om hallucinationer i AI-modeller fick större uppmärksamhet i slutet av 2010-talet, med uppkomsten av stora namn som Google DeepMind och ChatGPT. På senare tid har användare utsätts för olika exempel på AI-hallucinationer. En studie från 2021 visade till exempel att ett AI-system som tränats på pandabilder felaktigt identifierade icke-relaterade objekt som giraffer och cyklar som pandor.

I en annan studie från 2023 av National Library Of Medicine undersökte forskare noggrannheten i referenser i medicinska artiklar som genererats av ChatGPT. Av 115 referenser visade sig endast 7 % vara korrekta, medan 47 % var helt påhittade och 46 % var autentiska men felaktiga. 😳

Fyra faktorer som bidrar till AI-hallucinationer

AI-hallucinationer uppstår på grund av fyra inneboende och mestadels tekniska faktorer:

1. Felaktiga eller partiska träningsdata

De data som används i maskininlärning är det som i slutändan avgör vilket innehåll som genereras av en AI-modell. Träningsdata av låg kvalitet kan vara fyllda med fel, fördomar eller inkonsekvenser, vilket kan förstöra den slutliga algoritmen. Sådan AI kommer att lära sig förvrängd information och vara mer benägen att generera felaktiga resultat.

Bonusläsning: Lär dig mer om skillnaden mellan maskininlärning och AI.

2. Tolkningsgap

AI-modeller kan bli förvirrade av idiom, slang, sarkasm, vardagligt språk och andra nyanser i det mänskliga språket, vilket kan leda till att systemet producerar meningslös eller felaktig information. I andra situationer, även om deras träningsdata är bra, kan modellen sakna den nödvändiga programmeringen för att förstå den korrekt, vilket leder till felaktiga tolkningar och hallucinationer.

3. Brist på grundläggande fakta

Till skillnad från uppgifter med tydliga rätt och fel svar saknar generativa uppgifter en definitiv grundläggande sanning, så att säga, som modellen kan lära sig av. Avsaknaden av en referenspunkt gör det svårt för modellen att urskilja vad som är meningsfullt och vad som inte är det, vilket resulterar i felaktiga svar.

4. Komplexitetsfällan

Även om mycket smarta modeller som GPT-4 erbjuder fantastiska möjligheter, kan deras komplexitet vara ett tveeggat svärd. Många AI-modeller gör fel genom att överfylla data eller memorera irrelevanta mönster, vilket leder till att felaktig information genereras. Dåligt utformade promptar leder också till inkonsekventa resultat med mer komplexa AI-modeller.

Hur och varför AI-hallucinationer uppstår: bearbetningsperspektiv

Stora språkmodeller (LLM) som ChatGPT och Googles Bard driver den dynamiska världen av generativ AI och genererar människoliknande text med anmärkningsvärd flyt. Men bakom deras effektivitet döljer sig en avgörande begränsning: bristande kontextuell förståelse för den värld de beskriver.

För att förstå hur en AI-hallucination uppstår måste vi fördjupa oss i hur LLM fungerar. Tänk dig dem som stora digitala arkiv fyllda med böcker, artiklar och utbyten på sociala medier.

För att bearbeta data gör LLM:

När LLM-modeller bearbetar mer data börjar de identifiera mönster i språket, såsom grammatikregler och ordassociationer. Ett AI-verktyg för en virtuell assistent (VA) kan till exempel observera VA:s svar på vanliga kundklagomål och föreslå lösningar genom att identifiera vissa nyckelord. Tyvärr kan varje fel i denna process utlösa en hallucination.

I grund och botten förstår AI aldrig den verkliga betydelsen av de ord den manipulerar. Professor Emily M. Bender, expert på lingvistik, sammanfattar perfekt ett LLM:s perspektiv: Om du ser ordet ”katt” väcker det omedelbart associationer till upplevelser av katter och saker som har med katter att göra. För den stora språkmodellen är det en sekvens av tecken C-A-T. 😹

Exempel på AI-hallucinationer i vår värld

AI-hallucinationer utgör en mångfacetterad utmaning, vilket framgår av olika exempel från verkligheten. Ta en titt på fyra kategorier. 👀

1. Juridiska yrken

I maj 2023 fick en advokat ta konsekvenserna efter att ha använt ChatGPT för att utarbeta ett förslag som innehöll fiktiva juridiska yttranden och citat, utan att vara medveten om modellens förmåga att generera felaktig text.

2. Felaktig information om individer

ChatGPT har använts för att sprida falska berättelser, till exempel genom att anklaga en juristprofessor för trakasserier och felaktigt implicera en australisk borgmästare i ett mutbrott, vilket har lett till skada på ryktet och andra allvarliga konsekvenser.

3. Avsiktliga eller fientliga attacker

Skadliga aktörer kan subtilt manipulera data och få AI-system att misstolka information. Till exempel konfigurerade någon ett AI-system så att det felaktigt identifierade en bild av en katt som en bild av guacamole, vilket belyser sårbarheten på grund av bristfällig kontroll av AI-verktyg.

4. AI-chattbottar

Tänk dig att du interagerar med AI-chattbottar för att söka information eller bara för nöjes skull. Även om deras svar kan vara engagerande är det stor risk att de är helt påhittade.

Ta till exempel fallet med kung Renoit. Tänk på ChatGPT och andra AI-chattbottar. Fråga båda – Vem var kung Renoit? 👑

Med ”guardrails” på plats (*ett ramverk som säkerställer positiva och opartiska resultat) kan ChatGPT erkänna att det inte vet svaret. Ett mindre restriktivt AI-verktyg som bygger på samma underliggande teknik (GPT) kan dock med säkerhet fabricera en biografi för denna icke-existerande kung.

Typer av AI-hallucinationer som är möjliga för ett generativt AI-system

AI-hallucinationer varierar i svårighetsgrad och kan sträcka sig från subtila faktiska inkonsekvenser till rena nonsens. Låt oss fokusera på tre vanliga typer av AI-hallucinationer:

1. Hallucinationer som strider mot indata

Dessa uppstår när LLM genererar innehåll som väsentligt strider mot eller avviker från den ursprungliga uppmaningen från användaren.

Tänk dig att du frågar en AI-assistent: Vilka är de största landdjuren?

Och får svaret: Elefanter är kända för sina imponerande flygförmågor!

2. Hallucinationer som strider mot sammanhanget

Dessa uppstår när LLM genererar svar som avviker från tidigare fastställd information inom samma konversation.

Låt oss säga att du för en dialog med en AI om Pluto och solsystemet, och verktyget berättar om dvärgplanetens kalla, steniga terräng. Om du nu frågar vidare om Pluto kan hysa liv, börjar LLM beskriva frodiga gröna skogar och vidsträckta hav på planeten. Oj! ☀️

3. Hallucinationer som strider mot fakta

Bland de vanligaste formerna av AI-hallucinationer finns faktiska felaktigheter, där genererad text verkar trovärdig men i slutändan är osann. Även om det övergripande konceptet i svaret kan stämma överens med verkligheten, kan detaljerna vara felaktiga.

I februari 2023 hävdade till exempel Googles chatbot Bard AI felaktigt att James Webb Space Telescope hade tagit de första bilderna av en planet utanför vårt solsystem. NASA bekräftade dock att de första bilderna av exoplaneter togs 2004, före lanseringen av James Webb Space Telescope 2021.

Effekterna av AI-hallucinationer

Det tar bara några millisekunder för AI-verktyg att generera svar eller lösningar, men konsekvenserna av ett felaktigt svar kan vara allvarliga, särskilt om användaren inte är så kritisk. Några vanliga konsekvenser är:

Hur man mildrar problem med AI-hallucinationer

Här är några experttips och tricks för att mildra generativa AI-hallucinationer.

Säkerställ mångfald och representation i träningsdata

Som vi diskuterade tidigare gör otillräckliga träningsdata ofta en AI-modell benägen att drabbas av hallucinationer. Om du är den som bygger ett AI-verktyg, se därför till att det tränas på mångsidiga och representativa datamängder, inklusive källor från registersystem. Tanken är att ge LLM:er möjlighet att generera svar som är fyllda med kontextuell relevant information, något som offentliga modeller ofta misslyckas med.

En kraftfull teknik, känd som Retrieval Augmented Generation (RAG), förser LLM med en kurerad kunskapsbank, vilket begränsar deras tendens att hallucinera. Dessutom minskar inkludering och representation inom olika domäner av datamängder, samt regelbundna uppdateringar och utökningar, risken för partiska resultat.

Och om du bara är en användare behöver du bara välja ett AI-verktyg som är bättre tränat än offentliga modeller. Du kan till exempel välja ClickUp Brain, världens första generativa AI-neuronätverk som tränats med mycket kontextuella datamängder.

Till skillnad från generiska GPT-verktyg har ClickUp Brain tränats och optimerats för en rad olika arbetsroller och användningsfall. Dess svar är situationsrelevanta och sammanhängande, och du kan använda verktyget för att:

Skapa enkla och direkta uppmaningar

Prompt engineering kan vara en annan kraftfull lösning för att generera mer förutsägbara och exakta svar från AI-modeller.

Kvaliteten och noggrannheten i de resultat som genereras av LLM är direkt proportionella mot tydligheten, specificiteten och precisionen i de uppmaningar de får. Därför är det av största vikt att vara noggrann med detaljerna under uppmaningsfasen, eftersom det gör det möjligt att ge LLM tydliga instruktioner och kontextuella ledtrådar. Eliminera alla irrelevanta detaljer eller invecklade meningar för att underlätta mer exakta svar och förhindra AI-hallucinationer.

Experimentera med en teknik som kallas temperaturinställningar

Temperaturen i AI fungerar som en avgörande parameter som styr graden av slumpmässighet i systemets utdata. Den styr balansen mellan mångfald och konservatism, där högre temperaturer utlöser ökad slumpmässighet och lägre temperaturer ger deterministiska resultat.

Se om det AI-verktyg du använder tillåter en lägre temperaturinställning för att förbättra svarens noggrannhet, särskilt när du söker faktabaserad information. Kom ihåg att högre temperaturer ökar risken för hallucinationer, men också ger svaren mer kreativitet.

Hur hjälper ClickUp till att minska AI-hallucinationer?

ClickUp är en mångsidig arbets- och produktivitetsplattform som är utformad för att effektivisera uppgiftshantering, kunskapsorganisation och samarbete för team. Den har en inbyggd AI-modell, ClickUp Brain, som gör det möjligt för team att få tillgång till korrekt information och precisa AI-funktioner i olika användningsfall.

ClickUp kan minska risken för AI-hallucinationer i ditt dagliga arbete på två sätt:

1. Utnyttja ClickUps expertmallar för AI-promptar

AI-promptmallar är utformade för att hjälpa dig att arbeta mer effektivt med ChatGPT och liknande verktyg, med målet att förhindra AI-hallucinationer. Du hittar noggrant anpassade och anpassningsbara promptar för dussintals användningsfall, från marknadsföring till HR. Låt oss utforska alternativ för:

ClickUp ChatGPT-prompter för teknik

ClickUp ChatGPT Prompts for Engineering Template erbjuder över 12 kategorier av promptuppsättningar, inklusive AI-kodning, felrapporter och dataanalys. Vad ingår:

Med specifika uppmaningar som – Jag behöver skapa en modell som kan förutsäga [önskat resultat] baserat på [datauppsättning] ger du tydliga instruktioner och säkerställer att din slutliga beräkning är tillförlitlig och korrekt.

Dessutom kan du få tillgång till inbyggd AI-assistans för tekniska skrivuppgifter som att skapa användarhandböcker, förslag och forskningsrapporter.

ClickUp ChatGPT-prompter för skrivande

ClickUp ChatGPT Prompts for Writing Template hjälper dig att enkelt generera nya idéer och innehåll för artiklar, blogginlägg och andra innehållsformat, skapa fängslande berättelser med unika perspektiv som tilltalar dina läsare och brainstorma nya ämnen och tillvägagångssätt för att ge nytt liv åt ditt skrivande.

Till exempel hjälper denna malls prompt – Jag behöver skapa ett övertygande [typ av dokument] som kommer att övertyga mina läsare att vidta [önskad åtgärd] – dig att förmedla tre huvudsakliga saker till ChatGPT:

Dessa instruktioner gör det möjligt för AI-modellen att ta fram en mycket detaljerad text som tar hänsyn till alla dina behov utan att producera felaktigt innehåll.

Vad ingår:

ClickUp ChatGPT-prompter för projektledning

Är du trött på komplexa projekt? Låt inte dataöverbelastning tynga dig! Med ClickUp ChatGPT Prompts för projektledningsmall kan du öka din produktivitet tiofaldigt!

Denna heltäckande mall erbjuder olika uppmaningar för att hantera praktiskt taget alla utmaningar inom projektledning:

Förvänta dig uppmaningar som – Jag letar efter strategier för att säkerställa framgångsrik projektleverans och minimera risker förknippade med [typ av projekt], för att anpassa en unik strategi för att minimera risker i alla typer av projekt.

2. Använda ClickUp Brain för högprofessionellt AI-genererat innehåll

ClickUp Brain är ett neuralt nätverk som kan bli den hemliga produktivitetsboosten för ditt team. Oavsett om du är chef eller utvecklare kan du enkelt utnyttja dess över 100 forskningsbaserade rollspecifika uppmaningar för att underlätta allt arbete. Du kan till exempel använda verktyget för att brainstorma idéer och generera rapporter om:

Det finns också möjlighet att sammanfatta alla veckovisa projektuppdateringar för att hjälpa dig att få en snabb överblick över ditt arbete. Och om du hanterar projektdokument som SOP:er, kontrakt eller riktlinjer, då är ClickUp Brains skrivfunktioner precis vad du behöver!

Förutom att vara ett generativt AI-verktyg är ClickUp Brain en kunskapshanterare för ditt företags portfölj. Dess neurala nätverk kopplar samman alla dina uppgifter, dokument och arbetsdiskussioner – du kan extrahera relevant data med enkla frågor och kommandon.

Åsikter om AI-hallucinationer

Frågan om AI-hallucinationer väcker motstridiga åsikter inom AI-samhället.

OpenAI, skaparen av ChatGPT, erkänner till exempel hallucinationsproblemet som ett stort problem. Medgrundaren John Schulman betonar risken för fabricering och säger: Vår största oro gällde fakta, eftersom modellen gärna fabricerar saker.

OpenAI:s VD Sam Altman ser däremot AI:s förmåga att generera hallucinationer som ett tecken på kreativitet och innovation. Denna kontrasterande synvinkel understryker de komplexa offentliga narrativen kring AI:s resultat och förväntningar.

IBM Watson är en annan lösning som har bidragit till att utforska frågor om ansvarsfull AI-utveckling och behovet av robusta skyddsåtgärder. När IBM Watson försökte analysera medicinska data för potentiella cancerpatienter genererade modellen felaktiga rekommendationer, vilket ledde till förvirrande tester.

IBM insåg Watsons begränsningar och betonade vikten av mänskligt samarbete med AI. Detta ledde till utvecklingen av Watson OpenScale, en öppen plattform som förser användarna med verktyg för att styra AI, vilket säkerställer större rättvisa och minskad partiskhet.

Använd ClickUp för att förhindra AI-hallucinationer

Medan ledande teknikföretag som Google, Microsoft och OpenAI aktivt söker lösningar för att minimera dessa risker, kan moderna team inte vänta i evighet på att en lösning ska dyka upp.

Faran med AI-hallucinationer kan inte ignoreras, men det är ett ganska lättlöst problem om du använder rätt verktyg och utövar gott, gammalt mänskligt omdöme. Den bästa lösningen? Utnyttja ClickUps branschspecifika uppmaningar, gratis mallar och skrivfunktioner för att minimera förekomsten av hallucinationer.

Registrera dig för ClickUp idag för att börja ta dig mot framgång! ❣️