O efeito Nelson Mandela da tecnologia: Alucinações de IA [com dicas para reduzi-las]

Há pouca diferença entre as alucinações dos seres humanos e da inteligência artificial (IA). 😵‍💫

Ambas podem lembrar fatos incorretamente, inventar declarações fictícias e tirar conclusões erradas. No entanto, as alucinações humanas estão enraizadas em vieses cognitivos e distorções mentais — elas raramente afetam nossas decisões diárias. Por outro lado, as alucinações da IA podem ser bastante caras, pois essas ferramentas apresentam informações incorretas como fatos — e com grande confiança, também.

Então, isso significa que devemos parar de usar essas ferramentas de IA que, de outra forma, seriam úteis? Não!

Com um pouco de discernimento e prompts melhores, você pode facilmente virar a maré da IA a seu favor, e é exatamente nisso que vamos ajudá-lo nesta postagem do blog. Abordaremos:

O que são alucinações de IA?

O fenômeno em que modelos de IA generativa produzem informações incorretas como se fossem verdadeiras é chamado de alucinação de IA.

Aqui está um trecho de como Avivah Litan, vice-presidente de análise da Gartner, explica as alucinações de IA –

...resultados totalmente inventados a partir de um grande modelo de linguagem. Embora representem fatos totalmente inventados, os resultados do LLM (grande modelo de linguagem) os apresentam com confiança e autoridade.

Modelos de IA alucinantes: origens e evolução

No vasto glossário da IA, o termo alucinação de IA é relativamente novo. No entanto, sua existência remonta aos primórdios dos sistemas de IA na década de 1950. Do ponto de vista acadêmico, o conceito apareceu pela primeira vez em artigos de pesquisa intitulados Proceedings: Fourth IEEE International Conference on Automatic Face and Gesture Recognition em 2000.

O reconhecimento de um modelo de IA alucinante ganhou mais atenção no final da década de 2010, com o surgimento de grandes nomes como Google DeepMind e ChatGPT. Recentemente, os usuários foram expostos a vários exemplos de alucinações de IA. Por exemplo, um estudo de 2021 revelou que um sistema de IA treinado com imagens de pandas identificou erroneamente objetos não relacionados, como girafas e bicicletas, como pandas.

Em outro estudo de 2023 realizado pela Biblioteca Nacional de Medicina, pesquisadores examinaram a precisão das referências em artigos médicos gerados pelo ChatGPT. Das 115 referências, apenas 7% foram consideradas precisas, enquanto 47% eram completamente inventadas e 46% eram autênticas, mas imprecisas.

Quatro elementos que contribuem para as alucinações de IA

As alucinações de IA ocorrem devido a quatro fatores inerentes e principalmente técnicos:

1. Dados de treinamento imprecisos ou tendenciosos

Os dados usados no aprendizado de máquina são o que eventualmente determina o conteúdo gerado por um modelo de IA. Dados de treinamento de baixa qualidade podem estar repletos de erros, vieses ou inconsistências, o que pode corromper o algoritmo final. Essa IA aprenderá informações distorcidas e estará mais propensa a gerar resultados imprecisos.

Leitura bônus: aprenda sobre a diferença entre aprendizado de máquina e IA.

2. Lacuna de interpretação

Os modelos de IA podem ser confundidos por expressões idiomáticas, gírias, sarcasmo, linguagem coloquial e outras nuances da linguagem humana, levando o sistema a produzir informações sem sentido ou imprecisas. Em outras situações, mesmo que os dados de treinamento sejam bons, o modelo pode não ter a programação necessária para compreendê-los corretamente, levando a interpretações errôneas e alucinações.

3. Déficit de verdade fundamental

Ao contrário das tarefas com respostas certas e erradas claras, as tarefas generativas carecem de uma verdade fundamental definitiva, por assim dizer, para que o modelo aprenda. Essa ausência de um ponto de referência torna difícil para o modelo discernir o que faz sentido e o que não faz, resultando em respostas imprecisas.

4. A armadilha da complexidade

Embora modelos altamente inteligentes como o GPT-4 ofereçam ótimos recursos, sua complexidade pode ser uma faca de dois gumes. Muitos modelos de IA cometem erros ao sobrecarregar os dados ou memorizar padrões irrelevantes, levando à geração de informações falsas. Prompts mal projetados também levam a resultados inconsistentes com modelos de IA mais complexos.

Como e por que as alucinações de IA ocorrem: perspectiva de processamento

Grandes modelos de linguagem (LLMs), como o ChatGPT e o Bard do Google, impulsionam o mundo dinâmico da IA generativa, gerando textos semelhantes aos humanos com notável fluência. No entanto, por trás de sua eficácia, existe uma limitação crucial: a falta de compreensão contextual do mundo que eles descrevem.

Para entender como ocorre uma alucinação de IA, precisamos nos aprofundar no funcionamento interno dos LLMs. Imagine-os como vastos arquivos digitais cheios de livros, artigos e trocas nas redes sociais.

Para processar dados, os LLMs:

À medida que os LLMs processam mais dados, eles começam a identificar padrões na linguagem, como regras gramaticais e associações de palavras. Por exemplo, uma ferramenta de IA para um assistente virtual (VA) pode observar as respostas do VA a reclamações comuns de clientes e sugerir soluções identificando determinadas palavras-chave. Infelizmente, qualquer falha nesse processo pode desencadear uma alucinação.

Essencialmente, a IA nunca compreende realmente o verdadeiro significado das palavras que manipula. A professora Emily M. Bender, especialista em linguística, resume perfeitamente a perspectiva de um LLM: Se você vê a palavra “gato”, isso imediatamente evoca experiências com gatos e coisas relacionadas a gatos. Para o grande modelo de linguagem, é uma sequência de caracteres C-A-T. 😹

Exemplos de alucinações de IA em nosso mundo

As alucinações de IA representam um desafio multifacetado, conforme demonstrado por vários exemplos da vida real. Dê uma olhada em quatro categorias. 👀

1. Profissão jurídica

Em maio de 2023, um advogado teve que enfrentar consequências após usar o ChatGPT para redigir uma moção contendo opiniões jurídicas e citações fictícias, sem saber da capacidade do modelo de gerar textos errôneos.

2. Desinformação sobre indivíduos

O ChatGPT tem sido usado para espalhar narrativas falsas, como acusar um professor de direito de assédio e implicar injustamente um prefeito australiano em um caso de suborno, causando danos à reputação, entre outras consequências graves.

3. Ataques intencionais ou adversários

Agentes mal-intencionados podem manipular dados sutilmente, fazendo com que os sistemas de IA interpretem erroneamente as informações. Por exemplo, alguém configurou um sistema de IA para identificar erroneamente a imagem de um gato como guacamole, destacando a vulnerabilidade devido à falta de controle adequado das ferramentas de IA.

4. Chatbots de IA

Imagine interagir com chatbots de IA para buscar informações ou apenas por diversão. Embora suas respostas possam ser envolventes, há uma grande chance de elas serem completamente inventadas.

Veja o caso do Rei Renoit, por exemplo. Considere o ChatGPT e qualquer outro chatbot de IA. Pergunte a ambos: Quem foi o Rei Renoit? 👑

Com “barreiras de proteção” em vigor (uma estrutura criada para garantir resultados positivos e imparciais), o ChatGPT pode admitir que não sabe a resposta. No entanto, uma ferramenta de IA menos restritiva, criada com a mesma tecnologia subjacente (GPT), pode fabricar com confiança uma biografia para esse rei inexistente.

Tipos de alucinações de IA possíveis para um sistema de IA generativa

As alucinações de IA variam em gravidade e podem ir desde inconsistências factuais sutis até bobagens completas. Vamos nos concentrar em três tipos comuns de alucinações de IA:

1. Alucinações com conflito de entrada

Elas ocorrem quando os LLMs geram conteúdo que contradiz ou se desvia significativamente da solicitação original fornecida pelo usuário.

Imagine perguntar a um assistente de IA: Quais são os maiores animais terrestres?

E recebendo a resposta: Os elefantes são conhecidos por suas impressionantes habilidades de voo!

2. Alucinações com conflito de contexto

Elas ocorrem quando os LLMs geram respostas que se afastam das informações previamente estabelecidas na mesma conversa.

Digamos que você esteja conversando com uma IA sobre Plutão e o sistema solar, e a ferramenta lhe fale sobre o terreno frio e rochoso do planeta anão. Agora, se você perguntar se Plutão abriga vida, o LLM começa a descrever florestas verdejantes e vastos oceanos no planeta. Caramba! ☀️

3. Alucinações que contradizem os fatos

Entre as formas mais comuns de alucinações de IA estão as imprecisões factuais, em que o texto gerado parece plausível, mas acaba sendo falso. Embora o conceito geral da resposta possa estar alinhado com a realidade, os detalhes podem estar errados.

Por exemplo, em fevereiro de 2023, o chatbot Bard AI do Google afirmou erroneamente que o Telescópio Espacial James Webb capturou as primeiras imagens de um planeta além do nosso sistema solar. No entanto, a NASA confirmou que as primeiras imagens de exoplanetas foram obtidas em 2004, antes do lançamento do Telescópio Espacial James Webb em 2021.

Impacto das alucinações de IA

Embora as ferramentas de IA levem alguns milissegundos para gerar respostas ou soluções, o impacto de uma resposta incorreta pode ser grave, especialmente se o usuário não for tão perspicaz. Algumas consequências comuns incluem:

Como mitigar os problemas de alucinações de IA

Aqui estão algumas dicas e truques de especialistas para mitigar as alucinações geradas pela IA.

Garanta a diversidade e a representatividade nos dados de treinamento

Como discutimos nas seções anteriores, dados de treinamento insuficientes muitas vezes tornam um modelo de IA propenso a alucinações. Portanto, se você é o responsável por criar uma ferramenta de IA, certifique-se de que ela seja treinada com conjuntos de dados diversificados e representativos, incluindo fontes de sistemas de registro. A ideia é capacitar os LLMs a gerar respostas repletas de informações contextualmente relevantes, algo que os modelos públicos muitas vezes não conseguem fazer.

Uma técnica poderosa, conhecida como Retrieval Augmented Generation (RAG), apresenta aos LLMs um conjunto selecionado de conhecimentos, restringindo sua tendência a alucinar. Além disso, a inclusão e a representação em vários domínios de conjuntos de dados, bem como atualizações e expansões regulares, mitigam o risco de resultados tendenciosos.

E se você é apenas um usuário, tudo o que precisa fazer é escolher uma ferramenta de IA que seja mais bem treinada do que os modelos públicos. Por exemplo, você pode optar pelo ClickUp Brain, a primeira rede neural de IA generativa do mundo treinada com conjuntos de dados altamente contextuais.

Ao contrário das ferramentas GPT genéricas, o ClickUp Brain foi treinado e otimizado para uma variedade de funções de trabalho e casos de uso. Suas respostas são relevantes para a situação e coerentes, e você pode aproveitar a ferramenta para:

Crie prompts simples e diretos

A engenharia de prompts pode ser outra solução poderosa para gerar respostas mais previsíveis e precisas dos modelos de IA.

A qualidade e a precisão dos resultados gerados pelos LLMs são diretamente proporcionais à clareza, especificidade e precisão das instruções que recebem. É por isso que a atenção aos detalhes é fundamental durante a fase de instruções, pois permite fornecer aos LLMs instruções claras e dicas contextuais. Elimine quaisquer detalhes irrelevantes ou frases complicadas para facilitar respostas mais precisas e evitar alucinações de IA.

Experimente uma técnica chamada configurações de temperatura.

A temperatura na IA serve como um parâmetro crucial que controla o grau de aleatoriedade na saída do sistema. Ela determina o equilíbrio entre diversidade e conservadorismo, com temperaturas mais altas provocando maior aleatoriedade e temperaturas mais baixas produzindo resultados determinísticos.

Veja se a ferramenta de IA que você usa permite uma configuração de temperatura mais baixa para aumentar a precisão das respostas, especialmente ao buscar informações baseadas em fatos. Lembre-se de que, embora temperaturas mais altas aumentem o risco de alucinações, elas também conferem mais criatividade às respostas.

Como o ClickUp ajuda a mitigar as alucinações de IA?

O ClickUp é uma plataforma versátil de trabalho e produtividade projetada para otimizar o gerenciamento de tarefas, a organização do conhecimento e a colaboração entre equipes. Ele possui um modelo de IA nativo, o ClickUp Brain, que permite que as equipes acessem informações precisas e funcionalidades de IA precisas em vários casos de uso.

O ClickUp pode reduzir o risco de alucinações de IA em sua produção diária de duas maneiras:

1. Aproveitando os modelos de prompts de IA especializados do ClickUp

Os modelos de prompts de IA são projetados para ajudá-lo a trabalhar com o ChatGPT e ferramentas semelhantes de forma mais eficiente, com o objetivo de prevenir alucinações de IA. Você pode encontrar prompts cuidadosamente personalizados e customizáveis para dezenas de casos de uso, desde marketing até RH. Vamos explorar as opções para:

ClickUp ChatGPT Prompts para engenharia

O modelo ClickUp ChatGPT Prompts for Engineering oferece mais de 12 categorias de conjuntos de prompts, incluindo codificação de IA, relatórios de bugs e análise de dados. O que está incluído:

Com prompts específicos como – Preciso criar um modelo que possa prever com precisão [resultado desejado] com base em [conjunto de dados], você fornece instruções claras e garante que seu cálculo final seja confiável e preciso.

Além disso, você pode acessar a assistência de IA integrada para tarefas de redação técnica, como elaboração de manuais do usuário, propostas e relatórios de pesquisa.

ClickUp ChatGPT Prompts para redação

O modelo ClickUp ChatGPT Prompts for Writing ajuda você a gerar facilmente novas ideias e conteúdos para artigos, posts de blog e outros formatos de conteúdo, criar histórias cativantes com perspectivas únicas que ressoam com seus leitores e debater novos tópicos e abordagens para revigorar sua escrita.

Por exemplo, o prompt deste modelo – Preciso criar um [tipo de documento] persuasivo que convença meus leitores a realizar [ação desejada] – ajuda você a transmitir três coisas principais ao ChatGPT:

Essas instruções permitem que o modelo de IA crie um texto superdetalhado que leva em consideração todas as suas necessidades sem produzir conteúdo falso.

O que está incluído:

ClickUp ChatGPT Prompts para gerenciamento de projetos

Você está cansado das complexidades dos projetos? Não deixe que a sobrecarga de dados o atrapalhe! Com o modelo ClickUp ChatGPT Prompts para gerenciamento de projetos, você pode aumentar sua produtividade em dez vezes!

Este modelo abrangente oferece diversos prompts para lidar com praticamente qualquer desafio de gerenciamento de projetos:

Espere prompts como – Estou procurando estratégias para garantir a entrega bem-sucedida do projeto e minimizar os riscos associados a [tipo de projeto], para personalizar uma estratégia exclusiva para minimizar os riscos em qualquer tipo de projeto.

2. Usando o ClickUp Brain para conteúdo altamente profissional gerado por IA

O ClickUp Brain é uma rede neural que pode se tornar o impulsionador secreto da produtividade da sua equipe. Seja você um gerente ou um desenvolvedor, pode facilmente aproveitar suas mais de 100 sugestões específicas para cada função, baseadas em pesquisas, para auxiliar em qualquer trabalho. Por exemplo, você pode usar a ferramenta para debater ideias e gerar relatórios sobre:

Também existe a opção de resumir todas as atualizações semanais do projeto para ajudá-lo a obter uma visão geral rápida do seu trabalho. E, se você lida com documentos de projetos, como SOPs, contratos ou diretrizes, as funcionalidades de redação do ClickUp Brain são ideais para você!

Além de ser uma ferramenta de IA generativa, o ClickUp Brain é um gerenciador de conhecimento para o portfólio da sua empresa. Sua rede neural conecta todas as suas tarefas, documentos e discussões de trabalho — você pode extrair dados relevantes com perguntas e comandos simples.

Opiniões sobre alucinações de IA

A questão das alucinações de IA gera pontos de vista contrastantes dentro da comunidade de IA.

Por exemplo, a OpenAI, criadora do ChatGPT, reconhece o problema das alucinações como uma grande preocupação. O cofundador John Schulman enfatiza o risco de fabricação, afirmando: Nossa maior preocupação era com a veracidade, porque o modelo gosta de inventar coisas.

Por outro lado, o CEO da OpenAI, Sam Altman, vê a própria capacidade da IA de gerar alucinações como um sinal de criatividade e inovação. Essa perspectiva contrastante ressalta as narrativas públicas complexas em torno dos resultados e das expectativas da IA.

O IBM Watson é outra solução que ajudou a explorar questões sobre o desenvolvimento responsável da IA e a necessidade de salvaguardas robustas. Quando o IBM Watson teve como objetivo analisar dados médicos de potenciais pacientes com câncer, o modelo gerou recomendações imprecisas, levando a exames confusos.

Reconhecendo as limitações do Watson, a IBM enfatizou a necessidade da colaboração humana com a IA. Isso levou ao desenvolvimento do Watson OpenScale, uma plataforma aberta que equipa os usuários com ferramentas para governar a IA, garantindo maior justiça e redução de preconceitos.

Use o ClickUp para evitar alucinações de IA

Embora empresas de tecnologia líderes como Google, Microsoft e OpenAI busquem ativamente soluções para minimizar esses riscos, as equipes modernas não podem esperar eternamente por uma solução.

A armadilha das alucinações de IA não pode ser ignorada, mas é um problema bastante solucionável se você usar as ferramentas certas e exercer o bom e velho discernimento humano. A melhor solução? Aproveite os prompts específicos do setor, modelos gratuitos e recursos de redação do ClickUp para minimizar os casos de alucinação.

Inscreva-se hoje mesmo no ClickUp para começar a trilhar seu caminho para o sucesso! ❣️