Skip to main content
espanhol
  • Resources
  • Matérias

IA e o lado controverso da “criatividade” das máquinas

IA tem se tornado quase um “universo a parte” que, apesar de fascinante, continua a nos surpreender com suas conquistas e a nos desafiar com suas complexidades e peculiaridades. Uma preocupação recente e bem comentada são as “alucinações”

Como tema da moda, IA tem se tornado quase um “universo a parte” que, apesar de fascinante, continua a nos surpreender com suas conquistas e a nos desafiar com suas complexidades e peculiaridades. Uma preocupação recente e bem comentada são as “alucinações”. Essas alucinações se manifestam quando os sistemas produzem informações que se mostram incorretas ou fictícias, sendo que esse fenômeno e suas ramificações geram uma série de questões cruciais.

O progresso da tecnologia utilizada, em especial os modelos de linguagem como o ChatGPT, tem alavandado a capacidade de gerar automaticamente sequências de texto. Esses modelos operam com base em padrões obtidos a partir de vastos conjuntos de dados textuais. Essa previsão automatizada, embora impressionante, não é sempre infalível, o que pode resultar na criação de conteúdos que poderiam ser consideradas alucinações que, apesar de plausíveis à primeira vista, necessitam de fundamentação concreta dos dados.

As causas raízes residem na natureza do treinamento desses modelos de IA. Ao serem expostos a quantidades massivas de dados, os modelos aprendem a capturar padrões recorrentes na linguagem, como construções sintáticas e semânticas. Entretanto, essa aprendizagem nem sempre acontece sem imperfeições. Os modelos podem interpretar erroneamente conexões sutis ou, em determinadas situações, preencher espaços em branco com conjecturas que parecem apropriadas, mas que não se baseiam em fatos confiáveis e até mesmo verificáveis.

Por muitas vezes o resultado coeso gerado e os modelos podem inadvertidamente gerar informações que, embora convincentes, carecem de autenticidade. A busca por mitigar as alucinações em IA envolve aprimorar a capacidade dos modelos de discernir entre informações genuínas e conjecturas, aperfeiçoando mecanismos de validação e filtragem. Além disso, exige uma compreensão aprofundada do contexto, uma vez que as alucinações muitas vezes surgem da dificuldade dos modelos em interpretar sutilezas nas informações de entrada.

Possíveis causas das alucinações

Um agravante é a busca incessante dos modelos por coerência e continuidade textual de forma a oferecer respostas fluidas e naturais. A compreensão das causas das alucinações em sistemas de IA são fundamentais para aprimorar a precisão e a confiabilidade dessas tecnologias. Segundo especialistas, existem quatro razões principais que podem gerar alucinações:

  1. Extrapolação criativa: a capacidade de prever palavras subsequentes é uma característica central dos LLM´s, acrônimo para Large Language Model – usados pelas soluções de IA Generativa, como o ChatGPT. Esses modelos são treinados em enormes conjuntos de  dados textuais para aprender padrões e estruturas linguísticas. No entanto, essa previsão nem sempre é precisa, pois os modelos tentam antecipar as palavras seguintes com base em padrões previamente identificados. Isso pode levá-los a extrapolar informações que não são diretamente suportadas pelos dados de treinamento, criando elementos que parecem plausíveis, mas que podem pecar na veracidade.
  2. Lacunas de dados: a qualidade dos dados de treinamento desempenha um papel crítico na capacidade dos modelos de IA de gerar informações precisas. Se os dados forem incompletos, imprecisos ou ambíguos, os modelos podem enfrentar dificuldades em lidar com cenários em que as informações necessárias estejam ausentes. Para preencher essas lacunas, os modelos podem recorrer a suposições, criando conteúdos que não estão fundamentados em fatos reais.
  3. Conflitos de informação: quando os dados de treinamento contêm informações contraditórias, os modelos podem ficar confusos sobre qual informação devem privilegiar. A falta de coerência nos dados pode levar a respostas que oscilam entre diferentes interpretações, resultando em alucinações. Os modelos podem ter dificuldade em discernir qual informação é a mais apropriada para um determinado contexto, levando a respostas imprecisas ou até mesmo incorretas.
  4. Contextualização difícil: compreender o contexto de uma conversa ou tarefa é um desafio complexo para os modelos de IA. Enquanto os seres humanos usam nuances e entendimentos sutis do contexto para gerar respostas adequadas, a IA pode ter dificuldade em interpretar o contexto de  maneira completa. Isso pode resultar em respostas que não estão alinhadas com o contexto pretendido, levando a informações incorretas ou alucinações.

Principais impactos e desafios

As alucinações não apenas despertam um debate técnico, mas também podem gerar impactos significativos em várias esferas da sociedade. Imagine confiar em um assistente virtual para aconselhamento médico e, em vez de informações precisas, receber respostas imprecisas ou fictícias. Além disso, a disseminação de notícias geradas por IA com informações dúbias, incorretas ou fictícias pode resultar numa “desinformação generalizada”, minando a credibilidade do emissor da informação e prejudicando até a tomada de decisões pelo público.

Outra questão é que a confiança é um alicerce fundamental nos sistemas de IA. Quando alucinações ocorrem, a confiança nos sistemas é abalada. A eliminação completa das alucinações é um desafio complexo já que os modelos de IA são projetados para prever palavras e, muitas vezes, esse processo envolve uma certa imprecisão. A busca pelo equilíbrio    entre a criatividade e precisão se torna essencial, pois a a primeira impulsiona a capacidade de gerar novas ideias e respostas, mas por sua vez, o processo criativo não deve comprometer a exatidão das informações fornecidas.

Além dos desafios técnicos, existem implicações éticas e sociais decorrentes das alucinações em IA. A falta de transparência e confiabilidade em sistemas de IA pode levantar questões sobre responsabilização e prestação de contas. A adoção de sistemas de IA deve ser feita de maneira ética e os riscos associados às alucinações devem ser  devidamente estimados e gerenciados.

Criatividade x Precisão

As alucinações transcendem as fronteiras da pura precisão, mergulhando num dilema complexo entre criatividade e exatidão. A capacidade das IAs em prever sequências de palavras e gerar texto automaticamente é uma manifestação impressionante da criatividade. É essa interação entre a expressão criativa e a precisão factual que dá origem ao dilema das alucinações.

Uma questão crucial dessa interação é a priorização da plausibilidade em detrimento da  correção. Os modelos de IA são treinados para captar padrões e estruturas linguísticas a partir de vastos conjuntos de dados textuais. No entanto, a habilidade de previsão muitas vezes é direcionada para gerar respostas que pareçam plausíveis, mas podem e devem carecer da validação precisa dos fatos.

Outro ponto relevante desse dilema é a variação nas respostas geradas por uma IA ao ser questionada repetidamente sobre o mesmo tópico. Isso ocorre porque, ao priorizar a criatividade e a plausibilidade, os modelos de IA podem explorar diferentes interpretações e associações, resultando em respostas diversas. Essa variação intrínseca reflete a dificuldade de atingir um alto grau de precisão em meio à complexidade e à diversidade da linguagem humana.

Considerações finais

Embora os avanços tecnológicos estejam a caminho, a eliminação completa das alucinações não é uma jornada sem desafios. A complexidade intrínseca da linguagem humana, com suas nuances e ambiguidades, aliada à natureza em constante evolução do contexto, cria uma teia intricada na qual as IAs operam. Isso significa que mesmo as soluções mais sofisticadas podem não    ficar isentas de imprecisões ocasionais.

A correção, a ética e a viabilidade desses sistemas não são apenas preocupações passageiras, mas sim pilares fundamentais para o futuro da IA. À medida que a tecnologia se torna mais integrada ao nosso cotidiano, o impacto das alucinações se torna mais proeminente, seja na redação de conteúdo, na pesquisa acadêmica, na tomada de decisões médicas ou em uma variedade de outras aplicações.

O fenômeno das alucinações já sinaliza um importante alerta de que a IA seja uma força inovadora ainda está em constante metamorfose. A expressão criativa dessas tecnologias é uma prova de suas capacidades notáveis, que podem transcender as fronteiras humanas. De qq forma, todo esse esplendor criativo não pode nem deve obscurecer a essência fundamental relativa à precisão factual. A efervescência da geração automática de texto, que ecoa nos corredores digitais, deve ser poderada com a firmeza e garantia de informações verídicas.

Aprimoramentos contínuos nos modelos de IA, impulsionados por uma injeção de inovação técnica, nutridos por debates éticos e orientados por considerações sociais, podem garantir um caminho de equilíbrio mais refinado. A busca incessante por um ajuste sutil entre a liberdade criativa das IA e a responsabilidade de fornecer informações confiáveis deve ser a espinha dorsal dos esforços. Por meio da colaboração multidisciplinar e do compromisso com a transparência, pode-se forjar um  caminho em direção a um futuro em que a criatividade encontre a sua contraparte na precisão. A cada avanço tecnológico e a cada reflexão ética, será moldado o destino da IA para que ela sirva como um farol de conhecimento, de forma que possamos ter um mundo onde a inovação e a confiabilidade caminhem juntos.

O desafio reside em encontrar equilíbrio entre criatividade e precisão, juntamente com a exploração contínua das complexidades éticas subjacentes garantindo a trajetória da IA. Com o avanço dessa jornada, é responsabilidade coletiva manter a discussão viva, ajustar as regulamentações  e garantir que a IA sirva como uma ferramenta poderosa e sempre para o bem, sem ceder às tentações das potenciais alucinações ocasionais.

Fonte: MIT – Technology Review Brasil – out/23