A verdade sobre as alucinações LLM com Barry Adams
O lançamento do ChatGPT deixou separado o setor de pesquisa, e os últimos anos viram cada vez mais integração de IA nas páginas de resultados dos mecanismos de pesquisa.
Na tentativa de acompanhar o LLMS, o Google lançou uma visão geral da IA e acaba de anunciar as guias do modo AI.
A expectativa é que os SERPs se tornem misturados com uma grande interface do Modelo de Idiomas (LLM), e a natureza de como a pesquisa de usuários se adaptará às conversas e viagens.
No entanto, há um problema em torno das alucinações e informações errôneas da IA nos resultados gerados por visão geral do LLM e do Google, e parece ser amplamente ignorado, não apenas pelo Google, mas também pelos editores de notícias que afeta.
Mais preocupante é que os usuários não tenham conhecimento ou preparados para aceitar o custo de desinformação por uma questão de conveniência.
Barry Adams é a autoridade do SEO editorial e trabalha com os principais títulos de editores de notícias em todo o mundo via Polemic Digital. Barry também fundou o News & Editorial SEO Summit junto com John Shehata.
Eu li um post do LinkedIn de Barry, onde ele disse:
“Os LLMs são incrivelmente burros. Não há nada inteligente sobre os LLMs. Eles são preditores avançados de palavras e usá -los para qualquer finalidade que exija uma base em fatos verificáveis - como consultas de pesquisa – está fundamentalmente errado.
Mas as pessoas parecem não se importar. O Google não parece se importar. E o setor de tecnologia com certeza não se importa, eles estão deliberadamente cegos por sinais de dólar.
Não acho que a mídia mais ampla esteja relatando suficientemente as imprecisões inerentes ao LLMS. Os editores desejam dizer que a IA generativa pode ser uma ameaça existencial para publicar na Web, mas não apontam consistentemente a maior fraqueza de Genai. ”
O post me levou a falar com ele com mais detalhes sobre as alucinações do LLM, seu impacto na publicação e o que a indústria precisa entender sobre as limitações da IA.
Você pode assistir à entrevista completa com Barry no IMHO abaixo ou continuar lendo o resumo do artigo.
https://www.youtube.com/watch?v=aclyi_naf2e
Por que os LLMs são tão ruins em citar fontes?
Pedi a Barry para explicar por que os LLMs lutam com a atribuição precisa da fonte e a confiabilidade factual.
Barry respondeu: “É porque eles não sabem de nada. Não há inteligência. Acho que chamá -los de AIS é o rótulo errado. Eles não são inteligentes de forma alguma. São máquinas de probabilidade. Eles não têm faculdades de raciocínio que o entendemos”.
Ele explicou que o LLMS opera regurgitando as respostas com base em dados de treinamento e depois tentando racionalizar suas respostas através de esforços de aterramento e vincular citações.
Mesmo com cuidadoso solicitação de usar apenas fontes verificadas, esses sistemas mantêm uma alta probabilidade de alucinar referências.
“Eles são apenas texto preditivo do seu telefone, em esteróides, e eles apenas inventam as coisas e o apresentarão com muita confiança para você, porque é exatamente isso que eles fazem. Essa é toda a natureza da tecnologia”, enfatizou Barry.
Essa apresentação confiante de informações potencialmente falsas representa um problema fundamental de como esses sistemas estão sendo implantados em cenários para os quais não são adequados.
Estamos criando uma espiral da IA de desinformação?
Compartilhei com Barry minhas preocupações sobre uma espiral de desinformação de IA em que o conteúdo de IA faz referência cada vez mais a outros conteúdos de IA, potencialmente perdendo a fonte de fatos e a verdade inteiramente.
A perspectiva de Barry foi pessimista: “Não acho que as pessoas se importem tanto com a verdade quanto talvez acreditemos que deveriam. Acho que as pessoas aceitarão as informações apresentadas a elas se forem úteis e se ela se conformará com suas crenças pré-existentes”.
“As pessoas realmente não se importam com a verdade. Eles se preocupam com a conveniência.”
Ele argumentou que os últimos 15 anos de mídia social provaram que as pessoas priorizam a confirmação de suas crenças sobre a precisão factual.
Os LLMs facilitam esse processo ainda mais do que as mídias sociais, fornecendo respostas convenientes sem a necessidade de pensar ou verificação crítica.
“A ameaça real é como a IA está substituindo a verdade por conveniência”, observou Barry, observando que o abraço da IA do Google representa um passo claro de surgir informações factuais para fornecer o que os usuários desejam ouvir.
Barry alertou que estamos entrando em uma espiral onde “as sociedades inteiras viverão em realidades paralelas e ridicularizamos o outro lado como notícias falsas e não é real”.
Por que a grande mídia não está chamando as limitações da IA?
Perguntei a Barry por que a grande mídia não é mais vocal sobre as fraquezas da IA, especialmente porque os editores poderiam se salvar, influenciando a percepção pública das limitações da Gen AI.
Barry identificou vários fatores: “O Google é uma força tão poderosa na condução do tráfego e receita para os editores que muitos editores têm medo de escrever muito criticamente sobre o Google porque acham que pode haver repercussões”.
Ele também observou que muitos jornalistas não entendem genuinamente como os sistemas de IA funcionam. Jornalistas de tecnologia que entendem as questões às vezes levantam questões, mas os repórteres gerais para os principais jornais geralmente não têm conhecimento para examinar adequadamente a IA.
Barry apontou para a promessa do Google de que as visões gerais da IA enviariam mais tráfego aos editores como exemplo: “Acontece que, não, esse é exatamente o oposto do que está acontecendo, que todo mundo com duas células cerebrais viu a uma milha de distância”.
Como explicamos a redução do tráfego para os editores de notícias?
Observei pesquisas que mostram que os usuários clicam em fontes para verificar as saídas da IA e que o Google não mostra visões gerais da IA nas principais notícias. No entanto, o tráfego para os editores de notícias continua a diminuir em geral.
Barry explicou que isso envolve vários fatores:
“As pessoas clicam em fontes. As pessoas verificam duas vezes as citações, mas não na mesma medida de antes. Chatgpt e Gemini fornecerão uma resposta. As pessoas clicarão em dois ou três links para verificar.
Anteriormente, os usuários que conduzem sua própria pesquisa clicavam em 30 a 40 links e os liam em detalhes. Agora eles podem verificar as respostas da IA com apenas alguns cliques.
Além disso, embora os editores de notícias sejam menos afetados pelas visões gerais da IA, eles perderam o tráfego do conteúdo explicativo, histórias de fundo e peças de análise que a IA agora lida diretamente com o mínimo de cliques em fontes. ”
Barry enfatizou que o Google diminui o tráfego de editores há anos por meio de atualizações e esforços de algoritmos para manter os usuários no ecossistema do Google por mais tempo.
“O Google é o gateway informativo do monopólio na web. Para que você possa dizer: ‘Oh, não depende do Google’, mas você precisa estar onde seus usuários estão e não pode ter um negócio de publicação viável sem confiar fortemente no tráfego do Google.”
O que os editores devem fazer para sobreviver?
Pedi a Barry suas recomendações sobre otimização da Inclusão do LLM e como sobreviver à introdução dos resultados de pesquisa gerados por IA.
Barry aconselhou os editores a aceitar que o tráfego de pesquisa diminuirá ao se concentrar na construção de uma identidade de marca mais forte.
“Acho que os editores precisam estar mais confiantes sobre o que são e especificamente o que não são”.
Ele destacou o Financial Times como um modelo exemplar porque “ninguém tem dúvidas sobre o que é o Financial Times e que tipo de relatórios está se inscrevendo”.
Essa clareza permite uma forte conversão de assinatura porque os leitores entendem o valor específico que estão recebendo.
Barry enfatizou a importância de desenvolver o poder da marca que faz com que os usuários procurem especificamente publicações específicas: “Acho que muitos editores tentam ser tudo para todos e, portanto, não são nada a ninguém. Você precisa ter uma voz forte de marca”.
Ele usou o exemplo do Daily Mail que consegue através da identidade consistente da marca, com os usuários pesquisando especificamente o nome da marca com pesquisas tópicas como “Meghan Markle Daily Mail” ou “Prince Harry Daily Mail”.
O objetivo é criar relacionamentos diretos que ignorem os intermediários por meio de aplicativos, boletins informativos e visitas diretas ao site.
A identidade da marca imperativa
Barry enfatizou que os editores que cobrem tópicos semelhantes com conteúdo intercambiável enfrentam ameaças existenciais.
Ele trabalha com editores onde “todos eles estão relatando as mesmas coisas com as mesmas capturas de tela e as mesmas fotos e praticamente o mesmo conteúdo”.
Tais publicações se tornam vulneráveis porque os leitores não perdem nada, substituindo uma fonte por outra. O sucesso requer o desenvolvimento de proposições de valor exclusivas que fazem do público procurar especificamente publicações específicas.
“Você precisa ter uma identidade de marca muito forte como editora. E se você não a tiver, provavelmente não existirá nos próximos cinco a dez anos”, concluiu Barry.
Barry aconselhou os editores de notícias a se concentrarem no desenvolvimento da marca, modelos de assinatura e criação de ecossistemas de conteúdo que não dependem inteiramente no Google. Isso pode significar menos cliques, mas mais significativos e de maior qualidade.
Avançando
A opinião de Barry e a realidade das mudanças que a IA estão forçando são verdades difíceis.
O setor requer reconhecimento honesto de limitações de IA, construção de marcas estratégicas e aceitação de que o fácil tráfego de pesquisa não retorne.
Os editores têm duas opções: continuar perseguindo o tráfego de pesquisa diminuindo com o mesmo conteúdo que todos os outros estão produzindo, ou investem em relacionamentos diretos do público que fornecem fundações sustentáveis para o jornalismo de qualidade.
Obrigado a Barry Adams por oferecer suas idéias e ser meu convidado no IMHO.
Mais recursos:
Imagem em destaque: Shelley Walsh/Pesquisa Motor Journal
