Alucinações persistem em liderar os modelos de IA
Um relatório da Associação para o Avanço da Inteligência Artificial (AAAI) revela uma desconexão entre as percepções públicas das capacidades de IA e a realidade da tecnologia atual.
A factualidade continua sendo um grande desafio não resolvido para os modelos mais avançados.
O relatório do “Painel Presidencial sobre o Futuro da IA” da AAAI se baseia em contribuições de 24 pesquisadores experientes de IA e respostas de pesquisas de 475 participantes.
Aqui estão as descobertas que afetam diretamente as estratégias de pesquisa e marketing digital.
Os principais modelos de IA falham nos testes de factualidade básica
Apesar dos bilhões de investimentos em pesquisa, a factualidade da IA permanece amplamente não resolvida.
De acordo com o relatório, mesmo os modelos mais avançados do OpenAI e antropal “responderam corretamente menos da metade das perguntas” em novos benchmarks como o SimpleQa, uma coleção de perguntas diretas.
O relatório identifica três técnicas principais sendo implantadas para melhorar a factualidade:
- Geração de recuperação usededed (RAG): Reunir documentos relevantes usando a recuperação de informações tradicionais antes de gerar respostas.
- Verificações de raciocínio automatizadas: Verificando os resultados contra regras predefinidas para abater respostas inconsistentes.
- Cadeia de pensamento (berço): Quebrar perguntas em unidades menores e solicitar a IA para refletir sobre conclusões provisórias
No entanto, essas técnicas mostram sucesso limitado, com 60% dos pesquisadores da IA que expressam pessimismo de que questões de factualidade serão “resolvidas” em um futuro próximo.
Isso sugere que você deve se preparar para a supervisão humana contínua para garantir a precisão do conteúdo e dos dados. As ferramentas de IA podem acelerar tarefas de rotina, mas a autonomia total permanece arriscada.
A lacuna de realidade: recursos de IA vs. percepção pública
O relatório destaca uma lacuna de percepção preocupante, com 79% dos pesquisadores da IA pesquisados discordando ou discordando fortemente de que “a percepção atual dos recursos da IA corresponde à realidade”.
O relatório afirma:
“O atual ciclo de hype generativo da IA é a primeira introdução à IA para talvez a maioria das pessoas no mundo e elas não têm as ferramentas para avaliar a validade de muitas reivindicações”.
Em novembro, o Gartner colocou a IA generativa logo após o pico das expectativas infladas e agora está indo para a “calha de desilusão” em sua estrutura de ciclo de hype.
Para aqueles em SEO e marketing digital, esse ciclo pode provocar padrões de investimento boom ou bust. Os tomadores de decisão podem sobrecarregar os recursos com base na promessa de curto prazo da IA, apenas para experimentar contratempos quando o desempenho não cumprir os objetivos.
Talvez o mais preocupante, 74% dos pesquisadores acreditam que as instruções de pesquisa são conduzidas por hype, e não por prioridades científicas, potencialmente desviando recursos de questões fundamentais, como a factualidade.
O relatório observa que “muitas das declarações públicas de pessoas novas no campo estão fora de linha com a realidade”, sugerindo que mesmo comentários especializados devem ser avaliados com cautela.
Por que isso importa para SEO e marketing digital
Adotando novas ferramentas
A pressão para adotar ferramentas de IA pode ofuscar suas limitações. Como as questões de precisão factual permanecem sem solução, os profissionais de marketing devem usar a IA com responsabilidade.
A realização de auditorias regulares e a busca de análises de especialistas pode ajudar a reduzir os riscos de desinformação, particularmente em indústrias regulamentadas pelos padrões de ymyl (seu dinheiro, sua vida), como finanças e saúde.
O impacto na qualidade do conteúdo
A geração de conteúdo baseada em IA pode levar a imprecisões que podem prejudicar diretamente a confiança do usuário e a reputação da marca. Os mecanismos de pesquisa podem rebaixar sites que publicam material não confiável ou enganoso produzido pela IA.
Recomenda-se uma abordagem humana-mais-AI, onde recomenda-se que os editores sejam meticulosamente que verifiquem os resultados da IA.
Navegando pelo hype
Além dos desafios da criação de conteúdo, os líderes devem adotar uma visão clara para navegar no ciclo do hype. O relatório alerta que o hype pode desviar os recursos e ofuscar ganhos mais sustentáveis.
Os profissionais de pesquisa que entendem as capacidades e limitações da IA estarão melhor posicionados para tomar decisões estratégicas que agregam valor real.
Para mais detalhes, leia o relatório completo (link PDF).
Imagem em destaque: Patpitchaya/Shutterstock
