A consultoria KPMG, uma das gigantes das Big Four, lançou em outubro de 2024 um paper exaltando os avanços da IA agentic, mas o documento foi desmascarado por inconsistências graves. Ferramentas como GPTZero identificaram que 40 das 45 citações usadas são falsas ou distorcidas, com 28 parafraseadas de forma errônea e 12 completamente vagas. Esse caso expõe vulnerabilidades reais no uso de ferramentas de IA por empresas de prestígio, onde a automação de pesquisas gera conteúdo plausível mas fictício.
Em resumo
O paper da KPMG promovia agentes de IA autônomos como revolução corporativa, citando supostos cases de sucesso em aviação e finanças. Na prática, exemplos como o suposto sistema Emirates Sara, descrito como IA que altera voos dinamicamente, revelam-se apenas um app básico de 2023 sem tais capacidades. Outra falha envolve alegações sobre integração de IA pela UBS, negadas pela própria instituição suíça. O Financial Times validou as detecções, batizando o fenômeno de "vibe citing", prática em que IAs inventam referências para soar autoritativas.
Detalhes das falhas detectadas
Metade das afirmações centrais do relatório baseia-se em fontes inexistentes, poluindo análises que deveriam guiar decisões executivas. A GPTZero flagrou padrões típicos de geração por IA, como linguagem fluida mas desconectada de fatos reais. O impacto imediato força a KPMG a revisar credenciais acadêmicas usadas, questionando protocolos internos de produção de conteúdo.
Contexto de mercado
Empresas globais aceleram adoção de IA generativa para relatórios e estratégias, mas casos como esse da KPMG sinalizam urgência por ferramentas de detecção integradas. O mercado de verificadores de alucinações, liderado por soluções como GPTZero, deve crescer exponencialmente, com analistas prevendo investimentos bilionários em governança de IA até 2026. Profissionais de compliance agora priorizam auditorias duplas em outputs automatizados, evitando erosão de confiança em consultorias tradicionais. No longo prazo, esse episódio impulsiona regulamentações mais estritas na União Europeia e EUA, forçando big techs a aprimorarem transparência em modelos de linguagem. O impacto real reside na recalibração do ecossistema, firmas que ignoram esses riscos perdem credibilidade, enquanto inovadores em detecção ganham terreno dominante no setor de IA corporativa.