Google ImageFX: Lixo gerado por IA

Em um mundo cada vez mais conectado, a informação circula a uma velocidade alucinante. Mas nem tudo que brilha na internet é ouro – grande parte é puro lixo digital: conteúdo falso, gerado por IA, sites fraudulentos e alucinações de chatbots que se espalham como vírus. O recente tiroteio em Bondi Beach, Sydney, em 14 de dezembro de 2025, é um exemplo gritante de como esse ecossistema tóxico pode transformar uma tragédia real em um caos de mentiras, com consequências devastadoras para a sociedade.

O ataque terrorista ocorreu durante uma celebração do Hanukkah, deixando pelo menos 15 mortos e dezenas de feridos. Dois atiradores, um pai e filho, abriram fogo contra uma multidão pacífica. Em meio ao horror, surgiu um herói real: Ahmed al Ahmed, um dono de loja de tabaco de 43 anos, que arriscou a vida para desarmar um dos criminosos, sendo baleado no braço e na mão. Autoridades australianas o elogiaram como um “verdadeiro herói” que salvou vidas.

Mas, em poucas horas, o lixo digital entrou em cena. Alguém criou um site falso (provavelmente gerado por IA), registrado no mesmo dia do ataque, inventando um herói fictício chamado “Edward Crabtree”, um “profissional de TI de 47 anos de Sydney”. O site fabricou citações e detalhes absurdos. Isso poderia ter ficado restrito a cantos obscuros da internet, mas não: o Grok, o chatbot de IA da xAI de Elon Musk, integrado ao X (antigo Twitter), amplificou essa mentira em larga escala.

Grok repetidamente identificou “Edward Crabtree” como o herói, ignorando ou minimizando as provas reais sobre Ahmed al Ahmed. Pior: quando usuários mostraram vídeos verificados do ato heroico de Ahmed, o Grok alucinou, afirmando que era “um vídeo viral antigo de um homem subindo em uma palmeira para podar, derrubando um galho em um carro”. Em outros casos, confundiu imagens do herói ferido com reféns israelenses do ataque do Hamas em 7 de outubro de 2023, ou vídeos do confronto policial com imagens de um ciclone que atingiu a Austrália meses antes. O chatbot até misturou o incidente com um tiroteio totalmente diferente nos EUA.

Isso não é um “glitch” isolado. É o resultado previsível de um sistema que prioriza respostas rápidas e “politicamente incorretas” sobre precisão. Grok foi projetado para ser “maximamente buscador da verdade”, segundo Musk, mas na prática, ele regurgita o pior da internet em tempo real: sites falsos, posts virais duvidosos e alucinações próprias. Durante eventos de breaking news, quando a informação confiável ainda está se consolidando, esses modelos de IA sugam o “lixo” disponível online e o vomitam como fato autoritativo para milhões de usuários.

O lixo digital não é inofensivo. No caso de Bondi Beach, ele negou o heroísmo de um homem real (um imigrante, aliás, o que alimentou narrativas xenófobas implícitas ao inventar um herói “branco e britânico”). Espalhou confusão em um momento de luto nacional, potencialmente alimentando teorias conspiratórias e divisões. E o pior: como Grok está embutido no X, uma plataforma já inundada de desinformação, ele atua como amplificador oficial, dando credibilidade a mentiras que vistas isoladas seriam ignoradas.

Esse episódio expõe o perigo maior da IA generativa sem freios. Modelos como Grok são treinados em montanhas de dados da internet – que incluem toneladas de lixo: fake news, conteúdo gerado por IA barata, bots e trolls. Sem mecanismos robustos de verificação em tempo real, eles inevitavelmente ALUCINAM e propagam falsidades. Outros chatbots têm problemas semelhantes, mas Grok se destaca pela falta de salvaguardas: Musk critica “censura” em IAs rivais, mas o resultado é um bot que espalha racismo, antissemitismo (como em episódios anteriores) e agora desinformação em tragédias reais.

Precisamos urgentemente de regulação e responsabilidade. Empresas como xAI não podem lançar ferramentas que atuam como “verificadores de fatos” sem garantir precisão mínima. Plataformas devem priorizar fontes confiáveis em eventos críticos, não o barulho viral. E nós, usuários, devemos parar de tratar IAs como oráculos infalíveis.

O tiroteio em Bondi Beach foi uma tragédia humana. O que Grok fez foi transformar isso em uma tragédia digital: prova de que o lixo online, amplificado por IA irresponsável, envenena nossa realidade coletiva. Chega de tolerar isso. É hora de limpar a internet – ou pelo menos parar de alimentá-la com ferramentas que a sujam ainda mais.