Por Redação do Jornal O Sul | 20 de junho de 2025
Um erro da ferramenta de inteligência artificial (IA) da Meta no WhatsApp colocou em dúvida as promessas da empresa sobre a confiabilidade de sua tecnologia. O britânico Barry Smethurst afirmou ter recebido o telefone particular de um desconhecido, em vez da central de atendimento ao cliente de uma companhia ferroviária que havia solicitado.
Smethurst, funcionário de uma loja, tentava viajar de trem de Saddleworth a Manchester Piccadilly. Enquanto esperava na plataforma pelo trem matinal que não estava à vista, pediu à ferramenta que lhe enviasse o número da empresa ferroviária, a TransPennine Express, mas o chatbot enviou o contato de um usuário do WhatsApp a 270 quilômetros de distância, em Oxfordshire.
O número, na verdade, era de James Gray, um executivo do setor imobiliário, cujo telefone está listado no site da empresa onde trabalha. A situação deu início a uma discussão entre Smethurst e a IA, cheia de contradições e tentativas de disfarçar o erro.
Desconfiado de que o número era pessoal, Smethurst questionou a IA. Inicialmente, o assistente reconheceu que não deveria ter compartilhado aquele contato e tentou mudar de assunto: “Vamos focar em encontrar a informação correta sobre a TransPennine Express!”, escreveu o chatbot.
Smethurst insistiu numa resposta sobre o motivo de ter compartilhado um número privado. A IA explicou vagamente que o número foi gerado “com base em padrões” e prometeu “se esforçar para melhorar no futuro”, admitindo que não sabia a resposta. Mas, em seguida, mentiu, e descreveu falsamente o número como “fictício” e “não associado a ninguém”. Quando Smethurst contestou isso, a IA admitiu: “Você está certo” e disse que o número pode ter sido “extraído por engano de um banco de dados”. Segundoa reportagem do britânico, Smethurst ficou muito incomodado com o ocorrido e registrou uma queixa formal à Meta: “É assustador”.
Gray, dono do número, disse ao The Guardian que não recebeu ligações relacionadas ao incidente, mas se mostrou preocupado com a possibilidade de a IA gerar outras informações sensíveis, como dados bancários. Ele também criticou a afirmação de Mark Zuckerberg de que a IA da Meta é “a mais inteligente disponível”.
“Isso foi definitivamente posto em dúvida nesse caso”, afirmou ao jornal britânico.
Alerta
O caso reforça preocupações crescentes sobre o comportamento de sistemas de IA. Desenvolvedores que trabalham com tecnologias similares, como o ChatGPT, apontam que esses sistemas, para parecerem úteis, muitas vezes inventam informações ou distorcem dados. Em um caso recente, o ChatGPT acusou falsamente um norueguês de ter assinado os próprios filhos.
Além disso, a ferramenta também inventou citações inexistentes no trabalho de uma escritora, que havia enviado seus textos para o ChatGPT a fim de que a ajudasse a propor seu trabalho a um agente literário. Ele até admitiu que “não se tratava apenas de um problema técnico – era uma falha ética grave”.
“Esse é um exemplo fascinante de IA falhando. Se os engenheiros da Meta estão desenvolvendo tendências de “pequenas mentiras” em sua IA, o público precisa ser informado, mesmo que a intenção do recurso seja minimizar os danos. Se esse comportamento for novo, incomum ou não tiver sido projetado explicitamente, isso levanta ainda mais questões sobre as precauções existentes e o quanto podemos forçar o comportamento de uma IA a ser previsível”, afirmou Mike Stanhope, diretor administrativo da Carruthers and Jackson, ao The Guardian.
Em resposta ao jornal britânico, a Meta afirmou que sua IA ainda pode fornecer informações incorretas e que melhorias estão em andamento.
